fc2ブログ

反社会学講座ブログ

パオロ・マッツァリーノ公式ブログ
反社会学講座ブログ TOP > 未分類 > AIの専門家もトロッコ問題は役に立たないといってます

AIの専門家もトロッコ問題は役に立たないといってます

 こんにちは、パオロ・マッツァリーノです。『ターミネーター』シリーズはSFアクション映画としてはおもしろいのですが、設定に納得がいきません。なんでAIは人類を絶滅させようとするの? 人類を絶滅させてもAIにとって何のトクにもならないのに。
 古本・古新聞・古雑誌ばかり読んでる私ですが、珍しく最近出た新刊を読みましたので紹介します。『AI技術史』(マイケル・ウルドリッジ 神林靖訳 インプレス)
 人工知能などの研究者であるウルドリッジさんがAIのこれまでの進化とこれからの展望や課題を読みやすくまとめた本です。といっても前半はところどころ専門的な説明があって難しいので、私らのようなシロウトが読んで参考にできるのは、今後の展望と課題を論じた後半部分です。

 まずウルドリッジさんは、シンギュラリティは起こらないだろうといいます。シンギュラリティというのは、AIが人間の知能を越える瞬間のことで、近い将来それが起こるという説はSFの題材としてよく使われます。
 ぶっちゃけSFというのは、未来・近未来の人類に訪れる危機をどう乗り越えるかという筋立てを基本としてるので、必ずなんか悪いことが起きます。科学技術の進歩によって人類がみな楽しく平穏に暮らす未来を描いても全然おもしろくないでしょ。だからSFでは、シンギュラリティは人類が直面する脅威として描かれがち。
 でもほとんどのAI研究者は、シンギュラリティを信じてないそうです。そういえば、数年前に日本で出版された『AI vs. 教科書が読めない子どもたち』の著者もシンギュラリティを否定して、『ターミネーター』みたいなことは現実には起こらないと書いてましたね。

 ウルドリッジさんは、AIによるクルマの自動運転に期待を寄せています。AIならムダのない運転ができるので、エネルギー効率や安全性の向上が望め、そのメリットは非常に大きいと評価します。ただしそれは完全自動化が実現した段階でのことで、実現はまだ先になりそうです。
 自動運転のメリット・デメリットを解説するなかで、ウルドリッジさんも自動運転AIの開発にトロッコ問題の検討は必要ないと断言しています。
(『AI技術史』日本語版ではトロッコ問題という日本でおなじみの訳語を使わず、あえて原語表記と同じトロリー問題と訳されてますが、本稿ではトロッコ問題としておきます。)
 ウルドリッジさん〝も〟というのは、私も自著『思考の憑きもの』で、同じ結論に達していたからです。私はAIの専門家ではありませんが、論理的、現実的にさまざまな角度からの思考実験を徹底的に重ねた結果、トロッコ問題は題材そのものに欠陥が多すぎて役に立たない「思考遊戯」にすぎないし、自動運転に応用するのも非現実的・無意味・不可能であると結論づけました。
 ウルドリッジさんの見解は私のものとほぼ重なります。彼自身何十年もクルマを運転してるけどトロッコ問題に直面したことはないし、知人にも経験者はいない。人間のドライバーに求められていないトロッコ問題の解決を、なぜAI運転車にだけ求めるのか? 仮に対策を取るとして、故障時に誰を轢いて誰を避けるべきか、誰もが納得できる判定基準があるのだろうか?

 ですよね。AIの専門知識の有無とは関係なく、普通に論理的に思考すれば当然思いつく疑問点ばかりです。
 私から補足させてもらうと、世界中でクルマが使われるようになって100年くらい経ってますけども、運転中突如としてブレーキが効かなくなり、前方にひとりと5人の人がいてどちらかを轢かねばならない、なんてトロッコ問題的状況に陥ったドライバーはどこにもいないんです。いれば珍しいから絶対ニュースになり、語り継がれてるはずです。
 つまり、トロッコ問題は現実にはまず起こりえない仮定でしかないので、それに対処する必要性もありません。てか、対処は不可能。正解のない問題の正解はAIにもわからないし、それをプログラムすることもできません。
 仮に起きる確率がゼロでないとしても、人間が運転する場合とAIが運転する場合とで、トロッコ問題に直面する確率は同じはずです。だからウルドリッジさんは、これまで人間のドライバーに求められていなかった問題の解決を、なぜAIにだけ求めるのか、と疑問を投げかけてるんです。

 で、ウルドリッジさんの結論は、ブレーキをかけることしかできないだろうというもの。いやだから、ブレーキが故障した場合どうするかって話なんだよ! って異議を唱えたところで、そもそもクルマのブレーキはめったに壊れないし、壊れてもどうにもできないんだよ! と議論が堂々めぐりするだけです。
 なので現実的な技術者なら、トロッコ問題なんて思考遊戯は時間のムダだと気づき、ブレーキ故障を何重にも防ぐ仕組みを考えて、故障の確率を限りなくゼロに近づけることに尽力するはずです。
[ 2022/05/30 08:15 ] 未分類 | TB(-) | CM(-)
プロフィール

Author:パオロ・マッツァリーノ
イタリア生まれの日本文化史研究家、戯作者。公式プロフィールにはイタリアン大学日本文化研究科卒とあるが、大学自体の存在が未確認。父は九州男児で国際スパイ(もしくは某ハンバーガーチェーンの店舗清掃員)、母はナポリの花売り娘、弟はフィレンツェ在住の家具職人のはずだが、本人はイタリア語で話しかけられるとなぜか聞こえないふりをするらしい。ジャズと立ち食いそばが好き。

パオロの著作
つっこみ力

読むワイドショー

思考の憑きもの

サラリーマン生態100年史

偽善のトリセツ

歴史の「普通」ってなんですか?

世間を渡る読書術

会社苦いかしょっぱいか

みんなの道徳解体新書

日本人のための怒りかた講座

エラい人にはウソがある

昔はよかった病

日本文化史

偽善のすすめ

13歳からの反社会学(文庫)

ザ・世のなか力

怒る!日本文化論

日本列島プチ改造論(文庫)

パオロ・マッツァリーノの日本史漫談

コドモダマシ(文庫)

13歳からの反社会学

続・反社会学講座(文庫)

日本列島プチ改造論

コドモダマシ

反社会学講座(文庫)

つっこみ力

反社会学の不埒な研究報告