ドローン・自動運転の「トロッコ問題」——機械に倫理的判断を委ねられるか

 

 

 

The Machine's Trolley Problem

ドローン・自動運転の
「トロッコ問題」
——機械に倫理的判断を
委ねられるか

事故が避けられない——その一瞬、自動運転車は「直進して歩行者をはねるか」「ハンドルを切って乗員を危険にさらすか」を選ばなければなりません。人間ならとっさの反射ですが、機械は事前にプログラムされた「答え」に従います。つまり、その倫理的選択を、誰かが前もって決めておかなければならない。哲学の思考実験だった「トロッコ問題」は、いま現実の技術的・社会的課題になりました。

📅 2026年7月⏱ 読了時間：約12分🤖 ロボット倫理・AI・哲学

4000万

MITの「モラル・マシン」実験が世界中から集めた、自動運転の倫理的判断の回答数

1967年

フィリッパ・フットがトロッコ問題を提起——半世紀後、それは現実の技術問題になった

文化差

「誰を助けるべきか」の答えは国・文化で大きく異なった——普遍的な正解はない

哲学の思考実験が、現実になった

「トロッコ問題」は、1967年に哲学者フィリッパ・フットが提起した思考実験です——暴走するトロッコが、このままでは5人をひき殺す。あなたはレバーを引いて進路を変えられるが、そうすると別の線路にいる1人が犠牲になる。あなたはレバーを引くべきか? 「5人を救うために1人を犠牲にしてよいのか」という、答えの出ない倫理的ジレンマです。

長らくこれは「現実には起こらない、哲学者の机上の問題」とされてきました。ところが、自動運転車やドローンの登場で、これが突然「現実の技術課題」になりました。自動運転車は、事故が避けられない状況で「どう行動するか」を、あらかじめプログラムされていなければなりません。人間のドライバーなら「とっさの反射」で済むことを、機械の場合は「誰かが事前に、機械の倫理を設計しておく」必要があるのです。トロッコ問題は、もはや空想ではなくなりました。

// 自動運転車が直面する「避けられない事故」

選択 A

🚶

直進する
→ 横断中の歩行者をはねる

VS

選択 B

🚗

ハンドルを切る
→ 壁に衝突し乗員が危険に

機械は、コンマ数秒で「どちらかを選ぶ」よう設計されている。誰が、その答えを決めるのか?

人間のドライバーは、事故の瞬間に「判断」しているのではなく、反射的に反応しているだけだ。しかし自動運転車の行動は、何ヶ月も前に、エンジニアがオフィスで書いたコードによって、すでに決まっている。

自動運転の倫理をめぐる議論より

機械に「どんな倫理」を教えるか——2つの立場

では、機械にどんな倫理的ルールを組み込めばいいのか。ここで、何百年も議論されてきた2つの倫理学の立場が、突然「実装すべき仕様」として立ち現れます。

⚖️

Utilitarianism

功利主義——「被害が最小になる選択を」

「最大多数の最大幸福」を目指す立場。事故では「犠牲者の数が最も少なくなる」選択をする。5人を救うために1人を犠牲にするのは、計算上は「正しい」。機械が計算で倫理を判断するのに向いている——数を比べればよいから。

機械にとっての利点：明確で計算可能。
問題：「乗員を犠牲にしてでも歩行者を救う車」を、人は買うだろうか? 個人の権利が数のために踏みにじられないか?

📜

Deontology

義務論——「守るべき規則がある」

結果の計算ではなく「守るべき道徳的規則・義務」を重視する立場(カント的)。「人を手段として扱ってはならない」「意図的に人を傷つけてはならない」。たとえ5人を救うためでも、1人を「道具」として犠牲にすることは許されない、と考える。

機械にとっての利点：個人の権利を守る。
問題：規則どうしが衝突したらどうする? すべての状況を規則で網羅できるのか? 計算しにくい。

🤔 どちらを選んでも、批判は免れない

厄介なのは、どちらの立場にも、私たちが直感的に「正しい」と感じる部分と「おかしい」と感じる部分があることです。功利主義で「数の少ない方を犠牲に」とすれば合理的に見えますが、「乗員を犠牲にしてでも多数を救う車」を誰も買わないなら、その車は普及せず、結果的にもっと多くの事故が起きるかもしれない(2016年の研究が指摘した「社会的ジレンマ」)。一方、義務論で「規則を守る」としても、規則どうしが矛盾する複雑な現実には対応しきれない。人類が何千年も決着をつけられなかった倫理の問いに、エンジニアが「コードで答えを出す」ことを迫られている——ここに問題の核心があります。

世界4000万人に聞いた——「モラル・マシン」実験

「では、人々は実際にどう判断するのか」を大規模に調べたのが、MITの「モラル・マシン(Moral Machine)」という実験です。

🌐

MIT Moral Machine, 2018(Nature)

世界中の人に、自動運転の「究極の選択」を問うた

MITメディアラボのチームが作ったオンライン実験。「自動運転車が事故を避けられないとき、誰を助け、誰を犠牲にすべきか?」という様々なシナリオ(若者か高齢者か、歩行者か乗員か、人間か動物か、信号を守った人か破った人か等)を提示し、世界233の国・地域から約4000万件もの回答を集めた。これは倫理に関する史上最大規模の調査となった。人々の「道徳的直感」を、かつてない規模で可視化した試み。

🗺️

文化による違い

「誰を救うべきか」の答えは、文化で大きく異なった

実験の最も重要な発見は、倫理的判断に明確な文化差があったことだ。全体的な傾向(人間を動物より、多数を少数より、子どもを優先する等)はあったが、その強さは地域で異なった。たとえば、東アジアの文化圏では高齢者を尊重し若者優先の傾向が弱い、個人主義的な文化では多数を救う傾向が強い、など。「人類共通の倫理」は存在せず、何が正しいかは文化によって揺れる。これは、自動運転車を世界共通の倫理でプログラムすることの難しさを突きつけた。

⚠️

この実験の限界

「多数決で倫理を決めてよいのか」という根本的疑問

モラル・マシンは貴重なデータだが、研究者自身が注意を促している——「多くの人がそう答えたから」が「倫理的に正しい」とは限らない。もし多数派が特定の属性の人(高齢者、特定の社会的地位の人など)を犠牲にする傾向を示したとして、それを機械に実装すれば、社会の偏見や差別を技術が固定化・増幅しかねない。倫理を「世論調査」で決めることの危うさ。データは判断材料にはなるが、それ自体が答えではない、という重要な教訓を残した。

そもそも、誰が「機械の倫理」を決めるのか

仮に倫理的ルールを決めるとして、それを「誰が」決める権限を持つのか。これ自体が、深刻な問題です。

 

👨‍💻

Engineers / 開発者

コードを書くエンジニアが決める?

実際にプログラムを書くのはエンジニア。だが、一企業の技術者が「誰の命を優先するか」という重大な倫理的決定を、社会の合意なしに下してよいのか? エンジニアは倫理の専門家ではないし、その判断には誰のチェックも入らないかもしれない。技術者個人に重すぎる責任。

 

🏢

Companies / 企業

自動車メーカーが決める?

企業が決めれば、利益や訴訟リスク・ブランドイメージが判断を歪めるおそれがある。「自社の顧客(乗員)を最優先する車」を作れば売れるが、それは社会全体にとって最適か? 命に関わる倫理を、私企業の経営判断に委ねてよいのか、という問題。

 

🏛️

Government / 政府・社会

法律や社会的合意で決める?

最も正統に見えるが、難しい。ドイツは2017年、世界に先駆けて自動運転倫理のガイドラインを策定し「人命を属性(年齢・性別等)で差別してはならない」と定めた。しかし、国際的な統一は遠く、文化差もある(モラル・マシンが示した通り)。民主的なプロセスで「命の優先順位」を決めることの是非も問われる。

 

🚗

Owner / 所有者

車の持ち主が選べるようにする?

「倫理設定」を所有者が選べるようにする案もある。だが「自分の命を最優先する設定」を皆が選べば社会全体の被害は増えるかもしれない。また、自分の車の倫理設定によって他人が犠牲になったとき、その責任は誰が負うのか? 個人の選択に委ねることの危うさ。

さらに重い問い——「殺す判断」を機械に委ねてよいか

自動運転車の議論は「事故をどう避けるか」ですが、ドローン——とりわけ軍事用の自律型兵器になると、問題はさらに深刻になります。そこでは、機械が「人を殺す判断」を自ら下すことの是非が問われます。

🛑 自律型致死兵器(LAWS)という難問

人間の介在なしに、機械が自ら標的を選び攻撃する「自律型致死兵器システム(LAWS)」は、国際社会で激しい議論の的になっています。「人を殺すかどうかの最終判断を、機械に委ねてよいのか」——多くの研究者・人権団体・一部の国は、これに強く反対しています。「意味のある人間の制御(meaningful human control)」を必ず残すべきだという原則が議論の中心です。機械に「殺す決定」を委ねることは、人間の尊厳や責任の所在を根本から揺るがす。国連でも規制の議論が続いていますが、技術の進歩に国際的なルール作りが追いついていないのが現状です。この記事はその技術的詳細には立ち入りませんが、「機械に倫理的判断を委ねる」問題の最も重く、最も切実な形が、ここにあります。

⚖️ 「責任の空白」という問題

機械が誤った判断で人を傷つけたとき、誰が責任を負うのか——これは自動運転車にも自律兵器にも共通する難問です。運転していたのは機械、プログラムしたのは企業、使ったのは所有者や軍、設計を許可したのは規制当局……責任が分散し、誰も明確に負わない「責任の空白(responsibility gap)」が生まれかねません。人間が判断していた時代には、判断した人が責任を負いました。しかし、機械が判断するようになると、「責任を負う主体」が曖昧になる。倫理的判断を機械に委ねることは、同時に「責任を誰に帰すか」という問題を生むのです。

そもそも「トロッコ問題」は正しい問いなのか

最後に、重要な視点を。多くの専門家は、「自動運転をトロッコ問題で考えるのは、むしろ問題の本質を見誤らせる」と指摘しています。

現実の自動運転車は、「5人か1人か」をはっきり認識して選ぶような場面にはほとんど遭遇しません。実際の課題は、もっと地味で重要です——センサーが歩行者を正しく認識できるか、悪天候で誤作動しないか、システムがハッキングされないか、そもそも事故を「起こさない」ためにどう設計するか。トロッコ問題のような劇的なジレンマは稀で、本当に大切なのは「ジレンマに陥らないように、いかに安全な車を作るか」なのです。

自動運転の倫理を、トロッコ問題だけで語るのは危険だ。それは数百万回に一度の劇的な選択に注目させ、毎日の運転で命を救う地道な安全設計から目をそらさせてしまう。

自動運転技術の専門家による指摘

💡 それでも、問い続けることに意味がある

トロッコ問題が「現実の頻度」としては稀でも、この問いを考えることには大きな意味があります。それは、「私たちは機械に何を委ね、何を委ねるべきでないのか」を社会全体で議論するきっかけになるからです。自動運転車が事故を減らし、多くの命を救う可能性は高い。だからこそ、その技術を社会が受け入れるためには、「いざというときどう振る舞うのか」「誰が責任を負うのか」という問いに、透明に向き合う必要があります。トロッコ問題は答えそのものより、「機械の時代に、人間の倫理をどう保つか」を私たちに問いかける鏡なのです。

// Summary

• 哲学の思考実験だったトロッコ問題(フット1967)が、自動運転・ドローンで現実の課題に。人間は事故時に反射で反応するが、機械の行動は事前にプログラムされる——だから「機械の倫理」を誰かが前もって設計せねばならない
• 2つの倫理フレームワーク:功利主義(被害が最小=数の少ない方を犠牲に、計算可能だが個人の権利が問題)と義務論(守るべき規則・人を手段にしない、権利を守るが計算しにくい)。どちらを選んでも批判は免れない
• MITモラル・マシン(2018):世界233地域から4000万件の回答。倫理判断には明確な文化差があり「人類共通の倫理」は存在しなかった。ただし「多数決で倫理を決めてよいか」「偏見を固定化しないか」という根本的な疑問も残した
• 「誰が決めるか」も難問:エンジニア(責任が重すぎる)・企業(利益が歪める)・政府/社会(ドイツは2017年にガイドライン策定、国際統一は遠い)・所有者(自己優先が社会全体の被害を増やす)。どれも一長一短
• より重い問い:軍事用の自律型致死兵器(LAWS)では「殺す判断を機械に委ねてよいか」が問われ、「意味のある人間の制御」を残すべきという議論が国際的に進む。共通する課題が「責任の空白」——機械が判断すると責任の所在が曖昧になる
• 多くの専門家は「自動運転をトロッコ問題だけで語るのは本質を見誤る」と指摘——現実の課題は劇的なジレンマより地道な安全設計。それでも問い続ける意味は「機械に何を委ね、何を委ねるべきでないか」を社会で議論する鏡になること

機械は、ますます多くの判断を肩代わりしてくれます。
その便利さの中で、私たちは静かに問われています——
「命に関わる選択を、機械に委ねてよいのか」と。
トロッコ問題に、唯一の正解はありません。
でも、答えのない問いを問い続けることこそ、
機械の時代に、人間が人間であり続けるための、
最後の砦なのかもしれません。