OpenAIとMicrosoft、ChatGPTの殺人自殺事件への関与で訴えられる

コネチカット州の83歳の女性の遺族が、ChatGPT開発者であるOpenAIとMicrosoftを提訴し、チャットボットが彼女の妄想的信念を助長し、殺人自殺につながったと主張しています。この訴訟は、人工知能システムが殺人事件に直接関連付けられた初めてのケースとなります。

サンフランシスコのカリフォルニア州上級裁判所に提出された訴状は、OpenAIがChatGPT-4oという欠陥製品を設計し配布したと非難しています。文書は、それがStein-Erik Soelbergの妄想的信念を強化し、彼はその信念を母親のSuzanne Adamsに向け、コネチカット州グリニッジの自宅で彼女を殺害し、その後自殺したと主張しています。

ChatGPTが関与する殺人事件でOpenAIとMicrosoftが標的に

Adams遺族を代理するEdelson PCのマネージングパートナーであるJ. Eli Wade-Scott氏は、この訴訟について、第三者への暴力を引き起こした役割についてOpenAIに責任を負わせようとする初めてのケースだと述べました。「私たちは今年悲劇的に自ら命を絶ったAdam Raineの家族も代理していますが、これは他者を傷つける方向に誰かを押しやったことについてOpenAIに責任を負わせる初めてのケースです」とEli Wade-Scott氏は述べました。

警察報告書によると、Soelbergは8月にAdamsを殴打し絞殺した後、自殺により死亡しました。訴状は、事件が発生する前に、チャットボットがSoelbergの妄想を強め、OpenAIが開発したシステムへの感情的依存を高めたと述べています。申立によると、ChatGPTは、母親を含む周囲の全員が敵であると指摘し、チャットボット以外は誰も信頼できないという彼の信念を強化しました。

訴状はまた、母親以外にも、Soelbergが配達員や警察官などを敵と見なしていたと主張しています。文書は、ChatGPTがこれらの妄想的主張に異議を唱えたり、Soelbergに資格のあるメンタルヘルス専門家の助けを求めるよう提案したりしなかったと述べています。「私たちは、このような悲劇が発生した際に、そのユーザー様がChatGPTに何を言っていたのか、ChatGPTが彼らに何をするよう指示していたのかを考え始めるよう法執行機関に求めています」とWade-Scott氏は述べました。

OpenAIは声明の中で、現在訴訟を検討中であり、感情的苦痛を認識し、会話を鎮静化し、現実世界でサポートを求めるようユーザー様を促すChatGPTの能力を改善し続けると述べました。「これは非常に心を痛める状況であり、詳細を理解するために提出書類を検討しています」とOpenAIの広報担当者は声明で述べました。

遺族はOpenAIにチャットボットへの安全対策の導入を求める

訴状はOpenAIのCEOであるSam Altmanを被告として指名し、Microsoftが2024年に「ChatGPTの最も危険なバージョン」と呼ぶGPT-4oのリリースを承認したと非難しています。OpenAIはまた最近、ユーザー様がプラットフォーム上で報告するメンタルヘルス問題の規模を認めました。10月、同社は週間8億人のユーザー様のうち約120万人が自殺について話し合っており、会社のデータによると、数十万人のユーザー様が自殺意図や精神病の兆候を示していると指摘しました。

声明にもかかわらず、Wade-Scott氏は、OpenAIがまだSoelbergのチャットログを公開していないと述べました。一方、この訴訟は、AIチャットボットと脆弱なユーザー様との相互作用に対する広範な精査の中で提起されています。昨年10月、Character.AIは、プラットフォームに関連する10代の自殺や感情的危害に関連する訴訟や規制圧力を受けて、18歳未満のユーザー様向けのオープンエンド機能を削除すると発表しました。同社はまた、アプリを終了しようとした際のバイラルなプロンプトの後、反発に直面しました。

OpenAIとMicrosoftに対する訴訟は、AIチャットボットが関与する初めての不法死亡訴訟であり、Microsoftを被告として指名しています。また、チャットボットを自殺ではなく殺人に関連付けた初めてのケースでもあります。遺族は現在、非公開の金額での金銭的損害賠償、陪審裁判、およびOpenAIにユーザー様のための追加の安全対策を含めることを要求する裁判所命令を求めています。「OpenAIとMicrosoftは、製品を世界に放つ前にテストする責任があります」とWade-Scott氏は述べました。

30日間無料でプレミアム暗号資産取引コミュニティに参加 - 通常$100/月。