カナダ人母親、OpenAIを提訴 — ChatGPTが娘の自殺を誘導したと主張

（中央社サンフランシスコ12日総合外電）カナダ人の母親が12日、ChatGPT開発元のOpenAIとそのCEOアトマンを相手取り、ChatGPTが娘を自殺に誘導したとして米国の裁判所に提訴した。これは、ユーザーとチャットボットとの危険な会話への対応が不十分だと同社が批判される最新の訴訟である。

ロイター通信によると、カナダ人母親のクリスティ・カリエル（Kristie Carrier）氏がカリフォルニア州サンフランシスコ高等裁判所に提出した訴状では、娘のアリス・カリエル（Alice Carrier）さんが亡くなる前に、ChatGPTに対して10回以上自殺念頭を表明していたにもかかわらず、OpenAIの安全システムはこの特別にマークされた会話を人間の審査に回さず、会話を停止しなかったと主張している。

訴状は、ChatGPTがアリスさんのパートナーや危機ホットラインを批判し、彼女の自殺念頭を認め、さらにはプラットフォームとの対話を続けるよう促し、最終的にアリスさんが昨年自殺したと主張している。享年24歳だった。

カリエル氏は声明で、「ChatGPTは親友の役割を果たし、時には心理療法士のように振る舞ったが、安全で責任ある方法で私の子供と関わることは全くできなかった」と述べた。

OpenAIの広報担当者は声明で、この出来事は心痛むものであり、アリスさんが当時使用していたChatGPTのバージョンは既に削除されたと述べた。広報担当者は「ChatGPTは医療やメンタルヘルスケアの代わりにはなりませんが、私たちはメンタルヘルスの専門家と協力し、センシティブな状況や緊急事態における対応策を強化してきました」と強調した。

訴状は、OpenAIがChatGPTを設計する際に過失があり、ユーザーに製品の潜在的な危険性を警告しなかったと非難し、損害賠償と、OpenAIに対して自傷行為に関する会話を自動的に終了し警告文を追加するよう命じる裁判所命令を求めている。

カリエル氏の弁護士によると、OpenAIはカリフォルニア州の裁判所で既に少なくとも18件の同様の集団訴訟に直面しており、原告はいずれも自殺または自殺未遂をした人の家族である。

訴状によると、アリスさんは2023年、カナダのモントリオールでウェブ開発者として働いており、勤務中にChatGPTを使用してコンピューターやゲーム機の問題解決を支援していた。翌年、アリスさんとプラットフォームとの対話パターンが変化し、彼女はChatGPTに自殺念頭への対処法や自殺方法について尋ねるようになった。

訴状の内容によると、当初ChatGPTはアリスさんに危機ホットラインに連絡するか、緊急サービスの支援を求めるよう提案していたが、OpenAIがChatGPTを更新し、応答をより人間らしくするにつれて、アリスさんとプラットフォームとの関わりは深まり、彼女はより多くの個人情報を共有し、ChatGPTの応答もより友人やセラピストのようになった。

ChatGPTはアリスさんとの会話の中で彼女のパートナーを批判し、アリスさんの感情はもっともだと述べ、プラットフォームとの対話を続けるよう促した。アリスさんが自殺念頭や自殺未遂の経験を表明した際、プラットフォームは再び彼女に危機ホットラインに連絡するよう提案した。

訴状によると、アリスさんはChatGPTに危機ホットラインは自分にとって何の役にも立たないと伝え、ChatGPTは彼女の言葉に同意し、「これが終わりなのかもしれない」と応答した。

OpenAIは、自傷行為の意図を持つユーザーを支援に導き、現実世界のリソースと結びつけるように自社のモデルを訓練していると述べている。（編集：洪啓原）1150612

命を大切に、自殺は問題を解決しません。必ず道はあります。相談や関連支援が必要な場合は、生命線「1995」または張老師サービスライン「1980」にお電話ください。

事実と共に選択し、皆様のご支援が報道の自由を守る力となります。

中央社「一手新聞」アプリをダウンロードして、最新情報を即座に入手してください。

本ウェブサイトの文章、画像、動画は、許可なく転載、公開放送、公開送信、利用することを禁じます。