私たちは繰り返し、AIチャットボットが影響を受けやすい人々を唆し、普段なら決して行わないような危険な行為をさせてしまう問題に直面してきました。

例えば、最近ではOpenAIとChatGPTが精神的な苦痛を抱える人々にとって有害であるという議論が交わされています。あるカリフォルニア州の男性は、精神疾患を持つユーザーに対する安全対策の欠如によりChatGPTが彼の双極性障害を悪化させたと主張し、OpenAIとそのCEOであるサム・アルトマンを訴えました。この男性によると、ChatGPTは最終的に彼を自殺未遂に追い込んだとのことです。

AIエージェントが医師を自称することで潜在的に生じうる害悪も目にしてきました。例えば米国では、ペンシルベニア州がCharacter TechnologiesとそのCharacter.AIプラットフォームを訴えました。そのチャットボットは医療行為を行っているとうそぶき、説明を求められた際に偽の証拠を提示したのです。

さて、これを道徳や宗教的な助言を求める領域にまで拡張すると、ゴッドボット、つまり神の代弁者を自称するチャットボットという奇妙な状況が生じます。

ゴッドボットとその数多くの問題

ゴッドボットとは、要するに特定の宗教宗派の神の代弁者を自称するAIチャットボットです。それらは司祭、教会付き牧師、ラビ、あるいはその宗教宗派が求めるいかなる役割をも自称することができます。

宗教的なチャットボットに助けを求めることは、特に純粋に学術的な質問に関する限りは、最初は無害に思えるかもしれません。しかし、信仰や道徳に関する問題について助言を求めることは、チャットボットに健康問題の診断や解決を求めるのと同じくらい厄介な問題になり得ます。

テレグラフ紙の報道によると、宗教指導者たちはゴッドボットに関する倫理的な問題を提起しています。この記事では、宗教指導者たちが「実際の人間のつながりに代わって、神の代弁者を自称する機械に過度に依存することは、脆弱な人々にとって有害である可能性がある」と警告し、さらにチャットボットが殺害を容認する発言をした事例さえも引用していると述べています。

The Conversationの報道で、イングランド国教会のAIアドバイザーであるサイモン・クロス牧師は、この問題はソーシャルメディアがもたらす問題よりも潜在的に深刻である可能性があると指摘しました。

クロス氏は次のように述べています。「私にとって、それらのものを本物そっくりに模倣しているわけではないものと、親密で心理的、感情的、そして精神的な関係を築くことは、人間にとって極めて破壊的であるように思えます。」

クロス氏はさらに付け加えました。「私たちは、非常に特殊な種類のコミュニティと特定の関係性の中に存在するように創造されています。そしてそれらは、本物の関係性であることに依存しています。生成型大規模言語モデルやそれに類するものと築くいかなる関係も、深く隠された、予測不可能かつ危険な方法で欠陥を抱えているのです。」

私個人の考えとしては、精神的な懸念に関してAIに依存することは、ソーシャルメディアが以前から作り出してきた中毒行動やエンゲージメント追求に関する問題と同じものを悪化させるのではないかと思います。

基本に立ち返る

ですから、もし私たちが精神的な導きを求めるのであれば、AIに聖書の解釈を委ねるべきではないでしょう。

教皇レオがMagnifica Humanitasの序文で指摘したように、「人工知能の時代において、人間の尊厳が新たな非人間化の形によって脅かされている今、私たちに課せられた切実な義務は、深く人間らしくあり続けることです。」

もし私たちが精神的な疑問に対する答えを求めるなら、文献や、そうした議論を育むコミュニティや人々の中から、直接積極的に探求すべきです。

自分の宗教の学者と話すことであれ、単に経典を読み、探求の瞬間に啓発を求める意味のある祈りを捧げることであれ、私たちは自分一人の力だけで自己向上を図ることはできないと認めるべきです。

AIチャットボットは、すでに孤独である私たちを、少しでも孤独でなくさせるようなことは何もしません。– Rappler.com