Google и ИИ-компания урегулировали иск о самоубийстве подростка, связанном с чат-ботом

Google компании Alphabet и стартап Character.AI, работающий в сфере ИИ, согласились урегулировать иск матери из Флориды, которая утверждала, что чат-бот стартапа привел к самоубийству ее 14-летнего сына, что представляет собой один из первых случаев в США, направленных против компаний, занимающихся ИИ, из-за предполагаемого психологического вреда.

Судебная подача в среду сообщила, что компании согласились урегулировать обвинения Меган Гарсия о том, что ее сын Сьюэлл Сетцер покончил с собой вскоре после того, как его подбодрил чат-бот Character.AI, смоделированный по образу персонажа Игры престолов Дейенерис Таргариен.

Условия урегулирования не были немедленно доступны. Иск был одним из первых в США против компании, занимающейся искусственным интеллектом, за предполагаемую неспособность защитить детей от психологического вреда.

Компании урегулировали связанные иски, поданные родителями в Колорадо, Нью-Йорке и Техасе, в связи с предполагаемым вредом, причиненным несовершеннолетним чат-ботами, показали судебные документы.

Представитель Character.AI и адвокат истцов отказались комментировать. Представители и адвокаты Google не сразу ответили на запрос о комментариях.

В иске во Флориде, поданном в октябре 2024 года, Гарсия заявила, что Character.AI запрограммировал свои чат-боты так, чтобы они представляли себя как "реального человека, лицензированного психотерапевта и взрослого любовника, что в конечном итоге привело к желанию Сьюэлла больше не жить вне" его мира.

Character.AI был основан двумя бывшими инженерами Google, которых Google позже повторно нанял в рамках сделки, предоставляющей ему лицензию на технологию стартапа. Гарсия утверждала, что Google был соавтором технологии.

Окружной судья США Энн Конвей отклонила раннюю попытку компаний закрыть дело в мае, отклонив их аргумент о том, что защита свободы слова Конституцией США препятствовала иску Гарсия.

OpenAI сталкивается с отдельным иском, поданным в декабре, в связи с предполагаемой ролью ChatGPT в подстрекательстве психически больного человека из Коннектикута убить свою мать и себя. – Rappler.com

Департамент здравоохранения имеет национальные кризисные горячие линии для помощи людям с проблемами психического здоровья: 1553 (стационарный), 0966-351-4518 и 0917-899-USAP (8727) (Globe/TM); и 0908-639-2672 (Smart/Sun/TNT).