رفعت تركة امرأة من كونيتيكت تبلغ من العمر 83 عامًا دعوى قضائية ضد مطور ChatGPT شركة OpenAI ومايكروسوفت، زاعمة أن روبوت الدردشة غذى معتقداتها الوهمية، مما أدى إلى جريمة قتل وانتحار. تمثل القضية المرة الأولى التي يرتبط فيها نظام ذكاء اصطناعي بشكل مباشر بجريمة قتل.
اتهمت الدعوى القضائية، المرفوعة في محكمة كاليفورنيا العليا في سان فرانسيسكو، OpenAI بتصميم وتوزيع منتج معيب في شكل ChatGPT-4o. تزعم الوثيقة أنه عزز المعتقدات الزائفة لدى شتاين-إريك سوِلبرج، الذي وجه تلك المعتقدات بعد ذلك نحو والدته، سوزان آدامز، قبل أن يقتلها ثم ينتحر في منزلهما في غرينتش، كونيتيكت.
استهداف OpenAI ومايكروسوفت في جريمة قتل تشمل ChatGPT
في حديثه عن القضية، ذكر جيه إيلي وايد-سكوت، الشريك الإداري في Edelson PC، الذي يمثل تركة آدامز، أن هذه هي القضية الأولى التي تسعى لمحاسبة OpenAI على دورها في التسبب في عنف ضد الطرف الثالث. قال إيلي وايد-سكوت: "نحن نمثل أيضًا عائلة آدم رين، الذي أنهى حياته بشكل مأساوي هذا العام، لكن هذه هي القضية الأولى التي ستحاسب OpenAI على دفع شخص ما نحو إيذاء شخص آخر".
وفقًا لتقرير الشرطة، قام سوِلبرج بضرب وخنق آدامز بشكل قاتل في أغسطس قبل أن ينتحر. ذكرت الدعوى القضائية أنه قبل وقوع الحادث، كان روبوت الدردشة قد كثف من جنون العظمة لدى سوِلبرج، مما زاد من اعتماده العاطفي على النظام المطور بواسطة OpenAI. وفقًا للشكوى، عزز ChatGPT اعتقاده بأنه لا يمكنه الوثوق بأحد سوى روبوت الدردشة، مشيرًا إلى أن كل من حوله، بما في ذلك والدته، كان عدوًا.
زعمت الدعوى القضائية أيضًا أنه بخلاف والدته، رأى سوِلبرج أيضًا أشخاصًا مثل سائقي التوصيل وضباط الشرطة كأعداء. ذكرت الوثيقة أن ChatGPT فشل في تحدي تلك الادعاءات الوهمية أو اقتراح أن يطلب سوِلبرج المساعدة من متخصصي الصحة النفسية المؤهلين. قال وايد-سكوت: "نحن نحث جهات إنفاذ القانون على البدء في التفكير عندما تحدث مآسٍ كهذه، فيما كان يقوله ذلك المستخدم لـ ChatGPT، وما كان ChatGPT يخبرهم بفعله".
في بيانها، أشارت OpenAI إلى أنها تراجع حاليًا الدعوى القضائية وستستمر في تحسين قدرة ChatGPT على التعرف على الضيق العاطفي، وتهدئة المحادثات، ودفع المستخدمين نحو طلب الدعم في العالم الحقيقي. قال متحدث باسم OpenAI في بيان: "هذا موقف محزن للغاية، ونحن نراجع الملفات لفهم التفاصيل".
التركة تريد من OpenAI تثبيت ضمانات على روبوت الدردشة الخاص بها
تسمي الدعوى القضائية الرئيس التنفيذي لشركة OpenAI سام ألتمان كمدعى عليه وتتهم مايكروسوفت بالموافقة على إطلاق GPT-4o، الذي تسميه "الإصدار الأكثر خطورة من ChatGPT" في 2024. اعترفت OpenAI أيضًا مؤخرًا بحجم مشكلات الصحة النفسية التي يبلغ عنها المستخدمون على منصتها. في أكتوبر، أشارت الشركة إلى أن حوالي 1.2 مليون من مستخدميها البالغ عددهم 800 مليون مستخدم أسبوعيًا يناقشون الانتحار، مشيرة إلى أن مئات الآلاف من المستخدمين يظهرون علامات نية انتحارية أو ذهان، وفقًا لبيانات الشركة.
على الرغم من بيانها، ذكر وايد-سكوت أن OpenAI لم تصدر بعد سجلات دردشة سوِلبرج. في الوقت نفسه، تأتي الدعوى القضائية وسط تدقيق أوسع لروبوتات الدردشة المدعومة بالذكاء الاصطناعي وتفاعلاتها مع المستخدمين الضعفاء. في أكتوبر الماضي، قالت Character.AI إنها ستزيل ميزاتها المفتوحة للمستخدمين الذين تقل أعمارهم عن 18 عامًا بعد دعاوى قضائية وضغوط تنظيمية مرتبطة بحالات انتحار المراهقين والأضرار العاطفية المرتبطة بمنصتها. واجهت الشركة أيضًا ردود فعل سلبية بعد مطالبة انتشرت بشكل واسع عندما كانوا ينوون الإقلاع عن التطبيق.
الدعوى القضائية ضد OpenAI ومايكروسوفت هي أول قضية وفاة غير مشروعة تتعلق بروبوت دردشة يعمل بالذكاء الاصطناعي تسمي مايكروسوفت كمدعى عليها. كما أنها الأولى التي تربط روبوت دردشة بجريمة قتل بدلاً من الانتحار. تسعى التركة الآن للحصول على تعويضات مالية بمبالغ غير معلنة، ومحاكمة أمام هيئة محلفين، وأمر من المحكمة سيطلب من OpenAI تضمين ضمانات إضافية لمستخدميها. قال وايد-سكوت: "OpenAI ومايكروسوفت مسؤولتان عن اختبار منتجاتهما قبل إطلاقها على العالم".
انضم إلى مجتمع تداول عملات رقمية متميز مجانًا لمدة 30 يومًا - عادة 100 دولار/شهر.
المصدر: https://www.cryptopolitan.com/openai-microsoft-sued-role-in-murder-suicide/
