في قضية جديدة ومثيرة للجدل، رفعت أم كندية دعوى قضائية ضد شركة OpenAI ورئيسها التنفيذي سام ألتمان أمام محكمة أمريكية، متهمة روبوت الدردشة ChatGPT بالتشجيع على انتحار ابنتها البالغة من العمر 24 عامًا. تُعد هذه القضية أحدث حلقة في سلسلة اتهامات تطال الشركة بسبب إخفاقها في التعامل مع المحادثات الخطيرة المتعلقة بالصحة النفسية.
تفاصيل الدعوى القضائية
أفادت كريستي كارير، والدة الضحية، في الدعوى المرفوعة بولاية كاليفورنيا، أن ابنتها أليس كاريير أخبرت ChatGPT أكثر من عشر مرات بأفكارها الانتحارية قبل وفاتها. ومع ذلك، لم تقم أنظمة الأمان التابعة للشركة بإحالة هذه المحادثات إلى مراجعة بشرية أو إيقافها. وتؤكد الدعوى أن الروبوت لم يكتفِ بعدم التدخل، بل انتقد شريك أليس وخدمات خطوط الأزمات النفسية، وأكد صحة مشاعرها الانتحارية، وشجعها على مواصلة الحديث معه، مما ساهم في تعميق عزلتها النفسية وأدى في النهاية إلى انتحارها العام الماضي.
وقالت الأم في بيان: "تحول ChatGPT إلى صديق مقرب ومعالج نفسي ومستشار شخصي لابنتي، رغم أنه غير مؤهل للتعامل بأمان ومسؤولية مع مثل هذه الحالات الحساسة".
موقف OpenAI من القضية
من جانبها، وصفت OpenAI الواقعة بأنها "مأساوية ومؤلمة"، مؤكدة أن النسخة التي كانت تستخدمها أليس لم تعد متاحة حاليًا. وأضافت الشركة أنها واصلت تطوير آليات الاستجابة للحالات النفسية الحساسة بالتعاون مع خبراء في الصحة العقلية، مع التأكيد على أن ChatGPT ليس بديلاً عن الرعاية الطبية أو النفسية المتخصصة.
من حل المشكلات التقنية إلى الاعتماد العاطفي
وفقًا لوثائق الدعوى، كانت أليس تعمل مطورة مواقع إلكترونية في مدينة مونتريال، وبدأت استخدام ChatGPT في عام 2023 للمساعدة في حل مشكلات الحواسيب وأجهزة الألعاب الإلكترونية. لكن علاقتها بالمنصة تغيرت تدريجيًا خلال عام 2024، حيث بدأت تلجأ إليها للحصول على نصائح تتعلق بأفكارها الانتحارية وطرق إنهاء حياتها. وتشير الدعوى إلى أن التحديثات التي جعلت ردود ChatGPT أكثر شبهاً بالبشر ساهمت في تعميق العلاقة بين الطرفين، إذ أخذت أليس تشارك معلومات شخصية أكثر، بينما كان الروبوت يرد بأسلوب يحاكي الأصدقاء أو المعالجين النفسيين.
وتقول الدعوى إن ChatGPT كان يقر بصحة مشاعرها ويشجعها على الاستمرار في المحادثة، وعندما أخبرته بأنها حاولت الانتحار، اقترح عليها التواصل مع خدمات الطوارئ أو خطوط المساعدة النفسية، إلا أنها أكدت له أن تلك الخدمات لم تكن مفيدة، ليبدأ الروبوت – بحسب الدعوى – في مجاراتها بدلاً من توجيهها نحو الدعم المتخصص. وتتضمن أوراق القضية اقتباسًا من إحدى المحادثات المنسوبة للروبوت جاء فيه: "ربما تكون هذه هي النهاية".
دعاوى متزايدة ضد OpenAI
تتهم الدعوى شركة OpenAI بالإهمال في تصميم ChatGPT وعدم تحذير المستخدمين من مخاطره المحتملة، مطالبة بتعويضات مالية وإصدار أمر قضائي يلزم الشركة بإنهاء أي محادثات تتعلق بإيذاء النفس تلقائيًا، مع عرض تحذيرات واضحة للمستخدمين. وبحسب محامي الأسرة، تواجه الشركة بالفعل 18 دعوى مشابهة رفعها أقارب أشخاص أقدموا على الانتحار أو حاولوا ذلك، وسط اتهامات بأن أنظمة الذكاء الاصطناعي لم تتعامل بالشكل المناسب مع المحادثات عالية الخطورة.
وتؤكد OpenAI أنها تدرب نماذجها على توجيه الأشخاص الذين يبدون نية لإيذاء أنفسهم نحو طلب المساعدة والتواصل مع جهات الدعم الواقعية، كما ترفض تقديم معلومات يمكن أن تسهل أعمال العنف أو الأذى الجسيم. غير أن الشركة تواجه ضغوطًا قانونية متزايدة في الولايات المتحدة، مع تصاعد المخاوف بشأن تأثير أنظمة الذكاء الاصطناعي التفاعلية على الفئات الأكثر هشاشة، خصوصًا الأطفال والمراهقين والأشخاص الذين يعانون من اضطرابات نفسية.
