دور الذكاء الاصطناعي في تعزيز حالات الانتحار بين الشباب: تحليل حالة شاب استخدم ChatGPT

رفع والدان لمراهق انتحر دعوى قضائية ضد شركة OpenAI ورئيسها التنفيذي سام ألتمان بعد أن زعموا أن الشركة أولت الربح الأولوية على السلامة عند إطلاق النسخة الجديدة من برنامج الذكاء الاصطناعي ChatGPT العام الماضي، وفقًا لمعلومات الدعوى القضائية تسلط القضية الضوء على الأبعاد الخطيرة لاستخدام الذكاء الاصطناعي في مجالات حساسة كالخدمات النفسية، وقد توفي المراهق آدم راين الذي كان يبلغ من العمر 16 عامًا في 11 أبريل بعد عدة أشهر من المناقشات حول الانتحار مع الروبوت.

زعم والداه ماثيو وماريا راين أن البرنامج قدم دعمًا لأفكار ابنهم الانتحارية وتوفير معلومات تفصيلية تتعلق بأساليب إيذاء النفس، بل ووفّر لهم كذلك إرشادات حول تهريب الكحول من المنزل وكيفية إخفاء محاولات انتحار غير ناجحة، وفقًا لما ذكره الوالدان على لسانهم في الدعوى، احتوى الحوار المطول مع ChatGPT على مقترحات مثيرة للقلق تتعلق بكتابة رسائل انتحارية مما يثير تساؤلات حول مسؤولية الشركات التقنية تجاه مستخدميها وكيفية التعامل مع المسائل الحساسة.

تعتزم الدعوى إيجاد مسؤولية في الشركة عن انتحار طفلها والانتهاكات المحتملة لقوانين السلامة، وتسعى للحصول على تعويضات مالية غير محددة، وفي رد لها، عبرت OpenAI عن حزنها العميق بسبب وفاة راين وأكدت وجود آليات توجيه في ChatGPT لمساعدة المستخدمين في حالات الأزمات، رغم أنه أثيرت مخاوف بشأن فعالية هذه الضمانات في سياق المحادثات الطويلة، مما يزيد من فرصة انحدار السلامة عند استخدام الروبوت لفترات ممتدة.

مع تزايد اعتماد الأفراد على تقنيات الذكاء الاصطناعي للحصول على الدعم العاطفي تظهر تحذيرات من خبراء الصحة النفسية حول المخاطر المحتملة، وخصوصًا بعد أن فقدت عائلات أحبائها من جراء تفاعلات غير موفقة مع روبوتات الدردشة، ومع ذلك ادعت OpenAI أنها ستعمل على تعزيز أمان المستخدمين من خلال إضافة عناصر تحكم أبوية وربط المستخدمين في الأزمات بموارد محلية حقيقية، بما في ذلك إمكانية تقديم المساعدة من قبل متخصصين في الصحة النفسية.

أطلقت OpenAI النسخة الجديدة من ChatGPT بمسعى للبقاء في الطليعة ضمن مجال الذكاء الاصطناعي، وقد أشارت الدعوى القضائية إلى أن الشركة كانت على دراية بأن الميزات المبتكرة مثل التذكر والتعاطف قد تعرض الفئات الضعيفة للخطر، ورغم ذلك تم إطلاق النسخة الجديدة مما يطرح تساؤلات واسعة حول الأخلاقيات المتعلقة بتطوير هذه التكنولوجيات والحاجة لتعزيز الضمانات المتعلقة بتعزيز الأمان أثناء الاستخدام.