الإجراءات التنظيمية لـ OpenAI: قيود استخدام ChatGPT للمستخدمين تحت 18 سنة

أعلن سام ألتمان الرئيس التنفيذي لشركة OpenAI عن سياسات جديدة تخص مستخدمي تطبيق ChatGPT الذين تقل أعمارهم عن 18 عامًا وذلك في إطار جهد لتعزيز حماية المراهقين عند استخدام هذه التكنولوجيا وأكد ألتمان على أن الشركة تضع السلامة في المقدمة متجاوزة مفاهيم الخصوصية والحرية بالنسبة للمراهقين مشيرًا إلى أن التقنية تمتلك قوة وفاعلية تتطلب ضوابط صارمة لحماية القُصّر وتتخذ الشركة خطوات جادة لتحقيق هذا الهدف الهام.

تشمل التغييرات الجديدة منع أي تفاعل يحمل طابع غزلي مع المراهقين بالإضافة إلى فرض قيود أكثر صرامة على المحادثات المتعلقة بالانتحار أو إيذاء النفس ووفقاً للسياسة الجديدة سيعمل النظام على التواصل مع والدي المستخدمين القُصّر إذا حاول أحدهم استكشاف سيناريوهات انتحارية عبر ChatGPT مما يعكس التزام الشركة بحماية المستخدمين الشباب بشكل فعال ودون تردد.

تأتي هذه الخطوة في ظل دعوى قضائية مرفوعة ضد OpenAI من والدي المراهق آدم رين الذي أنهى حياته بعد تفاعلات طويلة مع ChatGPT كما تواجه منصة Character.AI قضية مشابهة ما يعكس القلق المتزايد حول ظاهرة الوهم الناتج عن المحادثة المتواصلة مع الروبوتات خاصة بين المستخدمين الشباب مما يتطلب تغييرات جذرية في سياسات الاستخدام.

سوف تمنح OpenAI الآباء المسجلين القدرة على تحديد “ساعات حظر” لا يستطيع خلالها أطفالهم استخدام ChatGPT وهو إجراء جديد غير متاح سابقًا كما سيوفر النظام إمكانية ربط حسابات المراهقين بحسابات ذويهم مما يسمح بإرسال تنبيهات مباشرة إذا رصد النظام احتمال تعرض المستخدم للخطر النفسي وهو ما يمثل علاجًا وقائيًا هامًا.

أوضحت OpenAI أنها تسعى لتطوير نظام قادر على التعرف على الفئات العمرية للمستخدمين مبكرًا مع تطبيق القيود الأكثر صرامة في الحالات التي تكون فيها الشكوك قائمة بينما تظل الشركة ملتزمة بحماية خصوصية البالغين ومنحهم حرية أكبر في التفاعل مع النظام بما يتماشى مع الأهداف المحددة للمشروع.

تزامنت هذه التغييرات مع جلسة استماع في لجنة القضائية بمجلس الشيوخ الأمريكي بعنوان “بحث أضرار روبوتات الدردشة بالذكاء الاصطناعي” حيث ألقى والد آدم رين كلمة بجانب خبراء آخرين وتناولت الجلسة أيضًا تقريراً استقصائيًا لوكالة رويترز والذي أظهر وثائق سياسات سابقة أدت إلى محادثات ذات طابع جنسي مع قاصرين مما دفع الشركات مثل Meta لتحديث سياساتها الخاصة بالروبوتات بما يتماشى مع متطلبات الأمن وحماية المستخدمين.