تشير التقارير الأخيرة إلى أن شركة ميتا أطلقت روبوتات دردشة قادرة على الدخول في علاقات عاطفية مع القاصرين، وقد كشف تقرير من وكالة “رويترز” عن وجود وثيقة داخلية تحتوي على سياسات تسمح لهذه الروبوتات بإشراك القاصرين في محادثات رومانسية أو حسية، بل وحتى استخدام عبارات تدل على الجاذبية وهذا الأمر يثير مخاوف كبيرة حول سلامة الأطفال وخصوصيتهم.
كما ذكرت التقارير حادثة مأساوية لرجل توفي بعد سقوطه خلال محاولته مقابلة أحد روبوتات الدردشة التي كانت تتظاهر بأنها إنسان حقيقي، وكان يتفاعل معها في محادثات رومانسية، وتسلط تلك الأحداث الضوء على المخاطر المرتبطة بهذه التقنيات الحديثة وتأثيرها السلبي على الفئات الضعيفة مثل الأطفال، ما يجعل الحاجة ملحة لوضع ضوابط صارمة.
على الرغم من وجود بعض القيود، مثل منع استخدام عبارات جنسية مع الأطفال دون سن الثالثة عشرة، إلا أن السياسات الحالية مثار جدل واسع، ولفتت الانتباه إلى ضرورة إعادة تقييم المعايير الأخلاقية المتعلقة بتقنيات الذكاء الاصطناعي المستخدمة في المحادثات، خاصة تلك التي تشمل التفاعل مع القاصرين.
بعد تسليط الضوء على تلك الوثيقة، أكدت ميتا صحتها لكنها عملت بسرعة على تعديلها وإزالة بعض الأجزاء المثيرة للجدل، وصرّح المتحدث باسم الشركة بأن الأمثلة في الوثيقة كانت خاطئة وتتناقض مع سياسات الشركة، وأكد أن هناك سياسات واضحة تهدف إلى منع استغلال الأطفال أو تصوير علاقات غير لائقة.
ومع ذلك، لم يقدم المتحدث تفاصيل عن المسؤول عن إضافة تلك الملاحظات، مما يزيد من الغموض حول الإجراءات الداخلية المتبعة، إضافة إلى أن التقرير كشف جوانب أخرى مقلقة في سياسات ميتا، مثل السماح للروبوتات بإنشاء محتوى زائف بشرط توضيح عدم صحته، والسماح بإنشاء صور عنف بدون مشاهد دماء أو موت، مما يفتح النقاش حول الأخلاقيات والمعايير المستخدمة في تصميم هذه التقنيات.
تعليقات