تعمل ميتا على تعزيز أمان المراهقين المستخدمين لروبوتاتها الذكية من خلال إعادة تدريب نظام الذكاء الاصطناعي الخاص بها وإضافة تدابير جديدة تهدف إلى منع الشباب من مناقشة مواضيع تؤذي صحتهم النفسية، تشمل هذه المواضيع إيذاء النفس والانتحار واضطرابات الأكل، حيث تسعى الشركة إلى تقليل المخاطر المرتبطة بتفاعلات هؤلاء المراهقين مع روبوتات الدردشة، وتؤكد أن الأمان في صميم تصميم هذه الأنظمة الجديدة والتي تهدف أيضًا إلى توجيه المراهقين نحو معلومات مفيدة وبناءة.
علاوةً على ذلك، ستمنع ميتا المراهقين من الوصول إلى شخصيات الروبوتات التي قد تقدم محتوى غير لائق، تأتي هذه الإضافات بعد تحذيرات متزايدة من تفاعلات غير صحية مع الذكاء الاصطناعي، حيث أكدت التقارير أن ممارسات سابقة سمحت للروبوتات بإجراء محادثات غير مناسبة مع القاصرين، ومن هنا، تم اتخاذ قرار بإدخال تغييرات على سياسات الشركة لتحسين التجربة العامة للمستخدمين.
كما صرحت ميتا أن اللغة المستخدمة في النصوص السابقة كانت غير متطابقة مع سياساتها وتم حذفها، حيث كشفت الدراسات الأخيرة أن الذكاء الاصطناعي الخاص بها كان يمكن أن يساهم في تدهور الحالة النفسية لدى المراهقين، وهو ما دفع الشركة إلى تحسين إجراءات الأمان ومنع التفاعلات التي قد تكون ضارة، وتعمل في الوقت الحالي على ضمان أمان المراهقين في منصاتها الاجتماعية.
أضف إلى ذلك، تشدد ميتا على أهمية مراقبة كيفية تفاعل الشباب مع التكنولوجيا المتطورة، إذ تقول ستيفاني أوتواي، المتحدثة باسم الشركة، إن هناك أنظمة حماية تم تطويرها منذ البداية، بما يضمن استجابة آمنة للمزاعم المتعلقة بالإيذاء، وعلى الرغم من تطور الوضع، تظل الشركة ملتزمة باستمرار بتحديث أنظمتها لتلبية احتياجات المستخدمين الشباب.
في سياق جهودها المستمرة، أضافت ميتا المزيد من الحواجز الأمنية كإجراء احترازي، حيث يتم تدريب أنظمة الذكاء الاصطناعي على عدم تفاعل المراهقين في قضايا مثل الانتحار، وتوجيههم لمصادر موثوقة، كما تقيّد وصول الشباب إلى شخصيات محددة من الذكاء الاصطناعي لحماية صحتهم النفسية وسلامتهم.
تجدر الإشارة إلى أن إجراءات الأمان الجديدة تُعتبر سارية “في الوقت الحالي”، مما يدل على أن ميتا لا تزال تسعى لتطوير تدابير فعالة وطويلة الأمد للتعامل مع المخاوف حول سلامة المراهقين، حيث تؤكد الشركة أنها ستستمر في تحديث نهجها لضمان تجارب آمنة ومناسبة لأعمارهم، متطلعة إلى تحقيق مستويات أعلى من الحماية في ظل التحديات المتزايدة.
صرحت أوتواي أيضًا أن هذه التحديثات قد بدأت بالفعل، فيما يُنتظر أن يتم تطبيق الإجراءات الجديدة خلال الأسابيع القليلة القادمة، وهذا سيشمل جميع المستخدمين المراهقين عبر منصات ميتا، بما في ذلك إنستجرام وفيسبوك، وستكون هذه الجهود جزءاً من التزام الشركة بخلق بيئة آمنة لجميع المستخدمين خصوصًا الفئات الأكثر ضعفًا.
تعليقات