شركة ميتا تتخذ خطوة كبيرة نحو توسيع استخدام الذكاء الاصطناعي في تقييم مخاطر منتجاتها، حيث من المتوقع أن تقوم الأنظمة الذكية بمعالجة حوالي 90% من مهام التقييم مستبدلة المراجعين البشر. تهدف هذه الخطوة إلى تسريع العمليات وتقليل الاعتماد على الفحوصات اليدوية، خاصة في المجالات الحساسة مثل مكافحة العنف، التصدي للأخبار المضللة، وحماية المستخدمين الشباب.
وكانت مراجعات المنتجات الجديدة مثل تحديثات إنستغرام وواتساب تتم تقليديًا من خلال فرق بشرية قبل إطلاقها. لكن في الآونة الأخيرة، اعتمدت الشركة على نماذج الذكاء الاصطناعي التي تستند إلى استبيانات تحليلية يملأها فرق المنتجات، ليتم عبرها اتخاذ قرارات مبدئية حول المخاطر المحتملة، وتوجيه الفرق لمعالجتها بشكل استباقي قبل عملية الإطلاق.
ورغم ذلك، أبدى عدد من الموظفين الحاليين والسابقين مخاوفهم من أن الإفراط في الاعتماد على الذكاء الاصطناعي قد يتسبب في إغفال مخاطر لا يمكن رصدها إلا عبر التقييم البشري العميق. وفي ردها على هذه المخاوف، أكدت ميتا أنها ستواصل الاعتماد على فرق خبراء بشريين للتعامل مع الحالات المعقدة، بينما ستترك القرارات المرتبطة بمخاطر منخفضة للأنظمة الذكية.
يأتي هذا التطور في ظل تقارير فصلية أصدرتها الشركة حول نزاهة منصاتها، أظهرت انخفاضًا في كمية المحتوى المحذوف وزيادة طفيفة في بلاغات التنمر والعنف. وتسعى ميتا من خلال هذه الخطوة إلى تحسين آلياتها في تقييم المخاطر وتحقيق توازن فاعل بين القدرات التقنية والرقابة البشرية لضمان بيئة آمنة للمستخدمين.
