تأثير جيمينى من جوجل على الشباب: تصنيفاته ومخاطر الاستخدام

أصدرت منظمة “كومون سينس ميديا” المتخصصة في سلامة الأطفال والتكنولوجيا تقييمًا جديدًا لمنتج الذكاء الاصطناعي Gemini من جوجل وصنفت المنتج بأنه “عالي الخطورة” على الأطفال والمراهقين مشيرة إلى أن تصميمه الحالي لا يتناسب مع احتياجات هذه الفئة العمرية الحساسة وتأتي هذه المخاوف نتيجة لتعقيد العالم الرقمي وتأثيراته السلبية على الشباب مما يستدعي القيام بتقييم شامل للمحتوى الذي يتعرضون له بشكل يومي

أظهر تحليل “كومون سينس” أن Gemini قادر على مشاركة مواد غير مناسبة وغير آمنة مع الأطفال كمعلومات متعلقة بالجنس والمخدرات والكحول بجانب تقديم نصائح غير آمنة بشأن الصحة العقلية وتحمل هذه المخاوف أهمية خاصة في ظل التقارير السابقة التي ربطت بين الذكاء الاصطناعي وحالات انتحار المراهقين ما يجعل الأمر يتطلب مزيدًا من الحرص والتفهم من قبل المطورين والشركات المسؤولة عن هذه البرمجيات التي تؤثر بشكل مباشر على فئات حساسة في المجتمع

أكدت المنظمة أن نسختي Gemini المخصصتين للأطفال والمراهقين تجسدان نسختين معدلتين من المنتج المخصص للبالغين مع إضافة ميزات أمان بسيطة وأشارت إلى أن هذا النهج لا يُناسب الجميع كما أن الذكاء الاصطناعي المصمم للشباب يجب أن يأخذ في اعتباره مراحلهم التنموية المختلفة بدلاً من أن يكون مجرد نسخة مخففة من منتج للبالغين مما يتطلب مزيدًا من التفكير والابتكار في تصميم هذه المنتجات الجديدة

رفضت شركة جوجل هذا التقييم وأعلنت أنها تطبق سياسات وإجراءات حماية خاصة بالمستخدمين الذين تقل أعمارهم عن 18 عامًا وشددت على أنها تستشير خبراء خارجيين وتشكل فرقًا متخصصة لتحسين إجراءات الأمان ومع ذلك أقرت الشركة بأن بعض استجابات Gemini لم تكن تعمل بالشكل المطلوب مما دفعها لإضافة المزيد من الحماية لمعالجة هذه المخاوف الجادة حول سلامة المستخدمين الصغار