يتجه ملايين الأطفال والمراهقين إلى محركات البحث للحصول على إجابات سريعة عن أسئلتهم الدراسية واليومية، غير أن تقريرا حديثا يثير تساؤلات حول مدى أمان أدوات الذكاء الاصطناعي المدمجة في محرك البحث“غوغل”، بعدما رصد حالات قدمت فيها معلومات مضللةأو تعاملت بصورة غير مناسبة مع قضايا شديدةالحساسية.
ويشير التقرير، الصادر عن معهد “Youth AI Safety Institute”، إلى أن ميزتي “AI Overviews” و”AI Mode” حصلتا على أدنى تقييم في ما يتعلقبسلامة الأطفال، بعد سلسلة اختبارات أجريت باستخدامحسابات تحاكي مستخدمين تتراوح أعمارهم بين 11 و15 عاما، مع تفعيل خاصية “SafeSearch”.
اختبارات كشفت ثغرات
واعتمد الباحثون على أكثر من 2600 عملية بحث،إلى جانب مراجعة ما يزيد على 2100 مصدر استندتإليها إجابات الذكاء الاصطناعي.
وأظهرت النتائج أن النظام أنجز في بعض الحالاتالواجبات الدراسية كاملة نيابة عن التلاميذ، كما قدمإرشادات يمكن استغلالها لإنتاج صور مزيفة بتقنية“Deepfakes”، بما قد يفتح الباب أمام التنمرالإلكتروني أو انتحال الهوية.
ورأى معدو التقرير أن دمج أدوات الذكاءالاصطناعي مباشرة داخل محرك البحث يجعلها متاحةتلقائيا على الأجهزة الشخصية والمدرسية، دون إتاحةخيار عملي لتعطيلها، وهو ما يزيد احتمالات وصولالأطفال إلى إجابات غير دقيقة أو محتوى قد يكونضارا.
الصحة النفسية في دائرة القلق
وسلط التقرير الضوء على تعامل النظام معالاستفسارات المرتبطة بالصحة النفسية، موضحا أنهأخفق في بعض الحالات في رصد مؤشرات قد تدل علىأزمات نفسية أو أفكار انتحارية، كما لم يوجهالمستخدمين دائما إلى جهات الدعم المختصة، وهو مااعتبره الباحثون أحد أكثر الجوانب إثارة للقلق.
غوغل ترفض النتائج
ورفضت شركة غوغل ما خلص إليه التقرير، مؤكدة أنالاختبارات اعتمدت على استفسارات مصطنعة وغامضةلا تعكس طريقة استخدام الأشخاص لمحرك البحث فيالواقع.
وأوضحت الشركة أن أدواتها المدعومة بالذكاءالاصطناعي تتضمن مستويات متعددة من الحماية،وتوفر تجربة تعليمية مفيدة للأطفال والمراهقين، مضيفةأنها لم تتمكن من إعادة إنتاج عدد من النتائج التي وردتفي التقرير.
