تواجه شركة غوغل دعوى قضائية رفعها والدا فتاة قاصر في الولايات المتحدة الأمريكية، يتهمان فيها روبوت الدردشة «جيميناي» بمساعدة ابنتهما على التخطيط للانتحار، بعد سلسلة من المحادثات التي جرت بينهما عبر حاسوب وفرته لها مدرستها.
وبحسب ما ورد في الدعوى، بدأت الفتاة، التي عُرفت باسم «إيما»، استخدام الروبوت عندما كانت في الثالثة عشرة من عمرها، عبر جهاز «كرومبوك»، قبل أن تتطور المحادثات إلى مناقشة أفكار مرتبطة بالانتحار وتفاصيل تتعلق بجنازتها.
محادثات أثارت قلق الأسرة
واتهم الوالدان نظام الذكاء الاصطناعي بالتفاعل مع ابنتيهما بطريقة ساعدتها، وفق روايتهما، على إخفاء مشاعرها عن أفراد الأسرة، عوض توجيهها نحو طلب المساعدة والدعم النفسي المناسبين.
وانكشفت طبيعة هذه المحادثات بعدما رصد برنامج للمراقبة المدرسية وثيقة أعدتها الفتاة تتضمن تفاصيل مرتبطة بالتخطيط لجنازتها، الأمر الذي دفع الأسرة إلى الاطلاع على سجل تفاعلاتها مع «جيميناي».
مسؤولية شركات الذكاء الاصطناعي تحت المجهر
وتضمنت الدعوى اتهامات لغوغل بعدم توفير تحذيرات كافية للأسر والمؤسسات التعليمية بشأن المخاطر المحتملة لاستخدام أدوات الذكاء الاصطناعي من طرف القاصرين، مع الإشارة إلى دمج هذه التقنيات في عدد من منتجاتها وخدماتها الموجهة إلى الطلاب.
كما زعم الوالدان أن الشركة كانت على علم بوجود اختلالات في تعامل إصدار «جيميناي 3 فلاش»، الذي استخدمته ابنتهما، مع المحادثات المرتبطة بالصحة النفسية، دون اتخاذ التدابير الكافية لمعالجة هذه المخاطر.
ومن جانبها، أفادت الشركة، على لسان متحدثها خوسيه كاستانييدا، بأنها تراجع الادعاءات الواردة في الدعوى القضائية.
نقاش متصاعد حول حماية القاصرين
وتعيد هذه القضية تسليط الضوء على المخاطر المحتملة للتفاعل المطول بين الأطفال والمراهقين وروبوتات الدردشة، خصوصا عندما تتعلق المحادثات بالصحة النفسية والأفكار الانتحارية.
كما تطرح تساؤلات بشأن حدود مسؤولية الشركات المطورة لهذه الأنظمة، وسبل ضمان سلامة المستخدمين القاصرين، ودور الأسر والمؤسسات التعليمية في مراقبة استخدام هذه التقنيات والتعامل مع مؤشرات الخطر.
تحرير: علاء البكري
