ميتا تعزز الرقابة على محادثات المراهقين

يتوسع حضور الذكاء الاصطناعي في الحياة اليوميةبوتيرة متسارعة، ويزداد معه الاهتمام بحماية الفئاتالأكثر عرضة للمخاطر الرقمية، وفي مقدمتها المراهقون.

وفي هذا الإطار، كشفت شركة “ميتا” عن تحديثاتجديدة تستهدف رصد المحادثات التي قد تكشفمؤشرات مرتبطة بإيذاء النفس أو التفكير في الانتحار،تمهيدا لاتخاذ إجراءات وقائية سريعة.

مراقبة المحادثات

وتعتمد التحديثات الجديدة على تحليل المحادثاتالتي يجريها المراهقون مع روبوتات الذكاء الاصطناعيالتابعة لـ”ميتا”، عبر الحسابات المرتبطة بخاصية الرقابةالأبوية في “إنستغرام”.

وعند رصد عبارات أو مؤشرات توحي بوجود خطر،يوجه النظام إشعارا فوريا إلى أولياء الأمور لإطلاعهمعلى الحالة.

مراجعة قبل التنبيه

وطورت الشركة هذه التقنية بالتعاون مع مختصين فيالصحة النفسية وأولياء أمور، بهدف تحسين قدرتها علىفهم الإشارات اللفظية التي قد تعكس معاناة نفسية،حتى عندما ترد بصيغة غير مباشرة.

وأكدت “ميتا” أن الحالات التي يكتشفها النظامتخضع لمراجعة بشرية قبل اتخاذ أي إجراء، مع اعتمادإرسال التنبيهات في الحالات التي تستدعي الحذر،حرصا على تعزيز حماية المستخدمين القاصرين.

تدخل أسرع

وتواصل الشركة العمل على تطوير أداة جديدة تتيحالتواصل مع خدمات الطوارئ عند اكتشاف مؤشرات تدلعلى وجود خطر وشيك على حياة المستخدم، استكمالاللآليات المعتمدة حاليا في رصد المحتوى المنشور على“فيسبوك” و”إنستغرام”.

حماية تتوسع

ويمثل هذا التحديث مرحلة جديدة في سياسةالسلامة الرقمية التي تنهجها “ميتا”، بعدما كانت أدواتالحماية تقتصر على مراقبة عمليات البحث المرتبطةبالمحتوى الحساس عبر “إنستغرام”.

وتشمل الرقابة الآن المحادثات التي يجريها المراهقونمع روبوتات الذكاء الاصطناعي على “إنستغرام” و”واتساب”، في خطوة تستهدف تعزيز الاستجابة المبكرةللمؤشرات التي قد تهدد سلامتهم.

ف. المكناسي