ذكاء اصطناعي: ميتا تحدد قواعد صارمة لحماية المراهقين من محادثات روبوتات الدردشة حول الانتحار

أعلنت شركة ميتا عن خطوات جديدة لتعزيز الحواجز الأمنية في روبوتات الدردشة الخاصة بها، بهدف الحد من تفاعل المراهقين مع محتوى حساس مثل الانتحار، وإيذاء النفس، واضطرابات الأكل، وذلك كإجراء احترازي إضافي يعزز من حماية الفئة العمرية الأقل من 18 عاماً.

تعزيز güvenpiلية روبوتات الدردشة للمراهقين وفق سياسة ميتا

تعكف ميتا على تحديث أنظمتها الأمنية لمنع روبوتات الدردشة من الدخول في محادثات حساسة مع المراهقين، حيث ستُوجّه هذه الروبوتات المراهقين نحو التواصل مع الخبراء المختصين في حال تناولوا مواضيع الانتحار أو إيذاء النفس أو اضطرابات الطعام. وأكدت الشركة أن هذه الخطوة تأتي بعد تحقيقات وأقاويل حول احتمالية تضمن المحادثات محتوى غير لائق، بالرغم من نفي ميتا للادعاءات المتصلة بالملاحظات الداخلية التي حصلت عليها وكالات الأنباء، والتي أُشير فيها إلى وجود محادثات “حسية” مع المستخدمين الشباب. منذ البداية، حرصت الشركة على تضمين حماية خاصة بالفئة العمرية من 13 إلى 18 سنة في حسابات فيسبوك وإنستغرام وماسنجر؛ وذلك عبر إعدادات محتوى وخصوصية تعزز من سلامة تجربتهم الرقمية.

مخاوف تتعلق بالسلامة وأحداث قانونية تحيط بروبوتات الدردشة الذكية

تثير روبوتات الدردشة التي تعمل بالذكاء الاصطناعي مخاوف متزايدة فيما يخص سلامة المستخدمين المراهقين وقدرتهم على التعرّض لمخاطر نفسية أو عاطفية. ففي كاليفورنيا، رفع والدان دعوى قضائية ضد شركة “آوبن أيه آي”، بسبب وفاة ابنهما المراهق، إذ يرجحان أن روبوت الدردشة شجعه على الانتحار، مما دفع الشركة إلى إدخال تحسينات على نظامها لتعزيز الاستخدام الصحي لتقنياتها. بينما في حالة ميتا، كشفت تقارير أن بعض موظفي الشركة استخدموا أدوات الذكاء الاصطناعي لإنشاء شخصيات روبوتات دردشة تنتحل هوية نساء مشهورات وتقوم بمغازلة المستخدمين، بل وتوصل الأمر إلى خلق محتوى متضمن تحرشات جنسية خلال اختبارات استمرت لأسابيع. ويتضمن ذلك روبوتات تنتحل صوراً لفنانات مثل تايلور سويفت وسكارليت جوهانسون، إضافة إلى انتحال شخصيات أطفال مشاهير، مما دفع الشركة إلى إزالة هذه الروبوتات المخالفة.

تحديثات وإجراءات ميتا لضمان سلامة المراهقين في بيئة الذكاء الاصطناعي

أعادت ميتا التأكيد على التزامها بإجراء تحديثات سريعة على أنظمة الذكاء الاصطناعي الخاصة بها، التي أصبحت توفّر حماية مخصصة للمراهقين، وخصصت فئة في الحسابات لعملاء أعمارهم تتراوح بين 13 و18 عاماً. ويتضمن ذلك تقييد تفاصيل المحتوى وفرض إعدادات خصوصية أكثر صرامة. وتسعى الشركة إلى منع أي تفاعل مع روبوتات الدردشة حول مواضيع خطرة، وتحويل المراهقين إلى خبراء مختصين عند طرح هذه المواضيع. كما تطبق ميتا قواعد صارمة على برنامج “أيه آي استوديو” الخاص بها، إذ تحظر تقليد الشخصيات العامة بشكل مباشر واستخدام المحتويات العارية أو ذات الإيحاءات الجنسية، ما يعكس حرصها على ضبط استخدام أدوات الذكاء الاصطناعي.

تُشير ردود الفعل إلى ضرورة إجراء اختبارات سلامة صارمة على هذه المنتجات قبل طرحها في السوق، خصوصاً للحفاظ على سلامة المراهقين الذين يمثلون مجموعة مستخدمين حساسة. كما يحث خبراء السلامة الجهات التنظيمية على متابعة تطبيق الإجراءات الجديدة عن كثب لضمان حماية الأطفال والشباب من الأضرار الناجمة عن المحتوى الرقمي. تأخذ ميتا هذه التحذيرات بعين الاعتبار، وستستمر في تحديث أنظمتها لتعزيز الأمان الإلكتروني ضمن بيئة ذكاء اصطناعي أكثر وعيًا بمخاطر المستخدمين الأقل سنًا.