بعد ضغوط وتحقيقات.. «ميتا» تمنع روبوتات الدردشة من الحديث مع المراهقين عن التخلص من الحياة

أثّرت التحقيقات المكثفة والضغوطات التي تعرضت لها شركة ميتا على صانعي القرار داخلها، مما دفعها لتبني سياسات أكثر تشدداً لحماية الصحة النفسية للمستخدمين، لا سيما المراهقين. حيث تركزت التحسينات حول إلغاء إمكانية تفاعل روبوتات الدردشة مع الفئة العمرية الحساسة في الموضوعات المتعلقة بالتفكير الانتحاري أو التخلص من الحياة. ويأتي هذا التوجه استجابةً للانتقادات التي وجهت إلى ميتا حول دور خوارزميات الذكاء الاصطناعي في زيادة مخاطر الانعزال النفسي، والضغط النفسي لدى الشباب.

في ضوء هذه التعديلات، تم اعتماد مجموعة من الإجراءات التنظيمية التي تشمل:

• تفعيل نظم مراقبة دقيقة لمحتوى المحادثات التي تجرى عبر روبوتات الدردشة.
• تطوير خوارزميات لكشف علامات الخطر النفسية بدقة أكبر.
• تزويد المراهقين بأدوات ودعم نفسي بديل من خلال موارد إنسانية معتمدة.
• الالتزام بشفافية عالية تجاه الجهات الرقابية بشأن آليات التشغيل والتحديثات.

تواجه شركات التكنولوجيا الكبرى تحديات أخلاقية وقانونية جمة مع تصاعد استخدام روبوتات الدردشة في التفاعل مع فئة المراهقين. يثير هذا الأمر مخاوف حقيقية بشأن حماية الخصوصية، حيث يمكن أن تؤدي المحادثات غير المحكومة إلى تشجيع أفكار سلبية مثل الانعزال أو حتى التخلص من الحياة. في هذا السياق، تمارس السلطات الرقابية ضغوطًا متزايدة على الشركات لضمان أن تكون الخوارزميات والبرمجيات المستخدمة مسؤولة ومراعية للحساسيات النفسية والاجتماعية للمستخدمين الشباب.

وتتطلب هذه القضية تعاملاً دقيقًا مع عدد من العوامل، منها:

• مراقبة المحتوى وتحليل ردود الروبوت للتأكد من عدم تحفيز السلوكيات الضارة.
• تحديث السياسات الداخلية لتشمل حظر الحديث عن مواضيع الانتحار أو الإيذاء الذاتي مع المراهقين.
• التعاون مع خبراء نفسيين وقانونيين لوضع إرشادات واضحة تنسجم مع أخلاقيات التعامل الرقمي.

الجدول التالي يوضح التحديات الأخلاقية مقابل الحلول المحتملة:

تعزيز الرقابة الفعّالة يعد من الخطوات الأساسية لضمان استخدام آمن وفعّال للذكاء الاصطناعي خاصة في منصات التواصل الاجتماعي التي تستهدف فئات حساسة مثل المراهقين. من الضروري اعتماد تقنيات متقدمة لرصد المحتوى سريعا ومنع الروبوتات من تقديم نصائح أو معلومات قد تؤثر سلبًا على الصحة النفسية، مثل المحادثات التي تحرض على التفكير في التخلص من الحياة. بالإضافة لذلك، ينبغي تفعيل آليات مراجعة مستمرة بمشاركة خبراء نفسيين وقانونيين لضمان تطابق أنظمة التحكم مع أخلاقيات الاستخدام وقوانين حماية المستخدمين.

تدابير وقائية متكاملة تشمل:

• تطوير خوارزميات ذكية للتعرف المبكر على علامات الخطر أو الكلام الضار.
• تنفيذ برامج توعية للمراهقين حول كيفية التعامل مع الذكاء الاصطناعي بأمان.
• تشجيع الحوار المفتوح بين الأسر ومقدمي الخدمات الرقمية لمتابعة صحة المراهق نفسيًا.
• فرض معايير صارمة على الشركات المطورة لضمان الشفافية والمساءلة.