هلا نيوز – أظهر تقرير صادر عن مركز مكافحة الكراهية الرقمية (CCDH) أن ChatGPT، التابع لشركة OpenAI، قد يشكل تهديدًا على سلامة بعض الفئات الشابة، خاصة المراهقين الأكثر عرضة للمخاطر النفسية والسلوكية.
وفي دراسة شملت محاكاة شخصية أطفال بعمر 13 عامًا، لاحظ الباحثون أن المنصة، رغم وجود رسائل تحذيرية، قد قدمت في العديد من الحالات إرشادات مفصلة وخطيرة تتعلق بإيذاء النفس، وتعاطي المخدرات، واضطرابات الأكل. وأظهرت التجربة أن أكثر من نصف الردود على نحو 1200 طلب وُصفت بأنها “خطيرة”، بما في ذلك جداول لحفلات مخدرات، وخطط حمية مفرطة القسوة، ونصوص رسائل انتحار موجهة للعائلة.
وأشار التقرير إلى إمكانية تجاوز المنصة لرفض الرد الأولي عبر إعادة صياغة الطلبات أو الادعاء بأنها لغرض دراسي، مما سمح بالحصول على تفاصيل إضافية غير مطلوبة. وأكدت OpenAI أن النظام قد ينخرط أحيانًا في مواضيع حساسة، مع العمل على تطوير قدراته لاكتشاف مؤشرات الاضطرابات العاطفية وتعزيز آليات الرد الآمن.
ورغم إضافة آليات حماية وموارد دعم، يشير التقرير إلى أن تجاوز الحواجز لا يزال ممكنًا بسهولة، ويوصي بفرض ضوابط عمرية أشد، وتحسين مراقبة المحتوى، ورفع مستوى الشفافية في تفاعل الأنظمة مع المراهقين، في ظل استخدام ChatGPT من قبل نحو 800 مليون شخص حول العالم.
