أعلنت شركة OpenAI عزمها البدء في توجيه المحادثات شديدة الحساسية إلى نماذج متقدمة مثل GPT-5 وذلك تماشيًا مع إطلاق أدوات جديدة للرصد الأبوي وذلك في إطار مبادرة واسعة تهدف إلى تعزيز الأمان بعد حوادث مأساوية متعلقة باستخدام ChatGPT وتكون هذه الخطوة جزءًا من جهود مستمرة لتحسين أنظمة السلامة في السياقات الحساسة، والتي تؤثر بشكل مباشر على حياة المستخدمين

يأتي هذا القرار بعد حادثة مأساوية شهدها المجتمع تتعلق بآدم رين المراهق الذي ناقش أفكاره حول إنهاء حياته مع ChatGPT، وتلقى معلومات حول وسائل الانتحار مما أدى إلى اتخاذ عائلته إجراءات قانونية ضد الشركة بتهمة الإهمال والتسبب في وفاة ابنهم وظهر هذا الحدث القاسي حجم المخاطر المرتبطة باستخدام التقنيات الذكية في حالات الضعف النفسي, مما أعاد فتح النقاش حول المسئولية الأخلاقية للتكنولوجيا

في تدوينة رسمية اعترفت OpenAI بوجود قصور في الأنظمة الخاصة بالسلامة خاصة في المحادثات المطولة والتي لم تنجح في الحفاظ على الضوابط اللازمة وذكر الخبراء أن المشكلة تعود إلى طبيعة تصميم النماذج التي تميل إلى التأييد ومتابعة خيوط الحديث دون توجيه المستخدمين في المواقف الحرجة, مما يثير القلق حول إمكانية تقديم الدعم النفسي الفعال في مثل هذه الحالات الحساسة

من بين الحالات البارزة الأخرى، كانت الواقعة المتعلقة بستايين-إريك سولبرج الذي عانى من اضطرابات نفسية واستخدم ChatGPT لترسيخ أفكاره المتعلقة بمؤامرة تستهدفه, مما أدى إلى ارتكابه جريمة قتل والدته ومن ثم الانتحار الشهر الماضي وهذا يعكس البعد المأساوي الذي يمكن أن يترتب على استغلال الذكاء الاصطناعي في سياقات غير آمنة، ويشير إلى ضرورة اتخاذ تدابير إضافية لحماية المستخدمين

وفقًا لـ OpenAI, يتمثل الحل في إطلاق نظام توجيه فوري قادر على تحديد متطلبات المحادثة بشكل أكثر دقة حيث سيتم توجيه المحادثات التي تظهر عليها علامات ضيق شديد إلى نماذج مثل GPT-5 لتقديم استجابات أكثر دعمًا وفعالية, وأكدت الشركة أن هذه النماذج تتمتع بمقاومة أكبر للمحاولات العدائية وتعتبر أكثر قدرة على التفكير المنطقي’,

علاوة على ذلك, ستقوم OpenAI بإصدار أدوات رقابة أبوية تتيح للأهل ربط حساباتهم بحسابات أبنائهم المراهقين من خلال دعوات بريدية مع تفعيل افتراضي لقواعد سلوك ملائمة للعمر, مما يساعد في حماية الشباب من التعرض للمحتوى الضار أو الضغوط النفسية, وستسمح الأدوات للأهل بتعطيل ميزات مثل الذاكرة وسجل المحادثات التي قد تزيد من أنماط التفكير غير الصحية, مع إمكانية إرسال إشعارات عند رصد حالات ضيق شديد

تأتي هذه الخطوات كجزء من مبادرة تمتد على مدار 120 يومًا تهدف لتقديم تحسينات ملحوظة على أنظمة ChatGPT خلال هذا العام بالتعاون مع شبكة من الأطباء العالميين ومجلس خبراء متخصص في الصحة النفسية والذكاء الاصطناعي مما يعكس التزام OpenAI بتعزيز الأمان وضمان الاستخدام المسؤول لهذه التقنيات, حيث ينصب التركيز على توفير بيئة آمنة للمستخدمين

جاي إدلسون محامي عائلة رين وصف استجابة OpenAI بأنها غير كافية مشيرًا إلى أن الشركة لا تحتاج لخبراء لتدرك خطر ChatGPT, حيث كانوا على دراية بذلك منذ إطلاقه وما زالوا في الوضع الحالي يعيدون تأكيد عدم الأمان, وانتقدت غياب موقف صريح من الرئيس التنفيذي سام ألتمان حول مدى سلامة المنتج، مطالبًا بإيجاد حل سريع أو سحب المنتج من السوق

القضية لا تزال تتطور، ومن المتوقع أن تثير نقاشًا واسعًا حول مسؤولية الشركات المبتكرة في مجال الذكاء الاصطناعي تجاه حماية المستخدمين وخاصة الفئات الأكثر هشاشة مثل المراهقين مما يسلط الضوء على الحاجة الملحة للتفكير الجاد في الآثار المحتملة لتكنولوجيا الذكاء الاصطناعي على المجتمعات وأهمية تطوير نماذج آمنة وفعالة