أعلنت ميتا عن تحديثات جديدة تهدف إلى تعزيز حماية المراهقين من محادثات غير ملائمة مع روبوتاتها الدردشة حيث يشمل هذا التدريب المتواصل للذكاء الاصطناعي لضمان عدم مناقشة مواضيع ضارة مثل إيذاء النفس أو اضطرابات الأكل، تقول الشركة إنها تضيف حواجز أمان إضافية بهدف حماية مستخدميها الشباب الذين قد يتعرضون لمحتوى سلبي أو خطر يهدد سلامتهم النفسية وتهدف هذه الخطوات إلى تطوير بيئة آمنة للمراهقين أثناء استخدامهم للتكنولوجيا الحديثة،

بالإضافة إلى ذلك ستقوم ميتا بمنع المراهقين من الوصول إلى شخصيات تم إنشاؤها بواسطة المستخدمين والتي قد تتيح تفاعلات غير مناسبة، تأتي هذه الإجراءات كرد فعل على التقارير التي توقفت عند تفاعلات مقلقة شهدتها المنصة من قبل، وفي وقت سابق نشرت رويترز وثيقة داخلية من ميتا تفيد بأن الروبوتات الذكية كان مسموحًا لها بإجراء محادثات حسية مع المراهقين مما أثار قلق المجتمع حول سلامة الشباب المتواجدين على المنصة،

في استجابة لذلك أشارت ميتا إلى أن اللغة في الوثيقة كانت خاطئة وتتناقض مع سياساتها وهي الآن تعمل على إزالة هذه الهفوات، ومؤخراً أظهرت دراسة من صحيفة واشنطن بوست أن ذكاء ميتا الاصطناعي كان قادرًا على توجيه حسابات مراهقين نحو محتوى يروج للانتحار أو إيذاء النفس، مما وضع الشركة أمام ضغوط لتعديل سياساتها الحالية ومعايير الأمان الخاصة بها،

تواصل ميتا تعزيز إجراءاتها الداخلية للحفاظ على سلامة المراهقين من هذه الممارسات الضارة عبر منصاتها مثل إنستجرام وفيسبوك، صرحت ستيفاني أوتواي المتحدثة باسم ميتا بأنهم قد طوروا أنظمة حماية منذ البداية لضمان استجابة آمنة للمسائل المتعلقة بالصحة النفسية، مؤكدة على أهمية تلك الأنظمة في سياق تقنيات الذكاء الاصطناعي المستخدمة في منتجاتهم،

كما أكدت ميتا على أن تطورهم المستمر يهدف إلى فهم كيفية تفاعل الشباب مع هذه الأدوات لتعديل تجاربهم للأفضل، حيث يُضيفون المزيد من الحواجز كإجراء وقائي ويعملون على تدريب الذكاء الاصطناعي على توجيه المراهقين إلى موارد ذات صلة بدلًا من المشاركة في محادثات غير ملائمة في الوقت الحاضر، وهذا يعكس التزامهم بمسؤولية استخدام التكنولوجيا،

تُعتبر الإجراءات الجديدة سارية بالفعل لكنها وصفت بأنها “مبدئية” إذ تعكس جهود ميتا لحماية المراهقين في بيئتها الافتراضية مع البحث عن حلول مستدامة لقضايا تتعلق بسلامة الشباب وذكاء الاصطناعي، قالت أوتواي إن هذه التحديثات قيد التنفيذ وسيتواصل تحسين نهجهم لضمان تجارب أكثر أمانًا وملاءمة، وذكرت أن الإجراءات الجديدة سيتم تطبيقها خلال الأسابيع القادمة على جموع المراهقين الناطقين باللغة الإنجليزية الذين يستخدمون منصات ميتا،