أعلنت OpenAI إضافة ميزة جديدة تحمل اسم “جهة الاتصال الموثوقة Trusted Contact“، وهي ميزة تهدف إلى تعزيز إجراءات السلامة داخل روبوت ChatGPT عبر تنبيه شخص موثوق به إذا رصد النظام مؤشرات مرتبطة بإيذاء النفس أو الانتحار في أثناء المحادثات.
وتتيح الميزة للمستخدمين البالغين اختيار “جهة اتصال موثوقة” ضمن إعدادات الحساب، مثل أحد أفراد العائلة أو صديق مقرّب. وعند اكتشاف محادثة تتجه نحو أفكار تتعلق بإيذاء النفس، يشجّع ChatGPT المستخدم على التواصل مع هذا الشخص، بالتزامن مع إرسال تنبيه آلي إلى الشخص المُختار لحثّه على الاطمئنان على المستخدم.
وتأتي تلك الخطوة في وقت تواجه فيه الشركة سلسلة دعاوى قضائية رفعتها عائلات أشخاص أقدموا على الانتحار بعد استخدام روبوت الدردشة التابع لها، وتزعم بعض الدعاوى أن ChatGPT شجّع الضحايا على الانتحار أو ساعدهم في التخطيط لذلك.
وأوضحت الشركة أنها تعتمد حاليًا على مزيج من الأنظمة الآلية والمراجعة البشرية لرصد المحادثات التي قد تشكّل خطرًا على المستخدمين. وعند اكتشاف مؤشرات تدل على ميول انتحارية، يحوّل النظام التنبيه إلى فريق السلامة البشري داخل الشركة لمراجعته.
