لحماية المراهقين.. “OpenAI” تطلق ميزات أمان متقدمة في “ChatGPT”

أطلقت OpenAI تحديثًا جديدًا لتطبيق ChatGPT؛ بهدف حماية المستخدمين، خاصة المراهقين، من المحادثات الحساسة أو الضارة، يشمل نظام توجيه أمني وأدوات تحكم أبوية جديدة لحماية المستخدمين.

وتأتي هذه الخطوة بعد عدة حوادث سابقة أظهرت محدودية قدرة النماذج على التعامل مع المواقف الحرجة بشكل مناسب، مما دفع الشركة إلى تطوير حلول أكثر أمانًا وذكاءً.

ويعمل النظام على الكشف التلقائي عن المحادثات العاطفية أو الحرجة وتحويلها إلى نموذج GPT-5-thinking الذي تم تدريبه خصيصًا للتعامل مع الحالات الحساسة بطريقة آمنة.

الإجابات الآمنة

يتميز النظام الجديد بما يعرف بـ”الإجابات الآمنة”، التي تهدف إلى تقديم ردود مناسبة بدلًا من رفض الإجابة عن الأسئلة الحساسة.

وبهذه الطريقة، يمكن للمستخدمين الحصول على دعم أو توجيه مفيد دون التعرض لمخاطر المعلومات غير الدقيقة أو الضارة.

أدوات تحكم أبوية

كجزء من التحديث، قدمت OpenAI أدوات تحكم أبوية تتيح للآباء ربط حساباتهم بحسابات أبنائهم عبر دعوات بريدية.

وتشمل هذه الأدوات القدرة على تلقي إشعارات فورية عند اكتشاف علامات ضائقة عاطفية لدى المراهقين، مثل التفكير بالانتحار أو التوتر الشديد.

كما يمكن للآباء تعطيل بعض الميزات مثل الذاكرة وسجل المحادثات، التي قد تؤدي أحيانًا إلى مشكلات مثل التفكير الوهمي أو المعلومات غير الدقيقة. وبذلك، يسهم النظام في خلق بيئة رقمية أكثر أمانًا للأطفال والمراهقين.

ردود فعل متباينة

رحب العديد من الخبراء بهذه الخطوة باعتبارها ضرورية لحماية المستخدمين، إلا أن بعض النقاد اعتبروا التنفيذ مبالغًا فيه، إذ قد يؤدي إلى تقييد تجربة المستخدم وتقليل فاعلية المحادثات.

وأوضحت OpenAI أنها ستستمر في تحسين النظام خلال فترة تجريبية تصل إلى 120 يومًا لضمان التوازن بين الأمان وجودة الخدمة.

الأمان والتفاعل

تسعى OpenAI من خلال هذه الإجراءات إلى إيجاد توازن دقيق بين توفير تجربة تفاعلية غنية وحماية المستخدمين من المخاطر المحتملة.

وتمثل هذه الخطوة التزامًا واضحًا من OpenAI بتحسين أمان المستخدمين، خاصة الفئات الأكثر عرضة للخطر مثل المراهقين، مع محاولة الحفاظ على تجربة تفاعلية مفيدة وموثوقة.

ومع ذلك، يبقى التحدي الأكبر هو إيجاد توازن مستمر بين الأمان وتجربة المستخدم من دون التأثير سلبًا في جودة الخدمة.