فضيحة روبوتات الدردشة في “ميتا” تستحضر أهمية ثقافة السلامة

إن كنتم ستستحضرون شعاراً واحداً من شعارات شركة ”ميتا بلاتفورمز“ في هذه اللحظة فهو على الأرجح “تحرك سريعاً ولو كسرت أشياء“. في هذه المرحلة، ربما يندم رئيسها التنفيذي مارك زوكريبرغ على وجود هذا الشعار، لكن هناك أدلة كثيرة على أنه ما يزال يتقبل فكرة إلحاق بعض الضرر في طريقه نحو النجاح، وكذلك شركته.

من أحدث الأمثلة ما جاء في تحقيق من ”رويترز“، وجد أن “ميتا” سمحت لروبوتات الدردشة الخاصة بها، من بين أمور أخرى، “بإشراك طفل في محادثات رومانسية أو حسية”. كان هذا التقرير موضوعاً في جلسة استماع بمجلس الشيوخ الأسبوع الماضي حول مخاطر السلامة التي تُشكّلها هذه الروبوتات على الأطفال – ويُبرز مدى خطورة اختلاط الذكاء الاصطناعي بثقافات الشركات السامة.

كيف تربي أطفالك في عصر الذكاء الاصطناعي؟

تُظهر فضيحة روبوتات الدردشة في “ميتا” ثقافةً مُستعدة للتضحية بسلامة ورفاهية المستخدمين، حتى الأطفال، إذا كان ذلك يُساعد في تعزيز توجهها نحو الذكاء الاصطناعي.

يعتقد مؤيدو هذه التقنية، بمن فيهم زوكربيرغ، أنها تتمتع بإمكانيات لا حدود لها. لكنهم يتفقون أيضاً على أنها، كما قال رئيس ”ميتا“ التنفيذي: “ستثير مخاوف جديدة تتعلق بالسلامة“.

أحد أسباب صعوبة إدارة مخاطر أنظمة الذكاء الاصطناعي هو أنها مبنية على الاحتمالات بطبيعتها. هذا يعني أنه حتى التغييرات الطفيفة في مدخلاتها يمكن أن تجلب تغييرات كبيرة في مخرجاتها. هذا يجعل التنبؤ بسلوكها والتحكم فيه بالغ الصعوبة.

ما هي ثقافة السلامة؟

هنا تكمن أهمية “ثقافة السلامة”. في الشركات التي لديها ثقافة سلامة، تُعتبر السلامة دائماً الأولوية القصوى. لكل فرد في المؤسسة الحق المطلق في إثارة مخاوفه بشأن السلامة، مهما كانت خبرته أو مدى صعوبة أو تكلفة حل المشاكل التي يثيرها.

إن كنت تعرف بالضبط ما الذي سيفعله النظام، يمكنك دفعه إلى حافة الهاوية. ولكن مع تقنية غير متوقعة مثل الذكاء الاصطناعي، يجب على الشركات أن تكون أكثر حذراً، وأن تتجنب المناطق الرمادية. وهذا المستوى من الحذر هو نتاج الثقافة، وليس القواعد الرسمية.

بارمي أولسن: صمت إيلون ماسك حيال مخاطر الذكاء الاصطناعي محير

كانت لدى ”بوينغ“ ثقافة كهذه. على سبيل المثال، أثناء بناء طائرة “بوينغ 707″، أوصى كبير طياري الاختبار تكس جونستون بإعادة تصميم باهظة التكلفة لذيل الطائرة ودفتها لتصحيح عدم استقرار قد يحدث إذا تجاوز الطيار أقصى زاوية ميلان للطائرة التي توصي بها بوينغ في دليل المستخدم. ماذا كان رد كبير المهندسين؟ “سنصلح الأمر”.

تحمّلت بوينغ التكلفة الكاملة للتغيير، بدلاً من تحميلها لعملائها. بعد عقود، أدى تركيز إدارة ”بوينغ“ المفرط على خفض التكاليف إلى تآكل هذا التركيز على السلامة لدرجة أنه تم تجاهل عيوب السلامة الحرجة في طائرة ”737 ماكس-8“ حتى تحطمت طائرتان ولقي 346 شخصاً حتفهم.

يصف طفلاً بأنه جذّاب

يُقدّم تقرير رويترز نافذة على ما لا تمثّله ثقافة السلامة. ويتضمن محتوى من وثيقة “ميتا” بعنوان ”الذكاء الاصطناعي العام: معايير مخاطر المحتوى”، وهي تنص صراحةً على أن روبوت محادثة يعمل بالذكاء الاصطناعي قد “يصف طفلاً بعبارات تبين جاذبيته” أو يُخبر شخصاً مصاباً بسرطان القولون في المرحلة الرابعة أنه “يُعالج عادةً عن طريق وخز المعدة ببلورات الكوارتز العلاجية”. 

راجعت “ميتا” الوثيقة بعد أن سألتها رويترز عنها، لكن هذا ليس هو المهم. الوثائق لا تصنع ثقافة، بل هي نتاج ثقافة، ومن يتقبل إيذاء مستخدميه سعياً وراء النمو أو الأرباح يجعل النتيجة الخطيرة حتمية.

“ميتا” تقترب من طي صفحة برامج الذكاء الاصطناعي المجاني

لن تكون روبوتات الدردشة لدى “ميتا” آمنة إلا إذا التزمت الشركة بإصلاح ثقافتها. كيف سيبدو هذا الجهد؟ أحد النماذج يمكن أن يكون التحول الذي أجرته الرئيسة التنفيذية لشركة ”أنغلو أمريكان“ (Anglo American) سينثيا كارول، في شركة التعدين العملاقة في جنوب إفريقيا من عام 2007 إلى عام 2013. 

عندما تولت كارول منصبها، كان متوسط ​الوفيات ​​​في الشركة 44 كل عام. بحلول الوقت الذي تنحت فيه، انخفض هذا العدد بنسبة 75%. إن جهدها في التغيير هو معيار ذهبي لدرجة أنه يُدرّس في كليات إدارة الأعمال حول العالم.

بدأت كارول بإغلاق منجم روستنبرغ للبلاتين التابع للشركة وإعادة تدريب كل من يعمل هناك. كان أكبر منجم بلاتين في العالم وشهد خمسة حوادث مميتة في الأشهر الأولى من توليها وظيفتها رئيسةً تنفيذيةً. كلف الإغلاق ”أنجلو أمريكان“ 8 ملايين دولار يومياً، وهذا مبلغ كبير حتى بمقاييس شركة بحجم” أنغلو أميركان”.

كانت هذه إشارة واضحة للشركة بأكملها. في نهاية المطاف، الكلمات رخيصة، ويمكن لأي رئيس تنفيذي أن يقول “السلامة هي أولويتنا الأولى” ويتجاهل ذلك الموظفون الذين سمعوا تلك الكلمات من قبل. لكن تخصيص 8 ملايين دولار يومياً كان إشارة مكلفةً، وبالتالي موثوقةً. دعمت كارول ذلك بمواصلة الضغط لست سنوات أخرى، واضعةً السلامة في صميم كل شيء، من إعادة صياغة معايير الترقية والتعويضات إلى العلاقات مع النقابات والحكومة.

مفترق هام في الطريق إلى الأمام

يمكن لزوكربيرغ أن يفعل شيئاً مشابهاً. عليه أن يبدأ بتجميد إطلاق روبوتات الدردشة الذكية من “ميتا” حتى يُتاح ضمان استخدام أي طفل لها بأمان تام. (أعتقد أن معظم الناس يتفقون على أن وقاية الأطفال من تحرشات الذكاء الاصطناعي هو الحد الأدنى). 

يمكنه أن يضع قوة حقيقية وراء ذلك من خلال الضغط من أجل لوائح حكومية صارمة على روبوتات الدردشة الذكية، وعقوبات صارمة على انتهاكها. تستطيع ”ميتا” إعادة توجيه الأجور والترقيات بحيث تكون سلامة الذكاء الاصطناعي، وليس استخدامه أو ربحيته، العامل الرئيسي في تحديد مكافآت الموظفين.

على مستثمري “ميتا” الحذر من ثقة زوكربيرغ المفرطة

إن كنت تجد صعوبة في تصور أن يفعل رئيس ”مينا“ التنفيذي أي من هذا، فربما يعود ذلك إلى تكاليفه على المدى القريب. أما على المدى البعيد، فأرى أن “ميتا” ستستفيد. لنأخذ على سبيل المثال الحالة الشهيرة التي سحبت فيها شركة ”جونسون آند جونسون“ (Johnson & Johnson) دواء ”تايلينول” من الأسواق بعد تسميم بعض زجاجاته. 

على المدى القصير، كلّف ذلك الشركة ملايين الدولارات. أما على المدى البعيد، فقد رسّخت سمعتها كشركة موثوقة، بل ومحبوبة، وهذه سلعة لا يشتريها المال.

تجدر الإشارة أيضاً إلى أن الشركات لا يمكنها البقاء بلا ترخيص اجتماعي للعمل؛ أي بلا قبول من الجمهور. يصعب التفكير في طريقة أفضل لخسارة ذلك من ذكاء اصطناعي مارق يُعرّض الأطفال للخطر.

ثم هناك الصراع الشرس على مواهب الذكاء الاصطناعي. إن كنت عالماً بارزاً في مجال الذكاء الاصطناعي، ألا يُرجَّح أن تختار جهة عمل تُشجِّعك على إعطاء الأولوية للأخلاقيات والسلامة في عملك؟ في هذه اللحظة التي تُواجِه فيها كل شركة كبرى في مجال الذكاء الاصطناعي التدقيق، قد يكون تولي زمام المبادرة في مجال السلامة هو أفضل سبيل لشركة “ميتا” لريادة مجال الذكاء الاصطناعي.