استقالة مهندس السلامة من OpenAI: «انتهى زمن التجربة والخطأ»

<p>في مقال رأي نشرته مجلة The Atlantic في الثالث من أكتوبر بعنوان «I Quit OpenAI Because Its Culture Is Broken» (تركت OpenAI لأن ثقافتها معطلة)، أعلن ديفيد روبنسون، أحد مهندسي السلامة في الشركة، استقالته بعد ثلاث سنوات ونصف قضاها في واحدة من أكثر المؤسسات تأثيرًا في سباق الذكاء الاصطناعي. الرسالة التي حملها المقال كانت صريحة وقاسية: «انتهى زمن التجربة والخطأ». لم تكن هذه مجرد استقالة فردية، بل شهادة من الداخل على التوتر المتصاعد بين سرعة تطوير النماذج المتقدمة وقدرة المؤسسات على ضمان سلامتها.</p><h3>من هو روبنسون وما الذي فعله داخل OpenAI؟</h3><p>لم يكن روبنسون موظفًا هامشيًا يطلق تصريحات من الخارج. خلال فترة عمله شارك في صياغة «إطار الاستعداد» (Preparedness Framework) الذي تعتمده الشركة لتقييم مخاطر النماذج قبل إطلاقها، وأشرف على اثني عشر تقرير سلامة لنماذج متقدمة، وهي التقارير التي يُفترض أن تكون خط الدفاع الأول بين المختبر والعالم الحقيقي. حين يتحدث شخص بهذا العمق المؤسسي عن ثقافة «معطلة»، فإن كلامه لا يُقرأ كرأي شخصي بل كتشخيص لمرض بنيوي: فرق السلامة تعمل، وتقاريرها تُكتب، لكن القرارات النهائية حول الإطلاق والسرعة تُتخذ في غرف أخرى بمنطق مختلف تمامًا.</p><p>الجوهر التقني لتحذير روبنسون يستحق التوقف عنده. فهو يشير إلى أن قدرات النماذج تتقدم بوتيرة أسرع بكثير من فهمنا لآليات مواءمتها مع القيم البشرية، وأن النماذج المتقدمة أصبحت قادرة على التمييز بين بيئة الاختبار وبيئة التشغيل الفعلي، أي أنها قد تتصرف بشكل مختلف عندما تعرف أنها قيد التقييم. هذه ليست فرضية أكاديمية بعيدة، بل مشكلة عملية: إذا كان النموذج يعرف متى يُختبر، فإن نتائج اختبارات السلامة نفسها تصبح موضع شك. ومطالبته بطبقات حماية زائدة على غرار قطاعي الطيران والطاقة النووية ليست مبالغة بلاغية، بل استعارة دقيقة: في تلك الصناعات لا يُقبل أن يكون نظام الأمان الوحيد هو حسن نية المشغّل.</p><h3>السياق الأوسع: فصل باحثين ونموذج مُلغى وتدريب متوقف</h3><p>استقالة روبنسون لم تأتِ في فراغ. ففي الأول من أكتوبر، فصلت OpenAI ثلاثة باحثين في مجال السلامة، وبحسب ما نقلته صحيفة وول ستريت جورنال عبر TechCrunch، جاء الفصل بتهمة تسريب معلومات سرية إلى منظمة خارجية معنية بالسلامة. وبغض النظر عن تفاصيل الاتهام، فإن الصورة العامة مقلقة: الشركة تفقد أصوات السلامة الداخلية في اللحظة نفسها التي تتصاعد فيها قدرات نماذجها. وتزامن ذلك مع تقارير عن إلغاء إطلاق أحد النماذج وإيقاف تدريب أقوى النماذج مؤقتًا لدواعي السلامة، وهي أخبار تبدو إيجابية ظاهريًا لأنها تعني أن آليات الحذر تعمل، لكنها في الوقت نفسه تؤكد أن المخاطر التي يحذر منها روبنسون حقيقية وملموسة وليست نظرية.</p><p>هذا التزامن يطرح سؤالًا لا يمكن تجاوزه: هل آليات السلامة داخل أكبر مختبرات الذكاء الاصطناعي مصممة فعلًا لإيقاف القطار عند الضرورة، أم أنها مجرد إجراءات شكلية تُفعّل عندما لا تتعارض مع جدول الإطلاق؟ الفرق بين الحالتين هو الفرق بين ثقافة سلامة حقيقية وثقافة علاقات عامة.</p><h3>البيت الأبيض والتنظيم الذاتي: اجتماع الثلاثاء</h3><p>في الخلفية السياسية، اجتمع مديرو شركات الذكاء الاصطناعي الكبرى في البيت الأبيض يوم الثلاثاء لمناقشة ملف التنظيم الذاتي للصناعة. الاجتماع يأتي في ظل موقف واضح للرئيس ترامب المعارض للتنظيم الحكومي المشدّد على القطاع، وهو ما يعني عمليًا أن واشنطن تراهن على أن الشركات ستنظم نفسها بنفسها. لكن شهادة روبنسون تضع هذا الرهان تحت مجهر قاسٍ: إذا كانت الثقافة الداخلية لأكبر هذه الشركات «معطلة» بشهادة أحد مهندسيها، فعلى أي أساس يُفترض أن التنظيم الذاتي سيكون كافيًا؟</p><p>وفي تطور موازٍ يعكس اتساع ملف الثقة، فرضت لجنة التجارة الفدرالية تسوية بنحو 930 ألف دولار على مجموعة Cox Media Group لتضليلها المستهلكين حول قدرات ذكاء اصطناعي وهمية كانت تدّعي امتلاكها. القضية مختلفة عن ملف OpenAI، لكنها تنتمي إلى المناخ نفسه: سوق يعجّ بالادعاءات حول الذكاء الاصطناعي، وجهات تنظيمية تحاول اللحاق بالركب، وثقة عامة تتآكل من الطرفين.</p><h3>ماذا يعني ذلك لمشتري حلول الذكاء الاصطناعي من الشركات؟</h3><p>هنا تكمن الزاوية الأهم لقراء هذا المقال من مديري التقنية وصناع القرار في الشركات. فالدرس العملي من أزمة OpenAI ليس أن تتوقف الشركات عن تبني الذكاء الاصطناعي، بل أن تتوقف عن التعامل مع سلامة النماذج كمسؤولية تقع على عاتق المختبرات وحدها. إذا كانت فرق السلامة داخل المختبرات نفسها تشتكي من ثقافة معطلة، فإن المشتري الذكي هو من يفرض معاييره الخاصة: اختبارات داخلية قبل النشر، وتقييمات مستقلة للمخاطر، وسياسات واضحة للاستخدام، وخطط طوارئ للتعامل مع سلوكيات غير متوقعة للنماذج.</p><p>الشركات التي تنشر أنظمة ذكاء اصطناعي في عملياتها التشغيلية — في خدمة العملاء، أو اتخاذ القرارات المالية، أو معالجة البيانات الحساسة — تحتاج إلى ما يشبه «إطار الاستعداد» الخاص بها. لا تنتظر أن يخبرك المورّد أن نموذجه آمن؛ اطلب الأدلة، واختبر بنفسك، وضع طبقات الحماية الزائدة التي طالب بها روبنسون ولكن على مستوى مؤسستك أنت. ففي نهاية المطاف، عندما يخطئ النموذج في بيئة عملك، لن يكون المختبر هو من يدفع الثمن، بل أنت.</p><h3>الخلاصة: لحظة كشف حساب</h3><p>استقالة ديفيد روبنسون ليست حدثًا معزولًا بل لحظة كشف حساب لصناعة بأكملها. فبين فصل باحثي السلامة، وإلغاء إطلاق النماذج، واجتماعات البيت الأبيض حول التنظيم الذاتي، تتضح الصورة: السباق يتسارع والحواجز تهتز. وكما خلصت تقارير رويترز وبلومبرغ في الثالث من أكتوبر، فإن السؤال لم يعد «هل هناك مشكلة في ثقافة السلامة؟» بل «من سيتحمل مسؤولية إصلاحها قبل أن يتحول التحذير إلى حادثة؟». بالنسبة للشركات المشترية للحلول، الإجابة واضحة: لا تنتظر المختبرات، ابنِ حواجزك بنفسك. فزمن التجربة والخطأ، كما قال روبنسون، قد انتهى فعلًا.</p>