حذّر بشأن السلامة.. "المنتجات اللامعة" تتسبب باستقالة موظف كبير في "أوبن إيه آي"
استقال جان لايكي، وهو باحث رئيسي في مجال السلامة في شركة "أوبن إيه آي"، بعد أيام قليلة من إطلاق أحدث نموذج للذكاء الاصطناعي "تشات جي بي تي GPT-4o"، وذلك وفقا لتقرير نشرته صحيفة "غارديان" البريطانية.
وكشف لايكي عن سبب استقالته في تدوينة نشرها على منصة "إكس"، زاعما أن شركته السابقة "تعطي الأولوية للمنتجات اللامعة" على حساب السلامة والموثوقية.
ومصطلح المنتجات اللامعة "shiny products" في مجال التكنولوجيا والذكاء الاصطناعي يشير إلى المنتجات أو الأدوات التي تتميز بجاذبيتها البصرية أو التقنية، لكن قد لا تكون لديها فائدة عملية كبيرة أو لا تحل مشكلة حقيقية بفعالية.
وتلك "المنتجات اللامعة" غالباً ما تكون مصممة لإبهار المستخدمين بميزات متقدمة أو تصميم جذاب، لكنها قد تفتقر إلى العمق أو الأداء الملائم للاحتياجات الفعلية للمستخدمين.
وكان لايكي باحثًا رئيسيًا في مجال السلامة في شركة "OpenAI"، حيث شغل منصب رئيس مشارك لقسم المحاذاة الفائقة، مما يضمن التزام أنظمة الذكاء الاصطناعي القوية بالقيم والأهداف الإنسانية.
وجاءت تصريحاته قبل قمة الذكاء الاصطناعي العالمية في العاصمة الكورية الجنوبية، سيول، الأسبوع المقبل، حيث سيناقش السياسيون والخبراء والمديرون التنفيذيون في مجال التكنولوجيا، الرقابة على التكنولوجيا.
وأوضح لايكي في منشوره أنه على مدى الأعوام المنصرمة، "تراجعت ثقافة وعمليات السلامة" في مقابل "المنتجات اللامعة"، مشددا على أنه كان يختلف مع قيادة "أوبن إيه آي" حول أولويات الشركة لبعض الوقت، لكن هذه المواجهة وصلت أخيرا إلى "نقطة الانهيار"، على حد تعبيره.
وقال: "إن الشركة، التي طورت أيضًا مولد الصور Dall-E ومولد الفيديو Sora، يجب أن تستثمر المزيد من الموارد في قضايا مثل السلامة والتأثير الاجتماعي والسرية والأمن للجيل القادم من النماذج".
وتابع: "على مدى السنوات الماضية، تراجعت ثقافة وعمليات السلامة إلى المنتجات اللامعة".
ونوه لايكي إلى أنه من الصعب جدًا حل هذه المشكلات بشكل صحيح، معربا عن قلقه من "أننا لا نسير على الطريق الصحيح"، مشددا على أن الأمر أصبح "أصعب فأصعب" بالنسبة لفريقه لإجراء أبحاثه.
وأشار إلى أن "بناء آلات أكثر ذكاءً من الإنسان هو مسعى خطير بطبيعته، وبالتالي تتحمل (أوبن إيه آي) مسؤولية هائلة نيابة عن البشرية جمعاء.. ويجب عليها أن تصبح شركة للسلامة أولًا".
في المقابل، رد الرئيس التنفيذي للشركة، سام ألتمان، على تصريحات لايكي بشكره على مساهماته في ثقافة السلامة في الشركة.
وأضاف في تدوينة: "إنه على حق، لدينا الكثير لنفعله.. نحن ملتزمون بالقيام بذلك".
- المصدر: الحرة / ترجمات
