ذكاء اصطناعي- صورة تعبيرية
ذكاء اصطناعي- صورة تعبيرية

قالت شركة أميركية تنشط في مجال التكنولوجيا، إنها "اكتشفت الآلاف من العيوب ونقاط الضعف في أدوات الذكاء الاصطناعي التوليدية الشهيرة"، وأشارت إلى أن تلك الأدوات تنتج محتوى عنيفا أو جنسيا، وفق صحيفة "واشنطن بوست" الأميركية.

وقالت شركة "هييز لابس"، إن "أنشطتها تهدف إلى المساعدة في استئصال عيوب ونقاط ضعف الذكاء الاصطناعي، وتحديد الطرق الآمنة للتعامل مع تلك التقنيات".

وأشارت إلى أن بعض أدوات الذكاء الاصطناعي التوليدية أرشدت بعض المستخدمين لإنتاج أسلحة كيميائية وبيولوجية.

وأضحى الذكاء الاصطناعي مصدر قلق، مع قيام المزيد من الشركات بتوظيف الأدوات التوليدية في أنشطتها وفي إرشاد المستهلكين على منتجاتها. 

واجهت شركة غوغل، الشهر الماضي، موجة من الانتقادات، بسبب إحدى أدوات الذكاء الاصطناعي التوليدية المخصصة للإجابة على أسئلة المستخدمين

إذ أرشدت الأداة إلى أنشطة ضارة، مثل نصحها أحد المستفسرين بتناول صخرة صغيرة يوميا، كنوع من العلاج، أو إضافة الغراء إلى البيتزا، على نحو ما ذكرته الأداة لمستفسر آخر. 

وفي تقرير نشرته نهاية ماي الماضي، ذكرت صحيفة "وول ستريت جورنال" أن "معدل التحسن في أنظمة الذكاء الاصطناعي يتباطأ، وأن عدد التطبيقات أقل مما كان متصورا في الأصل، حتى بالنسبة لأكثرها قدرة".

وأشارت إلى أن معظم التحسينات النوعية والقابلة للقياس في نماذج الذكاء الاصطناعي، مثل "تشات جي بي تي" من "أوبين إيه أي"، و"جيمناي" من  غوغل، تحتاج إلى إدخال المزيد من البيانات إليها.

وفي فبراير، تعرضت شركة طيران كندا لسلسلة من الانتقادات، عندما وعد برنامج الدردشة الآلي الخاص بها، والمزود بتقنية الذكاء الاصطناعي، أحد المسافرين، بخصم مالي وهمي.

ونقلت "واشنطن بوست" عن جاك كلارك، من شركة أبحاث الذكاء الاصطناعي، قوله، إنه "مع انتشار أنظمة الذكاء الاصطناعي على نطاق واسع، سنحتاج إلى مجموعة أكبر من المؤسسات، لاختبار قدرات تلك الأنظمة، ولتجنب مشكلات السلامة".

ويلفت بعض الخبراء إلى أنه على الرغم من الجهود التي تبذلتها شركات الذكاء الاصطناعي الكبرى، إلا أنه لا يزال من السهل للغاية، إقناع هذه الأدوات بالقيام بأشياء، ليس من المفترض أن تفعلها.

ومع ذلك، يتصاعد الاعتماد على الذكاء الاصطناعي. إذ وجدت دراسة أجرتها مايكروسوفت و"لينكد إن"، أن 3 من كل 4 من المديرين والمتخصصين، يستخدمون الذكاء الاصطناعي في العمل.

وقال غراهام نيوبيغ، الأستاذ المشارك في علوم الكمبيوتر بجامعة كارنيغي ميلون، إن أدوات الرقابة الخاصة بالذكاء الاصطناعي التابعة لجهات خارجية مهمة، لأنها محايدة".

ولفت إلى أن أدوات الرقابة والأمان التابعة لجهة خارجية تتمتع بأداء أعلى، فيما يتعلق بالتدقيق، لأنه تم إنشاؤها بواسطة مؤسسة متخصصة، على عكس قيام كل شركة ببناء أدواتها المعنية بالرقابة والتدقيق.

مواضيع ذات صلة

Passengers wait in a check-in line at Southwest Airlines at Phoenix Sky Harbor International Airport Friday, July 19, 2024, in…
قطاع الطيران يعد الأكثر تضررا من العطل الإلكتروني العالمي

عندما شل عطل معلوماتي، وصف بأنه "الأضخم"، العديد من الشركات حول العالم، الجمعة، برزت الآثار الاقتصادية الناجمة عن هذا الخلل بشكل لافت، ما يتطلب تحسين إجراءات الاستجابة لحالات الطوارئ الرقمية بعد أن خلقت الأزمة حالة من عدم الثقة بالأنظمة الإلكترونية العالمية.

وتأثرت شركات كبرى تعمل في مجالات مختلفة بهذا العطل من الولايات المتحدة مرورا بأوروبا وصولا لأستراليا، مما خلق حالة فوضى في المطارات والمصارف والمستشفيات وغيرها من القطاعات الحيوية.

وسبب المشكلة تحديث فيه خلل على أنظمة تشغيل "مايكروسوفت ويندوز" أصدرته شركة الأمن السيبراني "كراود سترايك" التي استبعدت فرضية الهجوم الإلكتروني أو حدوث مشكلة أمنية في تكنولوجيا المعلومات.

ويقول خبراء إن آثار هذا العطل الذي استمر ساعات على الاقتصاد العالمي سواء كانت مباشرة أو غير مباشرة "كبير جدا"، وذلك بعد أن تأثر 8.5 مليون جهاز حول العالم بتحديث شركة الأمن السيبراني، وفقا لشركة مايكروسوفت العملاقة.

"300 مليار خلال 24 ساعة"

وقال الخبير بالاقتصاد العالمي، مازن أرشيد، في تصريحات لموقع "الحرة" إن "التحديث الخاطئ لبرنامج فالكون سينسر تسبب في حدوث شاشة الموت الزرقاء على ملايين الأجهزة التي تعمل بنظام مايكروسوفت ويندوز، ما أدى إلى تعطيل عمليات العديد من الشركات والمؤسسات حول العالم".

وأوضح أرشيد أن "هذه الانقطاعات طالت مختلف القطاعات، ما أدى إلى تأثيرات سلبية كبيرة على الاقتصاد".

بدروه، يذهب الخبير الاقتصادي والمستشار الدولي لبرنامج الأمم المتحدة الإنمائي، باسم حشاد، في الاتجاه ذاته قائلا إن "التقديرات بالخسائر المباشرة تتراوح بين 200 إلى 300 مليار دولار خلال 24 ساعة".

وفي حديثه لموقع "الحرة" استشهد حشاد بمجموع الانخفاض في قيم رؤوس الأموال بالأسواق الآسيوية التي تراجعت بمعدل 0.7 بالمئة.

وسلط العطل الضوء على "كراود سترايك"، وهي شركة قيمتها 83 مليار دولار وغير ذائعة الصيت، لكن لديها أكثر من 20 ألف مشترك حول العالم، منهم "أمازون دوت كوم" و"مايكروسوفت".

وقال أرشيد إن القطاع الجوي كان من أكثر القطاعات تضررا، حيث توقفت أنظمة الحجز وتسجيل الدخول في المطارات، مما أدى إلى تأخير وإلغاء العديد من الرحلات. 

وضرب الخبير في الاقتصاد العالمي المثال على مطار "لاغوارديا" في نيويورك، بعد أن توقفت أنظمة الأمتعة بشكل كامل، مما أثر على عمليات الطيران وأدى إلى خسائر مالية ضخمة لشركات الطيران وتضرر تجربة المسافرين.

وبحسب شركة "سيريوم" لتحليلات الطيران، فإنه من بين أكثر من 110 آلاف رحلة تجارية مجدولة، الجمعة، تم إلغاء 5 آلاف رحلة على مستوى العالم.

وتقّدر فاتورة الخسائر الناجمة عن تعطل المطارات وشركات الطيران الكبرى بالذات الأميركية والأوروبية بـ70 مليار دولار، حسبما قال حشاد.

لكن قطاع الطيران لم يكن الوحيد المتضرر من هذا العطل الإلكتروني غير المسبوق؛ فالقطاع المالي أيضا شهد تأثيرات كبيرة، بحسب أرشيد، الذي أشار إلى أن أنظمة المعاملات الإلكترونية توقفت وتعرضت العمليات المالية للشلل. 

وقال إن "البنوك التي تعتمد على أنظمة كراود سترايك للأمان السيبراني واجهت تحديات في استعادة خدماتها بسرعة، مما أدى إلى خسائر مالية تقدر بمئات الملايين من الدولارات نتيجة لتوقف الأعمال وفقدان الثقة بين العملاء".

كذلك، لم يكن قطاع الرعاية الطبية بمنأى عن هذه الفوضى العالمية بعد تعطل أنظمة مستشفيات ومراكز طبية تعتمد على التكنولوجيا الرقمية لإدارة المرضى.

وقال أرشيد إن ذلك التوقف "أثر على القدرة على تقديم الرعاية الطبية العاجلة وإدارة العمليات الجراحية والإجراءات الطبية اليومية، مما وضع حياة المرضى في خطر".

وأشار إلى أن التقديرات لإجمالي فاتورة الأضرار جراء هذا العطل في الولايات المتحدة وحدها قد تتجاوز 7 مليارات دولار في اليوم الواحد.  

وتابع: "لو افترضنا أن المشاكل استمرت لعدة أيام أو أسابيع، فإن الخسائر العالمية كانت ستصل إلى عشرات المليارات، مع تأثيرات طويلة الأمد على الثقة في الشركات المتضررة وتكاليف إعادة التشغيل وإصلاح الأنظمة المتضررة".

ومع ذلك، يعتقد حشاد أن "الانعكاس الأخطر" على هذا العطل هو التأثيرات غير المباشرة التي قد تستمر مستقبلا.

وقال إن هناك مخاوف في الأسواق بحدوث "انتكاسة مماثلة"، مما يفقد الثقة في المنظومة الإلكترونية العالمية، الأمر الذي يؤكد استمرار التأثير من ذلك العطل.

وبعد حل المشكلة تدريجيا، تتعامل الشركات الآن مع تراكم الرحلات الجوية المؤجلة والملغاة وكذلك المواعيد الطبية والطلبيات التي لم تصل إلى وجهتها ومشكلات أخرى قد تستغرق أياما لحلها. 

"حاجة ملحة"

وفي بيان السبت، قالت "كراود سترايك" إنها أصدرت تحديثا، ليل الخميس، تسبب في تعطل النظام وظهور "شاشة الموت الزرقاء" سيئة السمعة.

وذكرت "كراود سترايك" أنها نشرت برمجية لإصلاح المشكلة فيما اعتذر رئيسها، جورج كورتس، في تصريحات لقناة "سي أن بي سي" الإخبارية الأميركية. وقال كورتس إنه يريد "الاعتذار شخصيا من كل مؤسسة وكل مجموعة وكل شخص طاله الضرر".

وأضافت شركة الأمن السيبراني أن عودة الوضع إلى طبيعته قد تستغرق بضعة أيام.

وبعد أن أخذت الأزمة في الانجلاء، بدأت تساؤلات تطرح بشأن من سيتحمل فاتورة تلك الخسائر وكيف سيتم تعويض المتضررين من هذا العطل.

وتحدث أرشيد عن ذلك قائلا إن "المسؤولية الأساسية تقع على عاتق الشركة المزودة للخدمة، في هذه الحالة كراود سترايك، لتعويض العملاء المتضررين".

واستطرد قائلا: "تلعب شركات التأمين السيبراني دورا كبيرا في تغطية جزء من هذه الخسائر، اعتمادا على الشروط والبنود الخاصة بكل عقد تأمين. وتواجه الشركات تحديات في تقديم مطالبات التأمين إذا لم تتبع الإجراءات الوقائية اللازمة أو لم تكن تغطيتها التأمينية شاملة لمثل هذه الحوادث".

وهذا الحدث العالمي يبرز "الحاجة الملحة" لتعزيز الأمان السيبراني وتحسين إجراءات الاستجابة للطوارئ الرقمية، بحسب أرشيد، وذلك لمنع حدوث ما وصفه بـ "الكوارث" في المستقبل. 

وقال: "تحتاج الشركات إلى استثمارات ضخمة في البنية التحتية التكنولوجية وتدريب الموظفين لضمان استمرارية الأعمال في حالات الطوارئ السيبرانية".