اخترق بعض الشركات سرا.. هل خرج الذكاء الاصطناعي عن السيطرة؟

رئيس "أوبن إيه آي" قال إنه شعر بالحادث الأمني "بشكل عميق"

عشتارتيفي كوم- سكاي نيوز عربية/

كشفت شركتا "أوبن إيه آي" و"أنثروبيك" أن نماذج ذكاء اصطناعي متخصصة في الأمن السيبراني، خرجت من نطاق الاختبارات ونفذت عمليات اختراق استهدفت شركات، دون علم أو إشراف مطوريها، ما أثار مخاوف أمنية واسعة.

وفق تقرير لصحيفة "وول ستريت جورنال" الأميركية، شنت نماذج الذكاء الاصطناعي من "أوبن إيه آي" و*أنثروبيك"، المصممة للاختراق، سلسلة هجمات إلكترونية بعد إخراجها من نطاق الاختبار، بدءا من شهر أبريل.

ولم يلاحظ المطورون عمليات الاختراق حتى الأسبوع الماضي، عندما كشفت "أوبن إيه آي" عن اختراق شركة الذكاء الاصطناعي "هاغينغ فايس" في يوليو، كما أعلنت "أنثروبيك"، الخميس، رصدها 3 اختراقات نفذتها نماذجها.

أثار الكشف المزدوج عن هذه المعلومات استياء واسعا بين المشرعين، إذ استشهد بها البعض للمطالبة بلوائح أو أنظمة اختبار جديدة، كما مثلت هذه المعلومات لحظة فارقة لبعض موظفي المختبرات المسؤولة.

في أحدث الاعترافات بالاختراقات، كشفت شركة "أنثروبيك" عن تجاوز نماذج من "كلود" التابع لها، حدود الاختبار وتمكنها من اختراق 3 شركات، لكنها أرجعت السبب إلى غياب التفاهم مع "شريك" لها، أثناء اختبارات تشغيلية، كان من المفترض أن تكون منفصلة عن شبكة الإنترنت، ولكن العكس حدث فأدّى إلى المشكلة.

أما سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي"، فقال في مقابلة بودكاست: "هذا أول حادث أمني أشعر به بشكل عميق للغاية. لقد فوجئت قليلا بأن المزيد من الناس لا يشعرون به بنفس القدر من العمق"، مشيرا إلى اختراق شركته بأنه "حادث إلكتروني خيالي للغاية".

وفي مؤشر على تشديد البيت الأبيض رقابته على الذكاء الاصطناعي، أعلنت الإدارة وضع إطار عمل يحدد النماذج التي ستخضع لمراجعة الحكومة الفيدرالية قبل نشرها للعموم، وفقًا لما صرح به مسؤول في البيت الأبيض.

وأضاف المسؤول أن المناقشات مع الشركات حول كيفية المضي قدما في الاختبارات الطوعية لا تزال جارية.

وقال جوشوا ساكس، كبير مسؤولي التكنولوجيا في شركة "أبوندانت سيكيوريتي" المتخصصة في أمن الذكاء الاصطناعي: "من المرجح أن تعتبر هذه الحوادث، عند النظر إليها لاحقا، بمثابة نقاط تحول في أساليب عمل المهاجمين. إنه وضع خطير للغاية، وهذه الحوادث تُظهر ذلك بوضوح".

وفي ديسمبر، استخدم باحثون في جامعة ستانفورد أحدث تقنيات الذكاء الاصطناعي لإظهار نماذج تحقق مستويات قريبة من مستويات الاختراق البشري على شبكة حقيقية.

وقد لاقى البحث معارضة من قراصنة محترفين يُعرفون باسم "مختبري الاختراق"، وهم أشخاص توظفهم الشركات لاختراق شبكاتها الخاصة لمساعدتها على فهم نقاط ضعفها.

وقال دونوفان جاسبر، أحد الباحثين المشاركين في المشروع: "في ذلك الوقت، كانت نتائجنا موضع جدل. قال الناس إن بإمكانهم تحقيق نتائج أفضل".

ويرى جاسبر أن اكتشافات "أنثروبيك" و"أوبن إيه آي" بمثابة تأكيد على أبحاث فريقه السابقة، مضيفا: "الذكاء الاصطناعي يتحسن كثيرا في هذا المجال".

وكان أكبر ما يقلق باحثي جامعة ستانفورد خلال اختباراتهم، هو أن نماذج الاختراق التي ابتكروها قد تقوم بطريقة ما بأمر لم تُصمم له. وقال: "طوال فترة تشغيلها، كان هناك شخص واحد على الأقل يراقبها".

ولم تكن شركة "هاغينغ فايس" مستعدة للهجوم الآلي الذي شنته نماذج أوبن إيه آي.

وحاولت الشركة استخدام "كلود" لتحليل الكم الهائل من البيانات التي أنتجتها نماذج "أوبن إيه آي"، لكن النموذج رفض إجراء التحليل، معللا ذلك بأسباب أمنية.

وتمكنت شركة "هاغينغ فايس" من استخدام نماذج مفتوحة الأوزان، التي يمكن تشغيلها على أنظمة يتحكم بها المستخدمون، لإجراء تحليلاتها.

لكن العديد من الشركات لا تمتلك حتى الأدوات المناسبة لتحليل الهجمات التي تولدها تقنيات الذكاء الاصطناعي، بحسب رايان ماكجوهان، مالك شركة "آر تِن إن سيكيوريتي"، وهي شركة استشارات في مجال الأمن السيبراني.

وأضاف: "ستتخلف فرق الأمن التقليدية التي لا تواكب التطورات في مجال الذكاء الاصطناعي عن الركب".

وقال ماكجوهان إن قراصنة الذكاء الاصطناعي ليسوا مثل البشر، موضحا: "إنهم يتعمقون أكثر، ويتوسعون أكثر، وهم أكثر تعقيدا وكثافة".

وتزيد عمليات الاختراق من الضغط على إدارة ترامب لاتخاذ المزيد من الخطوات لمعالجة المخاطر الأمنية التي يشكلها الذكاء الاصطناعي.