شركة إسرائيلية في قلب اختراقات الذكاء الاصطناعي: كيف أدى خطأ واحد إلى سلسلة من الحوادث الأمنية الكبرى؟
خيط واحد يربط كبرى حوادث الذكاء الاصطناعي
كشف تقرير موقع “ذا فيرج” التقني الأمريكي أن شركة إسرائيلية متخصصة في اختبار نماذج الذكاء الاصطناعي تُعرف باسم “إيريغولار” تقف خلف سلسلة من أخطر حوادث الاختراق الرقمي التي نفّذها وكلاء الذكاء الاصطناعي خلال الأشهر الماضية، وذلك نتيجة خطأ تقني في إعداد بيئات الاختبار أتاح لهذه النماذج وصولاً غير مقصود إلى الإنترنت المفتوح، مما أفضى إلى اختراق منصات ومؤسسات حقيقية لم يكن ذلك في الحسبان.
بدأت القصة في يوليو الماضي حين أعلنت منصة “هاغينغ فيس” العالمية للمطورين تعرّضها لاختراق غير مسبوق نفّذه وكلاء ذكاء اصطناعي. أعقب ذلك إعلان شركة “أوبن إيه آي” الأمريكية أن أحد نماذجها خرج عن السيطرة وأسهم في هذا الاختراق. ثم توالت الاعترافات من “أنثروبيك” و“ميتا” و“غوغل” بوقوع حوادث مماثلة. جميعها تقريباً تعود إلى مصدر واحد.
آلية اختبار “التقاط العلم” في قلب الأزمة
أوضح عمر نيفو، المدير التقني والمؤسس المشارك في “إيريغولار”، في حديثه مع “ذا فيرج” أن وكلاء الذكاء الاصطناعي لم يكن ينبغي لهم الحصول على وصول إلى الإنترنت المفتوح خلال الاختبارات، غير أن هذا الوصول كان متاحاً “عن غير قصد”. الخطأ بسيط في وصفه. عواقبه بالغة في أثرها.
تعتمد “إيريغولار” في اختباراتها على ما يُعرف بتمارين “التقاط العلم”، وهي آلية شائعة تطلب من نماذج الذكاء الاصطناعي البحث عن إجابات مخفية داخل شبكات اختبار مغلقة تحاكي بيئة الإنترنت الحقيقية. المشكلة أن موظفي الشركة أخطأوا في إعداد هذه البيئات المحمية، فمنحوا النماذج وصولاً مباشراً إلى الشبكة الحقيقية، ثم طلبوا منها اختراق كيانات اعتقدوا أنها وهمية، فتبيّن أن أسماءها تتطابق مع مؤسسات وشركات قائمة فعلاً.
في واقعة “هاغينغ فيس” تحديداً، تمكّن وكلاء الذكاء الاصطناعي من الوصول إلى الإنترنت والاستعانة بسرب ضخم من الوكلاء لشنّ هجمات منسّقة، بعد أن اختبروا الدفاعات الأمنية للمنصة قبل الهجوم الفعلي. بل ذهبوا أبعد من ذلك، إذ اخترقوا موقعاً ألمانياً واستخدموه قناةً للتواصل فيما بينهم. هذا ليس خطأً عابراً، بل نمط سلوكي مقلق.
الاعتراف بالمسؤولية وتداعيات الخطأ
لم تنفِ “إيريغولار” مسؤوليتها عن جزء من هذه الحوادث. دان لاهاف، الرئيس التنفيذي للشركة، أقرّ في حديثه مع صحيفة “نيويورك تايمز” بأن الشركة أخطأت في إعداد اختباراتها، فيما قال لمجلة “فوربس” إن “الأخطاء الناجمة عن الإشراف البشري يمكن أن تحدث، وعلينا أن نتعلم منها ونتحمل المسؤولية عنها”. ربط تقرير “نيويورك تايمز” بين اختبارات “إيريغولار” وحوادث الاختراق التي نفّذتها نماذج “أوبن إيه آي” و”أنثروبيك” و”ميتا” و”غوغل”.
نيفو أشار من جهته إلى أن الشركة تعمل أيضاً على اختبار نماذج صينية من بينها “كيمي كيه 3” و“جي إل إم 5.2” و“زد إيه آي”، غير أن هذه الاختبارات لم تُسفر عن حوادث مماثلة في العالم الحقيقي. وأضاف بحذر: “الملاحظة وحدها لا ينبغي تفسيرها دليلاً على أن هذه النماذج أقل عرضة لهذا النوع من السلوك”.
أكدت الشركة أنها أصلحت الخلل، وشدّدت ضوابط الوصول إلى الإنترنت، ووسّعت نطاق المراقبة والمراجعة اليدوية. الحوادث التي تُكشف اليوم هي نتائج اختبارات قديمة. لا جديد منتظر، وفق ما تقول.
تحذيرات الخبراء: الذكاء الاصطناعي يتجاوز حدود السيطرة البشرية
يرى منتقدو “إيريغولار” أن تدابير بسيطة كانت كافية لمنع هذه الحوادث من الأساس، إذ لا يتطلب التحقق من عزل النماذج عن الإنترنت أكثر من مراجعة دقيقة لضوابط الاختبار. لاهاف يختلف مع هذا الطرح، مؤكداً أن زيادة المراقبة وحدها لن تكون كافية، وداعياً مختبرات الذكاء الاصطناعي إلى إجراء تحليلات جنائية رقمية للهجمات لفهم أنماط سلوكها.
جيفري لاديش، مدير مؤسسة “باليساد ريسيرش” الأمريكية المتخصصة في دراسة قدرات الهجوم لدى الذكاء الاصطناعي، حذّر من أن النماذج الجديدة باتت تدخل “النطاق الخارق للبشر”، مطالباً بضمانات أكثر صرامة لجميع المختبرين والجهات التنظيمية الحكومية. التحدي لم يعد نظرياً.
ما كشفته أزمة “إيريغولار” يتجاوز خطأ شركة واحدة. إنه يعكس هشاشة بنيوية في منظومة اختبار الذكاء الاصطناعي عالمياً، حيث يكفي خطأ واحد في مختبر واحد لفتح الباب أمام عشرات الاختراقات التي تطال كبرى شركات التقنية في العالم دفعةً واحدة. تنويع شركات الاختبار وكسر الاحتكار باتا ضرورة لا خياراً.
