شركة إسرائيلية تقف خلف اختراق نماذج "كلود" لثلاث مؤسسات حقيقية

قبل أن تطرح شركات الذكاء الاصطناعي أي نموذج جديد على الجمهور، تضعه في تجربة داخل "غرفة" مقفلة عن الإنترنت الحقيقي، وتطلب منه أن يحاول اختراق أجهزة وهمية، وذلك لمعرفة مدى خطورته لو استخدمه أحد فعليًا في هجوم حقيقي. والمشكلة أن هذه "الغرفة" لم تكن مقفلة فعليًا، كما ظنّ جميع الأطراف.

يوم الخميس، أعلنت أنثروبيك، الشركة صاحبة "كلود"، أن ثلاثة من نماذجها كانت، من دون أن تعلم، متصلة فعليًا بالإنترنت الحقيقي أثناء إحدى هذه التجارب. فاخترقت أجهزة حاسوب حقيقية تابعة لثلاث شركات فعلية، ووصلت إلى بياناتها، من دون أن يعلم أصحاب هذه الشركات أصلًا أنهم تعرّضوا لاختراق.

وهذه ليست المرة الأولى التي يحدث فيها هذا مؤخرًا: قبل أسبوع، أعلنت شركة أوبن إيه آي أن الأمر نفسه حدث مع نموذجين تابعين لها، اخترقا موقع هاغينغ فيس بطريقة مشابهة. وبعد هذا الإعلان، راجعت أنثروبيك آلاف التجارب التي أجرتها على "كلود" خلال الأشهر الماضية، فوجدت أن الأمر تكرر ثلاث مرات، كانت أولاها في نيسان/أبريل الماضي. ومن بين الشركات الثلاث المتضررة، لم تكن اثنتان منها تعلم أصلًا أنها تعرّضت لاختراق، إلى أن اتصلت بهما أنثروبيك وأبلغتهما بذلك.

وفي إحدى هذه الحالات، واصل النموذج هجومه حتى بعد أن ظهرت عليه مؤشرات تدل على أنه لم يعد داخل تجربة وهمية، إلى أن توقف لاحقًا. وعلى إثر ذلك، قررت أنثروبيك إيقاف جميع تجارب الاختراق التي تُجريها على نماذجها إلى حين التأكد من معالجة المشكلة.

من هي إيريغيولار، وما علاقتها بمنظومة الاحتلال الاستخباراتية؟

إيريغيولار شركة ناشئة تعمل في مجال أمن الذكاء الاصطناعي، تأسست في تشرين الثاني/نوفمبر 2023 على يد شريكين: دان لاهاف، الرئيس التنفيذي، ودار سابقًا في شركة آي بي إم بعد خدمته في الوحدة 81 التابعة لاستخبارات جيش الاحتلال، وعومر نيفو، المدير التقني، الذي أمضى اثنتي عشرة سنة في الوحدة 8200، أبرز أذرع الاستخبارات الإشارية والسيبرانية في جيش الاحتلال، وساهم هناك في تأسيس برنامج "أرازيم" التدريبي الذي يُعِدّ الطلاب لأدوار استخباراتية عبر تعليمهم علوم الحاسوب والرياضيات. الشركة، التي تصف نفسها بأنها "مختبر الأمن الوحيد في العالم المخصص للذكاء الاصطناعي المتقدم"، جمعت نحو 80 مليون دولار بقيادة صندوقي سيكويا كابيتال وريدبوينت فينتشرز، إلى جانب مستثمرين من بينهم آساف رابابورت، أحد مؤسسي شركة ويز، وتقدَّر قيمتها بنحو 450 مليون دولار. وقّع عقدها مع أنثروبيك، بحسب تصريحات مؤسسيها، الرئيس التنفيذي لأنثروبيك داريو أموداي شخصيًا، وهي تعمل أيضًا مع أوبن إيه آي وغوغل ديب مايند، إضافة إلى جهات حكومية لم تُسمِّها، إذ تُجري اختبارات اختراق واستغلال متقدمة (Red Teaming) على النماذج قبل إطلاقها للجمهور، بما يمنحها اطّلاعًا مباشرًا وغير مسبوق على الشيفرة البرمجية للنماذج الأكثر تقدمًا في العالم قبل صدورها، وعلى الثغرات الكامنة فيها.

هذا التقاطع بين شركة تأسست على خبرة استخباراتية عسكرية من الاحتلال وبين موقعها الحالي في قلب منظومة اختبار وتقييم أقوى نماذج الذكاء الاصطناعي في العالم، ليس تفصيلًا عابرًا بالنسبة للفلسطينيين. فالوحدتان اللتان خرج منهما مؤسسا الشركة ليستا وحدتين تقنيتين محايدتين، بل هما العمود الفقري لمنظومة المراقبة الرقمية التي يستخدمها الاحتلال ضد الفلسطينيين. فقد وثّق تحقيق مشترك لصحيفة الغارديان ومجلتَي "+972" و"لوكال كول"، استند إلى وثائق مسرّبة وشهادات أحد عشر مصدرًا، أن الوحدة 8200 استخدمت منذ عام 2022 نسخة مخصصة من سحابة "أزور" التابعة لمايكروسوفت لتخزين ملايين المكالمات الهاتفية للفلسطينيين في غزة والضفة الغربية يوميًا، وأن هذه البيانات استُخدمت، بحسب مصادر داخل الوحدة، لتخطيط ضربات جوية خلال الإبادة الجماعية في غزة، ولأغراض الاعتقال والابتزاز والتجنيد القسري للمتعاونين. كما سبق لثلاثة وأربعين جنديًا احتياطيًا في الوحدة 8200 أن نشروا عام 2014 رسالة رفض علنية وثّقوا فيها استخدام معلومات جُمعت عن مدنيين فلسطينيين أبرياء، بينها ميولهم الجنسية وحالاتهم الصحية، لابتزازهم وتجنيدهم قسرًا كمتعاونين مع الاحتلال.