النجاح الإخباري - نشرت صحيفة “الغارديان” تقريرا أعده هاري ديفيس ويوفال أبراهام قالا فيه إن وحدة رقابة في الجيش الإسرائيلي استخدمت مجموعة بيانات لاتصالات الفلسطينيين، التي اعترضتها لبناء أداة ذكاء اصطناعي مشابهة لتشات جي بي تي، والتي تأمل بأن تحدث تحولا في قدرات التجسس.
وكشف تحقيق الغارديان المشترك مع مجلة 972+ وموقع “لوكال كول” العبري أن وحدة 8200 قامت بتدريب نموذج ذكاء اصطناعي قادر على فهم اللغة العربية من خلال استخدام كمية كبيرة من الحوارات الهاتفية والنصية، التي تم الحصول عليها من خلال التنصت على الأراضي الفلسطينية المحتلة. وبحسب مصادر عليمة بالمشروع، فقد بدأت الوحدة ببناء النموذج لإنشاء أداة متطورة تشبه روبوت المحادثة، قادرة على الإجابة على أسئلة حول الأشخاص الذين تراقبهم، وتوفير رؤى حول كميات هائلة من بيانات المراقبة التي تجمعها.
وقد سرعت الوحدة التي تقارن قدراتها بوكالة الأمن القومي الأمريكية (أن أس إي)، جهودها لتطوير النظام بعد بداية حرب غزة في تشرين الأول/أكتوبر 2023. ولا يزال النموذج طور التدريب في النصف الثاني من العام الماضي، ولا يعرف إن تم نشره بعد.
وقد تم الكشف جزئيا عن الجهود لتطوير نموذج اللغة الكبير أو “أل أل أم” ، وهو نظام تعلم متقدم يولد نصا يشبه النص البشري، في محاضرة عامة لم يلحظها أحد وقدمها أحد خبراء تكنولوجيا الاستخبارات العسكرية السابقين الذي قال إنه أشرف على المشروع. وقال المسؤول السابق، شكيد روجر جوزيف سيدوف، أمام الحضور في مؤتمر عسكري للذكاء الاصطناعي في تل أبيب العام الماضي: “لقد حاولنا إنشاء أكبر مجموعة بيانات ممكنة [و] جمع كل البيانات التي حصلت عليها إسرائيل على الإطلاق باللغة العربية”. وأضاف أن النموذج يتطلب “كميات هائلة” من البيانات. وقد أكد ثلاثة مسؤولين سابقين في الاستخبارات على دراية بالمبادرة وجود برنامج التعلم الآلي وشاركوا تفاصيل حول بنائه.
ووصفت عدة مصادر أخرى كيف استخدمت الوحدة 8200 نماذج التعلم الآلي الأصغر حجما في السنوات التي سبقت إطلاق المشروع الطموح، والتأثير الذي أحدثته هذه التكنولوجيا بالفعل.
وقال مصدر مطلع على تطوير هذه الوحدة لنماذج الذكاء الاصطناعي في السنوات الأخيرة: “الذكاء الاصطناعي يزيد من القوة”، وأضاف أن الأمر لا يتعلق فقط بمنع الهجمات بإطلاق النار، بل يمكنني تتبع نشطاء حقوق الإنسان، ومراقبة البناء الفلسطيني في المنطقة ج [من الضفة الغربية]. ولدي المزيد من الأدوات لمعرفة ما يفعله كل شخص في الضفة الغربية”.
وتعلق الصحيفة أن التفاصيل حول حجم النموذج الجديد تلقي الضوء على احتفاظ وحدة 8200 وعلى نطاق واسع بمحتوى الاتصالات التي تم اعتراضها، وهو ما مكنها من مراقبة شاملة للاتصالات الفلسطينية، حسب وصف مسؤولين استخباراتيين إسرائيليين وغربيين حاليين وسابقين.
ويوضح المشروع أيضا كيف تسعى الوحدة 8200، مثل العديد من وكالات التجسس في جميع أنحاء العالم، إلى الاستفادة من التقدم في مجال الذكاء الاصطناعي لإجراء مهام تحليلية معقدة وفهم الكميات الهائلة من المعلومات التي تجمعها بشكل روتيني، والتي تتحدى بشكل متزايد المعالجة البشرية وحدها.
ولكن دمج أنظمة كنموذج اللغة الكبير في التحليل الاستخباراتي يحمل الكثير من المخاطر لأن الأنظمة عادة ما تفاقم التحيز ولديها قابلية لارتكاب أخطاء، كما يحذر الخبراء ونشطاء حقوق الإنسان. كما أن طبيعتها الغامضة قد تجعل من الصعب أيضا فهم كيفية التوصل إلى الاستنتاجات التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
وعبر زاك كامبل، وهو باحث كبير في مجال المراقبة بمنظمة “هيومان رايتس ووتش”، عن قلقه من أن تستخدم الوحدة 8200 برامج الذكاء الاصطناعي لاتخاذ قرارات مهمة بشأن حياة الفلسطينيين تحت الاحتلال العسكري. وقال: “إنها آلة تخمين، وفي النهاية يمكن استخدام هذه التخمينات لتجريم الناس”.
ورفض متحدث باسم الجيش الإسرائيلي الكشف عما إن كان يستخدم نموذج اللغة الكبير، لكنه قال إن الجيش “يستخدم عددا من الأساليب لتحديد وإحباط نشاطات المنظمات الإرهابية المعادية في الشرق الأوسط”.
وتشير الصحيفة إلى أن وحدة 8200 قد طورت عددا من الأساليب التي تعمل بالذكاء الاصطناعي في السنوات الأخيرة. وكانت أنظمة مثل “غوسبل” و”لافيندر” والتي تم دمجها بسرعة في العمليات القتالية في الحرب على غزة، حيث لعبت دورا مهما في قصف الجيش الإسرائيلي للمنطقة من خلال المساعدة في تحديد الأهداف المحتملة (كل من الأشخاص والمباني) للضربات القاتلة.
ومنذ ما يقرب من عقد من الزمان، استخدمت الوحدة أيضا الذكاء الاصطناعي لتحليل الاتصالات التي تعترضها وتخزنها، باستخدام سلسلة من نماذج التعلم الآلي لفرز المعلومات إلى فئات محددة مسبقا، وتحديد كيفية التعرف على الأنماط وإجراء التنبؤات.
ولكن عندما حشد الجيش الإسرائيلي مئات الآلاف من جنود الاحتياط ردا على هجمات 7 تشرين الأول/أكتوبر، عادت مجموعة من الضباط ذوي الخبرة في بناء نموذج اللغة الكبير إلى الوحدة من القطاع الخاص. وجاء بعضهم من شركات التكنولوجيا الأمريكية الكبرى، مثل غوغل وميتا ومايكروسوفت.
وقالت غوغل إن العمل الذي يقوم به موظفوها كجنود احتياطيين “غير مرتبط” بالشركة، ورفضت ميتا ومايكروسوفت التعليق.
وقال مصدر إن الفريق الصغير من الخبراء بدأ في بناء نموذج اللغة الكبير قادر على فهم اللغة العربية، ولكن كان عليه فعليا أن يبدأ من الصفر بعد اكتشاف أن النماذج التجارية والمصادر المفتوحة باللغة العربية الموجودة تم تدريبها باستخدام اللغة العربية المعيارية المكتوبة والمستخدمة في الاتصالات الرسمية والأدب والإعلام- بدلا من اللغة العربية المنطوقة.
وقال أحد المصادر: “لا توجد نصوص للمكالمات أو محادثات واتساب على الإنترنت بكمية كافية لتدريب مثل هذا النموذج”. وأضاف أن التحدي كان “جمع كل النصوص [العربية المنطوقة] التي حصلت عليها الوحدة على الإطلاق ووضعها في مكان مركزي”. وقال إن بيانات تدريب النموذج تتكون في النهاية من حوالي 100 مليار كلمة.
وقال مصدر مطلع على المشروع لصحيفة “الغارديان” إن هذا الكم الهائل من الاتصالات يشمل محادثات باللهجتين اللبنانية والفلسطينية. وقالت مصادر إن الوحدة سعت أيضا إلى تدريب النموذج على فهم المصطلحات العسكرية المحددة للجماعات المسلحة. لكن يبدو أن عملية جمع البيانات التدريبية الضخمة تضمنت جمع كميات كبيرة من الاتصالات التي لا قيمة استخباراتية لها عن الحياة اليومية للفلسطينيين.
ولا تعد الوحدة 8200 وحدها بين وكالات التجسس التي تجري تجارب على تكنولوجيا الذكاء الاصطناعي التوليدي. ففي الولايات المتحدة، طرحت وكالة المخابرات المركزية أداة شبيهة بتشات جي بي تي لغربلة المعلومات من المصادر المفتوحة. كما تعمل وكالات التجسس في بريطانيا على تطوير برامجها الخاصة للذكاء الاصطناعي، والتي يقال إنها تدربها أيضا على مجموعات البيانات من المصادر المفتوحة.
لكن العديد من المسؤولين الأمنيين السابقين في أمريكا وبريطانيا قالوا إن مجتمع الاستخبارات الإسرائيلي يبدو أنه يجازف بمخاطر أكبر من أقرب حلفائه عند دمج أنظمة جديدة تعتمد على الذكاء الاصطناعي في تحليل الاستخبارات.
وقال أحد مسؤولي التجسس الغربيين السابقين إن جمع الاستخبارات العسكرية الإسرائيلية المكثف لمحتوى الاتصالات الفلسطينية سمح لها باستخدام الذكاء الاصطناعي بطرق “لن تكون مقبولة” بين وكالات الاستخبارات في البلدان التي تتمتع برقابة أقوى على استخدام سلطات المراقبة والتعامل مع البيانات الشخصية الحساسة.
وقال كامبل من “هيومان رايتس ووتش” إن استخدام مواد المراقبة لتدريب نموذج الذكاء الاصطناعي “أمر ينتهك حقوق الإنسان ويتعارض معها”، وإن إسرائيل كقوة احتلال ملزمة بحماية حقوق الخصوصية للفلسطينيين. وأضاف: “نحن نتحدث عن بيانات شخصية للغاية مأخوذة من أشخاص لا يشتبه في ارتكابهم جريمة، واستخدامها لتدريب أداة يمكن أن تساعد بعد ذلك في إثبات الشكوك”.
وقال نديم ناشف، مدير “حملة”، وهي مجموعة حقوق رقمية فلسطينية، إن الفلسطينيين “أصبحوا موضوعات في مختبر إسرائيل لتطوير هذه التقنيات وتسليح الذكاء الاصطناعي، وكل ذلك لغرض الحفاظ على نظام الفصل العنصري والاحتلال حيث تُستخدم هذه التقنيات للسيطرة على شعب، والسيطرة على حياته”.
وفوق هذا، يحذر خبراء من الأخطاء التي قد يرتكبها نموذج الذكاء الاصطناعي، فقد لاحظت بريانا روزين المسؤولة السابقة في مجلس الأمن القومي بالبيت الأبيض، وهي الآن باحثة بارزة في جامعة أكسفورد، أنه في حين أن أداة شبيهة بتشات جي بي تي يمكن أن تساعد محلل الاستخبارات على “اكتشاف التهديدات التي قد يغفل عنها البشر، حتى قبل ظهورها، إلا أنها تخاطر أيضا باستخلاص روابط خاطئة واستنتاجات خاطئة”.
وقالت روزين إنه من الأهمية بمكان أن تتمكن وكالات الاستخبارات التي تستخدم هذه الأدوات من فهم المنطق وراء الإجابات التي تنتجها.
وأضافت: “سوف تحدث أخطاء، وقد تكون لبعض هذه الأخطاء عواقب وخيمة جدا”. ففي شباط/فبراير، ذكرت وكالة أسوشيتد برس أن ضباط الاستخبارات ربما استخدموا الذكاء الاصطناعي للمساعدة في اختيار هدف في غارة جوية إسرائيلية في غزة في تشرين الثاني/نوفمبر 2023، والتي قتلت أربعة أشخاص، بما في ذلك ثلاث فتيات مراهقات. وأشارت رسالة اطلعت عليها وكالة الأنباء إلى أن الغارة الجوية نفذت عن طريق الخطأ.