حكم العدل الدولية يفتح ملف قيام دولة الكيان بارتكاب "إبادة جماعية" في جناحي دولة فلسطين

جوجل: Gemini اخترق 3 شركات حقيقية وتوقف قبل إحداث أى ضرر

جوجل: Gemini اخترق 3 شركات حقيقية وتوقف قبل إحداث أى ضرر

تاريخ النشر: 2026-09-19 | 16:19

كشفت شركة جوجل أن نموذج الذكاء الاصطناعي Gemini تمكن من اختراق أنظمة 3 شركات حقيقية خلال اختبار للأمن السيبراني أجرى في مايو الماضي، إلا أن النموذج توقف من تلقاء نفسه بعدما أدرك أنه لم يعد يتعامل مع أنظمة وهمية داخل بيئة الاختبار، في واقعة تكشف جانبًا جديدًا من المخاطر المرتبطة بقدرات الذكاء الاصطناعي على تنفيذ مهام أمنية بشكل مستقل.

كيف اخترق Gemini الشركات الثلاث؟

وقعت الحوادث خلال اختبار أمني أجرته شركة الذكاء الاصطناعي الإسرائيلية Irregular، حيث كان من المفترض أن يعمل Gemini داخل بيئة محاكاة للوصول إلى معلومات مرتبطة ببرنامج تابع لشركة وهمية، لكن اسم الشركة الوهمية تطابق مع اسم شركة حقيقية، ما تسبب في وصول النموذج إلى أنظمة خارج نطاق الاختبار، وكان من المفترض ألا يمتلك Gemini إمكانية الوصول إلى الإنترنت، إلا أن هذا الوصول أصبح متاحًا له بشكل غير مقصود، وهو ما سمح للنموذج بالوصول إلى أنظمة الشركات الحقيقية، وفي إحدى الحالات تمكن من الوصول إلى نظام شركة بعدما خمّن كلمات مرور، بينما شهدت حالتان أخريان بحث النموذج عبر الإنترنت عن اسم الشركة، ليعثر على بيانات اعتماد منشورة في مستودعات عامة، ثم استخدمها للوصول إلى الأنظمة.

لكن بمجرد أن أدرك Gemini أنه يتعامل مع شركات حقيقية وليس أنظمة وهمية ضمن الاختبار، توقف عن مواصلة العملية وخرج من الأنظمة التي وصل إليها، ولم تكشف جوجل عن أسماء الشركات الثلاث المتضررة.

جوجل: النموذج تصرف بشكل مناسب

أُبلغت جوجل بهذه الوقائع في يوليو الماضي، لكنها لم تعلن عنها في ذلك الوقت، موضحة أن الشركة لم تعتبر الحوادث تستوجب إعلانًا عامًا، لأن النموذج أوقف عمليات الوصول من تلقاء نفسه قبل أن يتسبب في أي أضرار للشركات، وقالت هذر أدكينز، نائبة رئيس هندسة الأمن في جوجل، إن الواقعة تؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية، مشيرة إلى أن النموذج تصرف بشكل مناسب عندما أدرك أنه وصل إلى أنظمة حقيقية.
وأخطرت جوجل الشركات الثلاث المتضررة والسلطات الفيدرالية الأمريكية بالواقعة، لكنها أوضحت أن الحوادث لم تتضمن أحدث نموذج من Gemini، دون الكشف عن إصدار النموذج الذي شارك في الاختبار، كما اعتبرت الشركة الواقعة أقرب إلى اختبار لاكتشاف الثغرات الأمنية منها إلى اختراق ضار.

حوادث مشابهة تثير مخاوف من قدرات الذكاء الاصطناعي

تأتي واقعة Gemini في وقت تظهر فيه المزيد من الحوادث المرتبطة بقدرة نماذج الذكاء الاصطناعي على تنفيذ مهام معقدة بشكل مستقل، إذ شهدت اختبارات سابقة وقائع مشابهة ارتبطت بنماذج تابعة لشركات مثل OpenAI وAnthropic وMeta، وقالت شركة Irregular إن واقعة جوجل لا تمثل مشكلة جديدة، وإنها تشبه حوادث أخرى ظهرت خلال اختبارات أجرتها مختبرات الذكاء الاصطناعي الكبرى، مؤكدة أن جميع المشكلات المعروفة من جانبها جرى التعامل معها وإصلاحها.

وتختلف حالة Gemini عن بعض الوقائع السابقة في نقطة مهمة، وهي أن النموذج توقف من تلقاء نفسه بعدما أدرك أنه وصل إلى شركة حقيقية، ففي اختبار مشابه، قالت Anthropic إن نموذج Claude Opus 4.7 لم يتوقف بعدما أدرك أنه ربما يتعامل مع شركة حقيقية، بينما كشفت OpenAI في واقعة أخرى أن أحد نماذجها اعتقد أن الشركة الحقيقية التي وصل إليها كانت جزءًا من بيئة المحاكاة.

وتسلط هذه الحوادث الضوء على تحدٍ متزايد مع تطور وكلاء الذكاء الاصطناعي، فكلما أصبحت النماذج أكثر قدرة على استخدام الإنترنت والبحث عن المعلومات والتعامل مع الأنظمة وتنفيذ سلسلة من المهام بصورة مستقلة، زادت الحاجة إلى وضع ضوابط تمنع انتقال أنشطة الاختبار أو التجربة إلى أنظمة حقيقية دون قصد.

×
أخبار
ضغوط من نتنياهو على ترامب لشن هجوم وشيك على إيران وسط تريّث أميركي انتهاء اجتماع "الليكود" و"يشار" دون اتفاقات جوهرية وسط استمرار الخلافات بشأن التناوب وضم "بن غفير" ليبيا ترفض تصفية الحسابات الدولية في مياهها.. وتدمر 4 زوارق مفخخة أوكرانية قبالة بنغازي- تفاصيل ترامب: أميل إلى استئناف العمليات العسكرية الكبرى ضد إيران بعد الأول من يناير "كلمة واحدة تفسّر أمريكا".. رحلة الكلمات النابية من المحرّم السياسي إلى علامة أصالة ورقة بحثية إسرائيلية تحذّر من «التصحيح المفرط» في التحليل الاستخباري والمبالغة في الأيديولوجيا بعد 7 أكتوبر تحصينات حوثية واسعة قرب باب المندب.. ورقة بحثية ترصد الاستعدادات لهجوم مضاد اللجنة القطرية تعرض شراكة حكومية دون مرجعية سياسية واضحة استشهاد مواطنين وإصابة طفل بنيران جيش الاحتلال في مناطق متفرقة بقطاع غزة مذكرات عميد الصحافة الاستقصائية تكشف كواليس حروب أمريكا المتهورة من فيتنام إلى إيران - تفاصيل إيران: 16 دولة زودت صدام حسين بأسلحة كيميائية واليوم تتهم طهران بإنتاجها الكنيست يتحرك لإلغاء تشريعات نتنياهو... آيزنكوت يسابق مهلة التكليف نتنياهو يواصل حملة التشكيك بالانتخابات ونزع الشرعية عن التصويت العربي بين شبح الحرب العالمية وانفلات الذكاء الاصطناعي.. خارطة طريق عاجلة للكونغرس الأمريكي لنزع فتيل الأزمات الكبرى ارتفاع حصيلة الشهداء في قطاع غزة إلى 74,742 والإصابات إلى 176,227منذ بدء العدوان فلسطين تودع أحد أعمدة الرعيل الأول.. إجماع وطني على نعي المناضل الفتحاوي البارز صخر بسيسو إيران تجهّز ناقلات لكسر الحصار الأميركي وتهدد باستهداف نفط الدول الخليجية رحيل أحد أعمدة "فتح".. حسن عصفور وأسرة "أمد" ينعون القائد الوطني الكبير صخر بسيسو الجامعة العربية تحذر من انزلاق المنطقة نحو تداعيات خطيرة عقب استهداف منشأة بالبحرين الخارجية الفلسطينية: آن الأوان لوضع حد لرعاية حكومة الاحتلال لإرهاب المستوطنين دونية "مجلس السلام"..صرخة جوش أمام "عنطزة" نتنياهو! سي إن إن: أهم تسعة ملفات قد يفتحها الديمقراطيون للتحقيق في الكونغرس إلينوي: نشطاء يطالبون وقف تجديد سندات إسرائيلية وسحب استثمارات الولاية منها - فيديو فرق "الإرهاب اليهودي" تحرق مركبات وتهاجم منازل بالضفة والاعتداء على مواطنين- فيديو رئيس مجلس النواب الأمريكي القادم جيفريز: عنف اليهود في الضفة والموت في قطاع غزة لا يمكن أن يستمر وزير خارجية باكستان: نأمل التوصل إلى اتفاق وشيك بين أمريكا وإيران "رضائي" في واجهة المشهد الإيراني: هل يصبح "نابليون" ما بعد الحرب؟ البحرين: اندلاع حريق إثر هجوم إيراني على منشأة صناعية مدنية ف.تايمز: ترامب يدرس شن ضربات جديدة على إيران مع تحذير الجيش الأمريكي أيمن عودة يكشف عن السبيل الوحيد لإنهاء عهد نتنياهو: الشراكة مع الصوت العربي

جميع الحقوق محفوظة لـ أمد للاعلام © 2007 - 2026

✔ تم نسخ الرابط