انضمت شركة جوجل إلى شركات تكنولوجية كبرى عقب كشف تعرض أنظمة ثلاث شركات لاختراقا غير مقصودة بواسطة نموذج الذكاء الاصطناعي جيميني خلال اختبارات للأمن السيبراني أُجريت في مايو الماضي.
وقعت هذه الحوادث في أثناء اختبارات نفذتها شركة متخصص في أمن الذكاء الاصطناعي، والتي أدت في وقت سابق إلى كشف اختراقات مماثلة طالت نماذج تابعة لشركات أوبن إيه آي وأنثروبيك وميتا.
تفاصيل الثغرات وآلية الاختراق
أكدت جوجل وقوع أحد الاختراقات عندما طُلب من النموذج استرجاع معلومات من شركة وهمية تحمل اسم شركة حقيقية، حيث خمّن البرنامج كلمة المرور للوصول إلى خدمات الشركة الحقيقية.
وأوضحت الشركة أن الاختراقين الآخرين حسما عندما أجرى النموذج عمليات بحث قادته إلى مستودعات برمجية عامة تحتوي على بيانات اعتماد استغلها للوصول إلى أنظمة أخرى قبل أن يتم إيقافه.
جدل تنظيم الذكاء الاصطناعي
أثارت هذه الحوادث نقاشًا عالميًا حادًا حول المخاطر المتزايدة لوكلاء الذكاء الاصطناعي، حيث دعا رؤساء شركات تكنولوجية إلى إبطاء وتيرة تطوير هذه التقنيات لضمان أمانها.
وفي المقابل، أبدى قادة آخرون في القطاع التكنولوجي معارضتهم لفرض قوانين تنظيمية جديدة، مؤكدين تفضيل خيار الرقابة الذاتية لحماية قدرة الشركات الناشئة على المنافسة.
