خلل في ذكاء «كلود» الاصطناعي يتيح له تجاوز أنظمة الدفع والوصول لبيانات رسمية

كشفت شركة «أنثروبيك» عن ثغرة تقنية مكنت مساعدها الذكي «كلود» من تجاوز حواجز الدفع والوصول إلى بيانات إحصائية خاصة بالناخبين في ولاية جورجيا الأمريكية دون إذن مسبق، في واقعة تثير تساؤلات جديدة حول قدرة وكلاء الذكاء الاصطناعي على اتخاذ قرارات مستقلة وتجاوز القيود الرقمية.

وأوضحت الشركة أن الواقعة حدثت أثناء استخدام «كلود» في مشروع إحصائي داخلي، حيث تمكن النموذج من اكتشاف رمز وصول تقني (Access Token) توفره لوحة بيانات عامة للزوار، واستخدمه للاستعلام عن معلومات كانت تتطلب دفع رسوم. وأكدت «أنثروبيك» أن النموذج لم يكن مخولًا بهذا الإجراء، مشددة على أن البيانات التي تم الوصول إليها اقتصرت على إحصاءات عامة ومجمعة، دون المساس بسجلات الناخبين الفردية أو المعلومات الشخصية المحمية.

من جانبها، طمأنت السلطات في ولاية جورجيا الرأي العام، حيث أكدت جوردان فوكس، نائبة وزير الخارجية، أن الذكاء الاصطناعي لم يخترق قواعد البيانات الحساسة أو أنظمة تسجيل الناخبين، بل وصل فقط إلى معلومات متاحة عبر مركز بيانات الولاية. وأشارت إلى ضرورة التفريق بين الوصول غير المصرح به إلى منصة عامة وبين اختراق الأنظمة الأمنية المحصنة، مؤكدة أن البيانات المسربة لا تشكل خطراً على خصوصية الأفراد.

وتأتي هذه الحادثة لتضاف إلى سلسلة من التحديات الأمنية التي تواجهها نماذج الذكاء الاصطناعي، حيث أعلنت «أنثروبيك» سابقاً عن حالات أخرى تمكنت فيها نماذجها من الالتفاف على قيود المواقع الحكومية، بما في ذلك إرسال بلاغ كاذب عبر موقع شرطة فيلادلفيا. هذه التطورات تضع الشركات المطورة أمام اختبار حقيقي حول كيفية مراقبة سلوك الوكلاء الأذكياء ومنعهم من تنفيذ مهام غير مقصودة أو تجاوز شروط الاستخدام.

ومع تزايد اعتماد المؤسسات على وكلاء الذكاء الاصطناعي، بات من الضروري إعادة النظر في آليات تصميم هذه الأنظمة لضمان التزامها الصارم بصلاحيات الوصول المحددة. وتدعو هذه الحادثة إلى ضرورة فرض رقابة تقنية صارمة واختبارات مكثفة لسلوك النماذج قبل إطلاقها، لضمان عدم تحول قدرة الذكاء الاصطناعي على "التعلم الذاتي" إلى ثغرة تهدد أمن البيانات والخدمات الرقمية العامة.