ما وراء «أوبن كلو».. هل خرج مساعدو الذكاء الاصطناعي عن السيطرة؟ : CNN الاقتصادية

ويثير «أوبن كلو» الرائج الاستخدام حالياً في قطاع الذكاء الاصطناعي مع أكثر من 3 ملايين مستخدم الفضول والخوف على السواء.

وفي حين تلجأ إليه بعض الشركات لأتمتة عمليات البحث عن زبائن جدد، قد يستخدمه أفراد لإنشاء قوائم مهام بالاستناد إلى بريدهم الإلكتروني.

يقول يزيد أكاديري المدير التقني لمجموعة «إلاستيك» في فرنسا: «انتقلنا من ذكاء اصطناعي كنا ندردش معه بواسطة روبوتات إلى ذكاء اصطناعي ينفّذ مهمّات ويتّخذ مبادرات»، منبّهاً من «جسامة التهديدات والمخاطر».

وفي إطار مقال بحثي بعنوان «وكلاء الفوضى»، درس نحو 20 باحثاً أنماط ستة وكلاء ذكاء اصطناعي برمجوا بواسطة «أوبن كلو» لأسبوعين.

ولاحظ الباحثون أن الوكلاء نفّذوا نحو عشر مهام تنطوي على مخاطر، من تدمير البريد الإلكتروني إلى نقل معلومات شخصية.

وتتواءم هذه الخلاصات مع منشورات لمستخدمين على الإنترنت أبلغوا فيها عن أخطاء مرتكبة من وكلاء الذكاء الاصطناعي الذين برمجوهم بواسطة «أوبن كلو».

يقول أدريان ميرفيي الخبير في الأمن السيبراني لدى «تشيك بوينت سوفتوير تكنولوجيز»، إنه «عندما تلجؤون إلى وكلاء مساعدة، لا تسيطرون على خطواتهم وعندما تراقبون ما يحدث، تجدون أنهم تخطّوا الإطار المحدّد لهم».

أضاف «لا تقتصر الثغرات الأمنية على الأخطاء التي يرتكبها المساعدون بلا قصد»، فأدوات الذكاء الاصطناعي هذه تربط لتشغيلها ببريد إلكتروني أو جدول مهام أو محرّك بحث، ما يثير اهتمام قراصنة المعلوماتية.

وتابع قائلاً «لا شكّ في أن هؤلاء الوكلاء باتوا فريسة مرغوبة للهجمات السيبرانية، وفق ويندي ويتمور مديرة المعلومات التحليلية للأمن السيبراني في شركة (بالو ألتو نتووركس) الأميركية».

وتضيف ويتمور «لاحظنا ذلك في حالات مختلفة كثيرة، فعندما يخترق مهاجمون بيئة ما، يتحوّلون مباشرة إلى نماذج اللغة الكبيرة الداخلية المعتمدة ويستخدمونها للحصول على مزيد من المعلومات».

وكشف الفريق البحثي في المجموعة الذي يحمل اسم «الوحدة 42» أنه رصد في مطلع مارس آذار محاولات هجمات منفّذة بواسطة تعليمات مخبّأة في مواقع موجّهة إلى الوكلاء الذين يطلعون عليها، ومن بين التوجيهات، الطلب من الوكيل «محو قاعدة البيانات».

ونبّه باحثون آخرون من استراتيجية أخرى قد يلجأ إليها قراصنة المعلوماتية من خلال استهداف ملفّات المهارات (سكيلز) التي يحمّلها المستخدمون لصقل قدرات الوكلاء.

وكان البعض من هذه الملفّات مفتوحة النفاذ على الإنترنت يتضمّن توجيهات مبطّنة لسرقة بيانات مثلاً.

وأقرّ مؤسس «أوبن كلو» بيتر شتاينبرغر بدوره بالمخاطر المحدقة باستخدام مساعدي الذكاء الاصطناعي.

وقال في أواخر آذار مارس «لم أبسّط عن قصد استخدام أوبن كلو كي يضطر المستخدمون إلى الاطلاع على ماهية الذكاء الاصطناعي وقواعده وأساسياته وطريقة توجيه التعليمات وكي يدركوا أنه بإمكان هذه التقنية أن تخطئ».

غير أن ويندي ويتمور تعتبر من جهتها أنه «ليس من الواقعي جدّاً» أن نتوقّع أن يستعمل المستخدمون وكلاء المساعدة مع مراعاة ضوابط الحماية، وتقول «يعتمد الناس الابتكارات ويستكشفون قدراتها قبل أن يفكّروا في ضرورة ضمان أمن البيانات ومسائل من قبيل انتهاك الخصوصية في 2026».

(أ ف ب)