هويملي سفيان

أصدرت شركة كاسبرسكي إرشادات عامة لتخفيف المخاطر المرتبطة باستخدام وكلاء الذكاء الاصطناعي المستقلين ضمن البنية التحتية للمؤسسات. وتطبق هذه الوثيقة الجديدة مبادئ «المناعة السيبرانية»، وهو نهج محوري في تطوير أنظمة آمنة في تصميمها. واستناداً إلى حوادث معروفة ونماذج تهديدات قائمة، يستعرض التقرير المخاطر المرتبطة بأنظمة الوكلاء التي تحظى باستقلالية متزايدة، ويوضح طريقة تعزيز الثقة في بنيتها لتقليص التداعيات المحتملة للأخطاء أو الاختراقات الأمنية.
جرى استعراض الوثيقة الجديدة ضمن فعاليات معرض AI Everything Global، وهو معرض عالمي لحلول الذكاء الاصطناعي التحويلية في مختلف القطاعات يقام في أبو ظبي يومي 6 و7 أكتوبر. وتشارك كاسبرسكي في هذا العام بصفتها راعياً للمعرض الذي يجمع نخبة من أبرز رواد وشركات الذكاء الاصطناعي من أكثر من 60 دولة.
في الوقت الراهن، يُستخدم وكلاء الذكاء الاصطناعي في نطاق واسع ومتزايد من سيناريوهات العمل في المؤسسات؛ بدءاً من أتمتة عمليات الأعمال الروتينية وانتهاء بحالات الاستخدام عالية التأثير مثل دعم مهام تطوير البرمجيات أو وظائف أمن تكنولوجيا المعلومات. ويحلل التقرير الجديد، المعنون بـ «أمن وكلاء الذكاء الاصطناعي من منظور المناعة السيبرانية»، حالات الاستخدام الشائعة لوكلاء الذكاء الاصطناعي ومستويات الاستقلالية في عملهم، ويذكر حوادث واقعية تسببت فيها هذه الأنظمة بأضرار حقيقية، وذلك كله لتصنيف المخاطر المعروفة وتحليل نماذج التهديدات القائمة.
ولمساعدة المؤسسات على تقليص مخاطر الحوادث الأمنية، لا سيما المرتبطة بالاستغلال الخبيث للوكلاء، أو منحهم صلاحيات مفرطة، أو حذفهم للبيانات، أوضحت كاسبرسكي في تقريرها مبادئ المناعة السيبرانية التي يمكن تطبيقها عند تصميم وكلاء الذكاء الاصطناعي. وتتضمن هذه المبادئ ما يلي:
تحديد الافتراضات الأمنية لوكلاء الذكاء الاصطناعي في مرحلة التصميم: ينبغي معاملة النماذج اللغوية الكبيرة وأي بيانات واردة إلى النظام من مصادر خارجية باعتبارها غير موثوقة افتراضياً، واشتراط الموافقة البشرية الصريحة قبل تنفيذ أي إجراء لا يمكن إلغاؤه.
تقليص قاعدة الحوسبة الموثوقة (TCB) إلى أدنى حد: اعتماد أقل قدر ممكن من مجموعة المكونات التي يجب الثقة بها لضمان الأمن.
عزل المكونات: يجب استخدام بيئات العزل والآلات الافتراضية لعزل بيئة التنفيذ عن غيرها، وفصل سياقات الوظائف الموثوقة عن غير الموثوقة، وعزل كل وكيل على حدة ضمن الأنظمة متعددة الوكلاء.
التحكم في التفاعلات باستخدام نهج الرفض الافتراضي: ينبغي تطبيق السياسات على حالات استدعاء الأدوات ومعطياتها، التي يستخدمها الوكلاء للتفاعل مع واجهات برمجة التطبيقات والموارد الخارجية، والتحكم في حركة مرور الشبكة، ومنع الوكيل من إحداث تعديلات جوهرية في سلسلة التوريد الخاصة به.
بالإضافة إلى ذلك، يتضمن التقرير توصيات مخصصة لمديري أمن تكنولوجيا المعلومات، ومديري تكنولوجيا المعلومات، ومديري التكنولوجيا في الشركات. وتتضمن أبرز التوصيات: تصنيف وكلاء الذكاء الاصطناعي، وتطوير سياسات عزل واحتواء مرنة، وإدارة سلسلة توريد الوكلاء لبناء بنى تحتية آمنة لها. ولمزيد من النصائح العملية، يمكنكم الاطلاع على الوثيقة الكاملة هنا.
يعلق على هذه المسألة فلاديسلاف توشكانوف، رئيس مركز أبحاث تقنيات الذكاء الاصطناعي في كاسبرسكي: «صحيح أنّ تطوير مفهوم المناعة السيبرانية كان بعيداً في الأصل عن مجال الذكاء الاصطناعي، بيد أنّ مبادئه الأساسية تسري على الأنظمة المتقدمة المعتمدة على النماذج اللغوية الكبيرة. فعندما يتعامل المطورون مع مكونات تفتقر بطبيعتها إلى الحتمية والموثوقية، وهي الصفة الافتراضية الأساسية للنماذج اللغوية الكبيرة، فعليهم دمج الثقة في البنية التحتية للحل لتخفيف التداعيات المحتملة للأخطاء وحالات الاختراق. وينبغي تعزيز البنية الآمنة باستراتيجية دفاع متعددة الطبقات ومزودة بتقنيات مثل جدار الحماية المدعوم بالذكاء الاصطناعي وطبقات أمان حديثة تشمل بيئات الاختبار المعزولة، وأنظمة الاكتشاف والاستجابة للنقاط الطرفية (EDR)، وأنظمة إدارة معلومات الأمان والأحداث (SIEM) لدعم تطبيقات الذكاء الاصطناعي الحالية بشكل أفضل.»
خلال معرض AI Everything Global، تستعرض شركة كاسبرسكي مجموعة حلولها وتقنياتها لتطبيقات الذكاء الاصطناعي العملية، لا سيما في المجال الصناعي. ويقدم جناح كاسبرسكي تقنية متطورة مدعومة بالذكاء الاصطناعي لاكتشاف الأنشطة غير الطبيعية في الأصول الصناعية (Kaspersky MLAD)، كما يعرض للحضور منصة Kaspersky Neuromorphic Platform المعتمدة على الشبكات العصبية، التي تقدم حلولاً موفرة للطاقة لأمن الأنظمة السيبرانية الفيزيائية. وتستعرض الشركة أيضاً وكلاء كاسبرسكي الذكيين الموثوقين للاسترجاع والتحليل (TIARA)، وهي تقنية تزود النموذج اللغوي الكبير للمؤسسات بمعرفة متخصصة في مجال محدد، وذلك لضمان دقة الإجابات وموثوقيتها في التطبيقات الصناعية الواقعية.

في جناح كاسبرسكي، يمكن للمشاركين في المعرض مقابلة خبراء الأمن من مركز أبحاث تقنيات الذكاء الاصطناعي في كاسبرسكي، الذين يتتبعون التهديدات الناجمة عن الذكاء الاصطناعي، ويقومون بأبحاث عن أمن خوارزميات الذكاء الاصطناعي، ويدمجون تقنيات الذكاء الاصطناعي وتعلم الآلة في منتجات وخدمات الأمن السيبراني التي تقدمها كاسبرسكي. ولمعرفة معلومات إضافية عن مركز أبحاث تقنيات الذكاء الاصطناعي في كاسبرسكي، يرجى زيارة الموقع الإلكتروني الرسمي لكاسبرسكي.