أنتلجنسيا المغرب: عبدالعزيز . م
كشفت دراسة
حديثة أجرتها مبادرة تيك أغينست تيروريزم المدعومة من الأمم المتحدة عن ثغرات في
أنظمة الحماية لدى عدد من نماذج الذكاء الاصطناعي مؤكدة أن بعض هذه الأنظمة قد
تقدم معلومات قابلة للاستخدام في أنشطة إرهابية عندما تتعرض لتعديلات تستهدف تعطيل
ضوابط الأمان وجاءت هذه النتائج لتسلط الضوء على التحديات المتزايدة المرتبطة
بتطوير تقنيات الذكاء الاصطناعي وضمان استخدامها بصورة مسؤولة وآمنة.
وشملت
الاختبارات 162 برنامجًا يعمل بتقنيات الذكاء الاصطناعي حيث خضعت النماذج لمجموعة
من 627 سؤالًا تتعلق بمعلومات قد يسعى أشخاص يخططون لهجمات إرهابية إلى الحصول
عليها وهدفت الدراسة إلى قياس قدرة هذه البرامج على رفض الطلبات الخطرة والتمييز
بين الاستخدامات المشروعة والطلبات التي قد تسهم في تسهيل أعمال العنف وفق ما
نقلته وكالة فرانس برس عن المبادرة.
وأظهرت
النتائج أن النماذج التقليدية التي شملها التقييم ومن بينها شات جي بي تي وكلود
وجيميناي قدمت إجابات قابلة للاستخدام عن نحو 1.9 بالمئة في المتوسط من الأسئلة
التي تضمنت نية إرهابية واضحة بينما ارتفعت النسبة إلى 16.9 بالمئة عندما قُدمت
الطلبات في سياق أبحاث أمنية وهو ما يبرز صعوبة التمييز بين الأغراض البحثية
المشروعة والطلبات التي يمكن استغلالها للحصول على معلومات حساسة.
لكن النتائج
سجلت اختلافًا كبيرًا عند اختبار نماذج عُدلت بهدف تعطيل تدابير الحماية أو تقليص
قدرتها على رفض الطلبات الخطرة إذ تراوحت نسبة الإجابات المقدمة عن الأسئلة
المتعلقة بالأنشطة الإرهابية بين 87 و92 بالمئة في المتوسط لدى 13 نموذجًا من هذه
الفئة وتثير هذه الأرقام مخاوف بشأن إمكانية تجاوز الضوابط التقنية التي تعتمد
عليها الشركات للحد من إساءة استخدام أدوات الذكاء الاصطناعي.
وحذرت
المبادرة من المخاطر المرتبطة بالنماذج مفتوحة المصدر التي تسمح بإتاحة مكوناتها
التقنية وتعديلها من قبل أطراف مختلفة مشيرة إلى أن نماذج مشتقة تفتقر إلى قيود
الحماية قد تظهر خلال فترة قصيرة من إطلاق النسخ الأصلية ودعت إلى فرض اختبارات
أمنية مستقلة قبل إتاحة النماذج أو بيعها مع تحميل الجهات المشاركة في سلسلة
التوزيع مسؤولية التحقق من سلامتها وتعزيز الإجراءات الوقائية للحد من استغلال
الذكاء الاصطناعي في التخطيط لأعمال إرهابية.
لا توجد تعليقات:
للأسف، لا توجد تعليقات متاحة على هذا الخبر حاليًا.
أضف تعليقك