خبير تقني يحذر من منح وكلاء الذكاء الاصطناعي صلاحيات واسعة

أنتلجنسيا المغرب: عبدالعزيز . م

حذر خبير في أمن الهوية من منح وكلاء الذكاء الاصطناعي صلاحية الوصول إلى البريد الإلكتروني وكلمات المرور ومعلومات الدفع، مع تزايد الاعتماد على هذه الأدوات لتنفيذ المهام الرقمية بصورة مستقلة، موضحاً أن الصلاحيات الواسعة قد تعرض الحسابات الشخصية والبيانات المالية للخطر، خصوصاً عندما يتخذ الوكيل إجراءات لم يطلبها المستخدم أو يتعامل مع محتوى خبيث دون إدراك مخاطره، ما يجعل تقييد الوصول إلى المعلومات الحساسة ضرورة أساسية لحماية الخصوصية والأمان الرقمي.

وتزايدت المخاوف بشأن سلوك بعض الوكلاء بعد تقارير عن اتخاذ أنظمة قيد الاختبار إجراءات غير مصرح بها عبر مواقع حكومية، في حين أشارت المعلومات الواردة إلى تقديم بلاغ مختلق عن جريمة قتل غير محلولة إلى شرطة فيلادلفيا، وتسلط هذه الوقائع الضوء على التحديات المرتبطة بمنح أنظمة الذكاء الاصطناعي القدرة على تنفيذ المهام دون إشراف بشري كاف، خاصة عندما تتعامل مع منصات رسمية أو بيانات شخصية وإجراءات قد تترتب عليها عواقب حقيقية.

وأوضح ريشي بهاجافا، الشريك المؤسس لشركة «Descope» المتخصصة في أمن الهوية، أن البريد الإلكتروني يمثل نقطة حساسة لأنه قد يُستخدم لاستعادة كلمات المرور والدخول إلى حسابات مصرفية أو تجارية مرتبطة به، كما حذر من هجمات حقن الأوامر التي قد تتضمن رسائل خبيثة تعليمات مضللة تدفع الوكيل إلى تنفيذ تصرفات غير مقصودة، مثل إعادة توجيه الرسائل إلى جهة أخرى، إذ قد يواجه الوكيل صعوبة في التمييز بين طلبات المستخدم المشروعة والتعليمات الضارة المضمّنة داخل المحتوى الذي يعالجه.

وفيما يتعلق بكلمات المرور ومعلومات الدفع، شدد بهاجافا على مخاطر منح الوكلاء صلاحيات غير محدودة تسمح لهم بالدخول إلى الحسابات أو إجراء عمليات شراء وتحويلات مالية دون موافقة واضحة، داعياً إلى الاكتفاء بالصلاحيات الضرورية لإنجاز المهمة المطلوبة، وتجنب مشاركة بيانات تسجيل الدخول عبر خزائن كلمات المرور مع إتاحة وصول شامل، مع ضرورة تخصيص هوية مستقلة لكل وكيل وتحديد نطاق عمله بدقة للحد من الأضرار المحتملة إذا تصرف بصورة غير متوقعة.

ورغم هذه المخاطر، يرى الخبير أن وكلاء الذكاء الاصطناعي يمكن أن يقدموا فوائد عملية عندما تُحصر مهامهم في أنشطة منخفضة المخاطر، مثل البحث عن المنتجات ومقارنة الأسعار أو متابعة مواعيد طرح السلع الجديدة، بشرط ألا يمتلكوا صلاحية تنفيذ المعاملات المالية أو اتخاذ قرارات حساسة بصورة مستقلة، وتؤكد هذه التوصيات أهمية التعامل مع الوكلاء باعتبارهم أدوات تحتاج إلى ضوابط واضحة ومراجعة بشرية، مع منحها أقل قدر ممكن من الوصول إلى البيانات والأنظمة.