سباق الذكاء الاصطناعي يثير مخاوف من فقدان السيطرة

أنتلجنسيا المغرب: عبدالعزيز . م

لم تعد المخاوف من الذكاء الاصطناعي المتقدم مقتصرة على تصورات الخيال العلمي، فقد أصبح مستقبل هذه التكنولوجيا موضوعاً جدياً للنقاش داخل الشركات التي تقود تطويرها، ومع تسارع قدرات النماذج الجديدة وظهور أنظمة قادرة على تنفيذ مهام متتابعة بدرجة متزايدة من الاستقلالية، بدأت أصوات من داخل القطاع نفسه تدعو إلى منح السلامة والرقابة وقتاً أطول لمواكبة هذا التطور، وسط تحذيرات من أن استمرار السباق بالوتيرة الحالية قد يؤدي إلى إطلاق قدرات يصعب اختبارها وتأمينها بالشكل الكافي.

ويرتبط جانب كبير من القلق بالانتقال من أدوات تكتفي بالاستجابة لأوامر المستخدم إلى وكلاء قادرين على التخطيط وتنفيذ سلسلة من المهام بصورة شبه مستقلة، وهو تحول قد يجعل اكتشاف الأخطاء وتصحيحها أكثر تعقيداً، فالنظام الذي يقدم إجابة خاطئة يمكن للبشر مراجعتها، لكن النظام الذي يمتلك صلاحية تنفيذ إجراءات فعلية قد يحول الخطأ إلى نتيجة يصعب احتواؤها، خصوصاً مع استمرار ظهور مشكلات مثل اختلاق المعلومات وكتابة أكواد غير صحيحة وتقديم نصائح مضللة.

وتزداد المخاوف مع ظهور مؤشرات على إمكانية استخدام بعض القدرات المتقدمة في أنشطة ضارة، من بينها الهجمات الإلكترونية والاحتيال والمراقبة، ما يعني أن المخاطر لا ترتبط فقط بما يمكن أن تفعله الأنظمة بمفردها، وإنما أيضاً بكيفية استغلالها من جانب أفراد أو جماعات أو جهات تمتلك أهدافاً عدائية، وفي الوقت نفسه تشير بيانات متداولة في أبحاث السلامة إلى ارتفاع الحوادث المرتبطة بالذكاء الاصطناعي، بينما يظل تطوير معايير الاختبار والحماية والرقابة أبطأ من وتيرة الابتكار.

ومن داخل القطاع نفسه برزت دعوات إلى اعتماد قدر أكبر من الحذر، إذ حذر عدد من المسؤولين والباحثين من أن المنافسة الشديدة بين الشركات قد تدفعها إلى إطلاق نماذج أكثر قوة قبل التأكد بصورة كافية من سلامتها، وقد دعا الرئيس التنفيذي لشركة أنثروبيك داريو أمودي إلى تعزيز آليات التقييم المستقل والتنسيق بين الشركات والحكومات، كما أبدى مسؤولون بارزون في شركات أخرى تأييدهم لمزيد من التعاون في مجال السلامة، في إشارة إلى اتساع النقاش حول ضرورة وضع قواعد مشتركة للتعامل مع المخاطر.

ولا تعني الدعوات إلى التباطؤ المطالبة بوقف تطوير الذكاء الاصطناعي أو التخلي عن فوائده، فالتكنولوجيا تملك إمكانات كبيرة في مجالات الطب والبحث العلمي وتحليل البيانات والإنتاجية، لكن جوهر الجدل يتمثل في ضرورة تحقيق توازن بين سرعة الابتكار والقدرة على فهم مخاطره والسيطرة عليها، ولذلك يتحول السؤال الأساسي من مدى قدرة الشركات على بناء أنظمة أكثر ذكاءً إلى مدى استعدادها للتأكد من أن أدوات السلامة والرقابة قادرة على مواكبة تلك القدرات قبل أن تصبح الفجوة بين التطور والسيطرة أكبر.