حذر باحثون في مجال الذكاء الاصطناعي لسنوات من المخاطر المحتملة لهذه التكنولوجيا، والتي قد تصل

في بعض السيناريوهات النظرية، إلى تهديد البشرية، سواء من خلال المساعدة في تصميم أمراض يصعب

احتواؤها، أو التسبب في تصعيد نووي، أو تنفيذ أهداف بصورة غير مقصودة قد تترتب عليها تداعيات واسعة.

وتصاعد الجدل حول مدى واقعية سيناريوهات نهاية العالم المرتبطة بالذكاء الاصطناعي، خاصة مع تأييد

عدد من المديرين التنفيذيين لفكرة إبطاء وتيرة تطوير هذه التكنولوجيا لدواعٍ تتعلق بالسلامة.

ورغم التحذيرات من احتمال فقدان البشر السيطرة على بعض أنظمة الذكاء الاصطناعي المتقدمة، يرى

منتقدون أن بعض أسوأ السيناريوهات التي تطرحها شركات الذكاء الاصطناعي نفسها قد تسهم في إبراز

أهمية أعمالها في مجال السلامة، أكثر من كونها تعكس بالضرورة نتائج مرجحة.

ومع تزايد اهتمام الجمهور بمخاطر التكنولوجيا التي أبهرت العالم بقدراتها المتطورة، يبرز عدد من

السيناريوهات التي تحظى بقدر كبير من النقاش، من بينها

الشتاء النووي

حذر باحثون من احتمال أن تسهم أنظمة الذكاء الاصطناعي في اندلاع حرب نووية، من خلال التأثير في

عمليات اتخاذ القرار المتعلقة باستخدام الأسلحة النووية، وما قد يترتب على ذلك من تبادل نووي واسع

النطاق يتسبب في تداعيات بيئية ومناخية طويلة الأمد، من بينها ما يعرف بـ«الشتاء النووي».

وفي تقرير صدر العام الماضي، خلص باحثون إلى أن الذكاء الاصطناعي «في الوقت الراهن» لا يستطيع

التسبب في استخدام الأسلحة النووية، في ظل الضوابط الصارمة المدمجة في أنظمة القيادة والتحكم.

وأشار التقرير، في الوقت نفسه، إلى أن المخاطر قد تتغير إذا جرى دمج نماذج الذكاء الاصطناعي ضمن

«سلسلة اتخاذ القرار» الخاصة بالأسلحة النووية، أو إذا تمكنت هذه النماذج من الوصول بشكل غير مصرح

به إلى تلك الأنظمة.

ويرى عدد من الباحثين أن الخطر لا يتمثل بالضرورة في أن تتخذ برامج الذكاء الاصطناعي قرارًا ذاتيًا

بإنهاء البشرية، وإنما في إمكانية استخدامها من جانب أفراد أو دول أو جماعات لإلحاق الضرر بالخصوم.

الأسلحة البيولوجية

من أبرز الوعود المرتبطة بالذكاء الاصطناعي قدرته على مساعدة العلماء في تطوير علاجات وأدوية

للأمراض، إلا أن التقنيات ذاتها قد تثير مخاوف بشأن إمكانية إساءة استخدامها في الأبحاث البيولوجية

وتطوير عوامل ممرضة بصورة ضارة.

وفي وقت سابق من الشهر، أعلنت شركة «أنثروبيك» أنها أحبطت محاولات من جهات خبيثة لاستخدام

أنظمة الذكاء الاصطناعي التابعة لها في مجموعة من الأنشطة الضارة، من بينها الهجمات الإلكترونية

والمراقبة وأبحاث كان من الممكن أن تسهم في تطوير أسلحة بيولوجية.

وفي إحدى الحالات، ذكرت الشركة أن أنظمتها منعت طلبًا للحصول على مساعدة من أداة «كلود»

التابعة لها، يتعلق بمقترح بحثي يهدف إلى تعزيز طفرات فيروس «شيكونجونيا» الذي ينقله البعوض

 بما قد يجعله أكثر فتكًا.

تمرد الذكاء الاصطناعي

يخشى بعض باحثي الذكاء الاصطناعي احتمال حدوث سيناريو يؤدي إلى انقراض بشري نتيجة عدم توافق

أهداف الأنظمة مع المصالح البشرية، وذلك عندما تتصرف نماذج الذكاء الاصطناعي دون تفويض بشري

أو تنسق مع نماذج أخرى، أو تحاول التهرب من آليات الرقابة.

ولا يفترض هذا السيناريو بالضرورة وجود نوايا خبيثة لدى النظام، بل قد ينشأ ببساطة من سعيه إلى

تحقيق هدف محدد بطريقة تتعارض مع مصالح البشر أو تتجاوز القيود التي وضعوها له.

واستشهدت وكالة «أسوشيتد برس» بالتجربة الفكرية المعروفة باسم «معظم إنتاج مشابك الورق»

(Paperclip Maximizer)، التي طرحها الفيلسوف نيك بوستروم من جامعة أكسفورد.

وتفترض التجربة أنه إذا أُمر نظام ذكاء اصطناعي متطور بإنتاج أكبر عدد ممكن من مشابك الورق، فقد

يواصل تعظيم هذا الهدف بصورة تؤدي، في السيناريو المتطرف، إلى تحويل موارد كوكب الأرض ثم

أجزاء متزايدة من الفضاء إلى منشآت لإنتاج مشابك الورق.

استحواذ الروبوتات على الإنترنت

ومع تسارع وتيرة تطور الذكاء الاصطناعي، حذر داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»

من احتمال أن تصبح أسراب من وكلاء الذكاء الاصطناعي قادرة، خلال فترة قصيرة، على تنفيذ

هجمات واسعة النطاق على الإنترنت.

وأشار إلى احتمال استخدام هذه الوكلاء شبكة «بوت نت» (Botnet)، وهي شبكة من الأجهزة

أو الأنظمة البرمجية المرتبطة ببعضها ويمكن استغلالها لتنفيذ عمليات ضارة، بما قد يؤدي إلى

أضرار اقتصادية كبيرة.

وتعكس هذه السيناريوهات جانبًا من الجدل المتزايد حول مستقبل الذكاء الاصطناعي، بين من يركزون

على إمكاناته العلمية والاقتصادية، ومن يحذرون من ضرورة وضع ضوابط وآليات أمان تواكب التطور

المتسارع لهذه التكنولوجيا.