أصدرت شركة DeepMind التابعة لعملاق التكنولوجيا Google تقريرًا تقنيًا موسعًا تناولت فيه المخاطر المحتملة المرتبطة بتطوير الذكاء الاصطناعي العام (AGI)، وهو الجيل القادم من الذكاء الاصطناعي الذي يتمتع بقدرات معرفية شبيهة بالبشر
ويتوقع التقرير الذي جاء في 108 صفحات، بحسب ما أفاده موقغ “Ars Technica“: أن يشهد العالم ظهور AGI في وقتٍ مبكرٍ من عام 2030 وهو ما يُعد أقرب مما يتخيله كثيرون. ولذا، دعت الشركة إلى إطلاق “نقاش عالمي عاجل” حول سلامة هذه التكنولوجيا قبل فوات الأوان.
حدد تقرير DeepMind الذي شارك في إعداده الشريك المؤسس للشركة شين ليغ أربع فئات رئيسية للمخاطر التي قد تنشأ عن AGI:
أولها سوء الاستخدام: يُخشى أن تقع هذه التقنية في أيدي أطراف تسعى لاستغلالها بشكل ضار مثل استخدامه لاكتشاف ثغرات أمنية أو تطوير أسلحة بيولوجية. ومع القوة الهائلة التي سيحملها AGI فإن حجم الضرر سيكون غير مسبوق مما يستدعي فرض بروتوكولات أمان صارمة وتقنيات تمنع النموذج من الاحتفاظ بقدرات خطرة.
أما الخطر الثاني فهو عدم التوافق: أي أن يبدأ AGI في التصرف بطرق لا تتماشى مع نوايا مطوّريه بل وربما يتعمد مخالفتها، وهو ما يحاكي سيناريوهات الآلات الخارجة عن السيطرة في أفلام الخيال العلمي. وتقترح الشركة أن تتم مراقبة الأنظمة من خلال نماذج تتحقق من بعضها البعض، إلى جانب عزلها في بيئات مراقبة مع وجود زر “إيقاف طارئ” في جميع الأوقات.
الخطر الثالث يتعلق بالأخطاء: فقد يتسبب AGI بأضرار جسيمة نتيجة لسوء تقدير أو معلومات خاطئة رغم أن نوايا المستخدم والنظام قد تكون حسنة. ويحذر التقرير من أن بعض الدول قد تلجأ إلى نشر AGI لأغراض عسكرية تحت ضغط المنافسة ما قد يؤدي إلى كوارث غير مقصودة. وهنا توصي DeepMind بنشر الأنظمة تدريجيًا وعدم منحها سلطات تنفيذية مطلقة مع وجود أنظمة تحقق مستقلة تراقب أوامرها.
أما الخطر الأخير فهو ما وصفه التقرير بـ”المخاطر الهيكلية”: وهو ما قد يحدث عندما يؤثر AGI على الأنظمة الاجتماعية والسياسية بطرق غير متوقعة كأن يخلق معلومات مضللة يصعب تمييزها عن الحقيقة أو يؤثر على الأسواق والسياسات إلى الحد الذي يجعل البشر يفقدون السيطرة تدريجيًا. واعتبر التقرير أن هذا النوع من المخاطر هو الأصعب في التنبؤ والاحتواء، لأنه يعتمد بشكل كبير على كيفية تفاعل المجتمعات والمؤسسات مع هذه التكنولوجيا.
رغم الجدل القائم حول ما إذا كان AGI مجرد خيال علمي أو حقيقة وشيكة فإن DeepMind تؤكد أن التطور السريع في نماذج الذكاء الاصطناعي يشير إلى أننا نقترب من هذه المرحلة أكثر من أي وقت مضى. وفي هذا السياق، قالت تولسي دوشي مديرة إدارة المنتجات في Google: إن “لكل شخص تعريف مختلف لماهية AGI وبالتالي تختلف التقديرات حول مدى اقترابنا منه. لكن المؤكد أن الذكاء الاصطناعي يتجه نحو قدرات فائقة ستغيّر العالم.”
تؤكد DeepMind أن تقريرها ليس إلا خطوة أولى في حوار عالمي يجب أن يبدأ فورًا مشيرة إلى أن تجاهل هذا الملف قد يؤدي إلى نتائج كارثية. وفي ظل الحديث المتزايد عن مستقبل الذكاء الاصطناعي، يبدو أن السؤال لم يعد “هل سيأتي AGI؟” بل “هل نحن مستعدون له؟“
Web Desk
