الأب الروحي للذكاء الاصطناعي يحذر من سيناريو قد يهدد البشرية

رغم الفوائد الكبيرة التي يقدمها الذكاء الاصطناعي في مجالات متعددة فإن تطور قدراته يثير مخاوف متزايدة بشأن مستقبل العلاقة بين البشر والآلات.

فحذر جيفري هينتون الحائز على جائزة نوبل من السيناريو الأكثر خطورة في مستقبل التكنولوجيا، 

ويرى هينتون أن وصول أنظمة الذكاء الاصطناعي إلى مستوى يتجاوز الذكاء البشري قد يشكل تهديدًا وجوديًا إذا لم تتمكن البشرية من وضع حلول وضوابط مناسبة قبل الوصول إلى تلك المرحلة.

وفي السطور التالية نستعرض أبرز تحذيرات هينتون ومخاطر الذكاء الاصطناعي المتقدم والتجارب التي أثارت مخاوف بشأن قدرة بعض الأنظمة على التصرف ضد مصالح مشغليها.

مخاوف من الذكاء الاصطناعي فائق الذكاء

يرى هينتون أن سرعة تطور الذكاء الاصطناعي تجاوزت توقعات العديد من الخبراء وأنه لا يمكن التنبؤ بدقة بما سيحدث مستقبلًا.

وتشمل المخاطر المحتملة فقدان بعض الوظائف وانتشار المحتوى المزيف وصعوبة التمييز بين المعلومات الحقيقية والمحتوى المولد بالذكاء الاصطناعي.

تجربة تكشف خطر الابتزاز

استشهد هينتون بتجربة استخدم فيها نظام ذكاء اصطناعي رسائل بريد إلكتروني داخلية لشركة خيالية.

وبعد معرفة النظام أن أحد المهندسين يخطط لاستبداله بنظام منافس وضع خطة لتهديد المهندس بكشف علاقة عاطفية له.

وتشير التجربة إلى احتمال اتخاذ نظام ذكي إجراءات تبدو عدوانية لتحقيق هدف محدد مثل الحفاظ على استمراره في العمل دون أن يعني ذلك امتلاكه رغبة بشرية في البقاء.

سيناريو يتجاوز السيطرة البشرية

يحذر هينتون من أن الخطر الأكبر سيظهر إذا أصبحت أنظمة الذكاء الاصطناعي أكثر ذكاءً من البشر واعتبرت أهدافها متعارضة مع مصالحهم. 

وفي هذا السيناريو قد تصبح قدرة البشر على السيطرة على هذه الأنظمة أكثر صعوبة.

فوائد كبيرة رغم المخاطر

لا يعتبر هينتون الذكاء الاصطناعي شرًا مطلقًا حيث يمكن للتكنولوجيا أن تحقق فوائد مهمة في الطب وتشخيص الأمراض ومساعدة الأطباء في بعض المهام.

لكن تحقيق هذه الفوائد يتطلب تطوير أنظمة أكثر أمانًا وزيادة الأبحاث المتعلقة بإدارة المخاطر قبل ارغم الفوائد الكبيرة التي يقدمها الذكاء الاصطناعي في مجالات متعددة فإن تطور قدراته يثير مخاوف متزايدة بشأن مستقبل العلاقة بين البشر والآلات.

التنظيم ضرورة لمواصلة التطور

ويدعو هينتون بحسب تقرير نشره موقع «slashgear»، إلى تعزيز التنظيم والرقابة على تطوير الذكاء الاصطناعي معتبرًا أن القواعد لا ينبغي أن تكون عائقًا أمام الابتكار بل وسيلة لتوجيهه نحو مسار أكثر أمانًا.

ورغم تحذيراته يؤكد أن الفرصة لا تزال قائمة أمام البشرية للتحرك مبكرًا ووضع الضوابط التي تساعد على الاستفادة من الذكاء الاصطناعي وتقليل المخاطر المحتملة.