تقنيات الذكاء الاصطناعي رفاهية قاتلة!

على الرغم من أن الخيال العلمي غالبًا ما يصور الذكاء الاصطناعي بشكل رجل آلي ذي خصائص مشابهة للإنسان، إلا أنه من الممكن أن يشمل أي شيء بدءًا من خوارزميات قوقل للبحث
0.0 (0)

“إن كل ما نحبه حول الحضارة يُعد نتاجًا للذكاء، لذا فإن تعزيز الذكاء البشري بالذكاء الاصطناعي من الممكن أن يساعد على ازدهار الحضارة بطريقة غير مسبوقة، ما دمنا قادرين على جعل هذه التقنية ذات فائدة”.

ماكس تيجمارك، رئيس معهد مستقبل الحياة

ما هو الذكاء الاصطناعي ؟

أحرز الذكاء الاصطناعي تقدمًا كبيرًا بدءًا من خدمة “سيري” إلى السيارات ذاتية القيادة مثل تسلا . وعلى الرغم من أن الخيال العلمي غالبًا ما يصور الذكاء الاصطناعي بشكل رجل آلي ذي خصائص مشابهة للإنسان، إلا أنه من الممكن أن يشمل أي شيء بدءًا من خوارزميات قوقل للبحث ونظام واتسون التابع لشركة آي بي إم وحتى الأسلحة ذاتية التشغيل.

يُعرف الذكاء الاصطناعي اليوم بالذكاء الاصطناعي المحدود (أو الضعيف)، وذلك لأنه صُمم لتنفيذ مهمة محدودة (على سبيل المثال: التعرف على الوجه أو البحث في الإنترنت أو قيادة السيارة)، ومع ذلك فإن الهدف طويل المدى لدى الكثير من الباحثين هو تصميم ذكاء اصطناعي عام (أو قوي). وفي حين أن الذكاء الاصطناعي المحدود قد يتفوق على الإنسان في مهمته المخصصة مثل لعب الشطرنج أو حل المعادلات، فإن الذكاء الاصطناعي العام يتفوق على الإنسان تقريبًا في كل مهمة إدراكية.

لماذا تُجرى بحوث أمن الذكاء الاصطناعي ؟

يحفز هدف إبقاء تأثير الذكاء الاصطناعي مفيدًا في المدى القريب إلى إجراء البحوث في العديد من المجالات، بدءًا من الاقتصاد والقانون إلى الموضوعات التقنية مثل التحقق وإثبات الشرعية والأمن والتحكم. وفي حين أن تعطل حاسوبك المحمول أو اختراقه يشكل مصدر إزعاج بسيط فإن المسألة ستصبح أهم وجدّية أكثر حين تتعلق باستجابة نظام الذكاء الاصطناعي لما تريده منه بدقة، إذا كان يتحكم في سيارتك أو طائرتك أو جهاز تنظيم ضربات القلب أو نظام التداول الآلي أو شبكة الكهرباء. ومن التحديات الأخرى على المدى القصير هي منع حدوث سباق تسلح مدمر بالأسلحة ذاتية التشغيل.

يواجهنا تساؤل هام على المدى البعيد وهو ماذا سيحدث إذا نجح تحقيق نظام الذكاء الاصطناعي القوي، وأصبح أفضل من البشر في جميع المهام الإدراكية. أشار عالم الرياضيات (إيرفينج جود) في عام 1965 إلى إن تصميم أنظمة ذكاء اصطناعي أكثر ذكاءً يعد بحد ذاته مهمة معرفية، فمن المحتمل أن تكون هذه الأنظمة قادرة على التطور ذاتيًا بصورة متكررة محدثةً بذلك (انفجارًا في الذكاء) بحيث يتفوق على الذكاء البشري بمراحل عديدة”. وبتطوير تقنيات ثورية جديدة يمكن لمثل هذا الذكاء الاصطناعي الخارق أن يساعدنا في القضاء على الحروب والأمراض والفقر، ولهذا فإن تصميم ذكاء اصطناعي قوي يمكن أن يُعد الحدث الأكبر في تاريخ البشرية، إلا أن بعض الخبراء أعربوا عن قلقهم في أن هذا النظام سيكون الحدث الأخير مالم نتعلم موائمة أهداف نظام الذكاء الاصطناعي مع أهدافنا قبل أن يصبح خارقًا.

هناك من يشكك في إمكانية تحقيق نظام ذكاء اصطناعي قوي، وهناك آخرون يؤكدون على أن الفائدة من تصميم نظام خارق غير مضمونة، ونحن في معهد مستقبل الحياة نُقِر بكلا الاحتمالين، لكننا ندرك أيضًا احتمالية أن يسبب الذكاء الاصطناعي ضررًا كبيرًا سواء كان بصورة متعمدة أو غير متعمدة، ونؤمن بأن البحث في الحاضر سيساعدنا في التأهب لمثل هذه العواقب السلبية المحتملة في المستقبل ومنعها، وبهذا يمكننا التمتع بمزايا الذكاء الاصطناعي وتجنب مخاطره في نفس الوقت.

كيف يمكن أن يكون الذكاء الاصطناعي خطيرًا ؟

يتفق معظم الباحثين على أنه من غير المرجح أن يتمكن الذكاء الاصطناعي الخارق من إظهار المشاعر الإنسانية كالحب أو الكره، وأنه ليس هناك أي سبب لنتوقع أن يكون الذكاء الاصطناعي نافعًا أو ضارًا بصورة متعمدة. بدلاً من ذلك يأخذ الخبراء السيناريوهين التاليين بعين الاعتبار عند النظر في الطريقة التي يمكن أن يصبح فيها الذكاء الاصطناعي خطرًا:

1. أن الذكاء الاصطناعي بُرمج لتنفيذ أشياء مدمرٍة

الأسلحة ذاتية التشغيل هي أنظمة ذكاء اصطناعي بُرمجت للقتل، فإذا وقعت في يد الشخص الخطأ يمكن أن تتسبب بسهولة في مقتل الكثيرين. وعلاوة على ذلك، يمكن لسباق التسلح بأنظمة الذكاء الاصطناعي أن يؤدي بشكل غير مقصود إلى وقوع حربٍ بين أنظمة الذكاء الاصطناعي فتؤدي إلى سقوط العديد من الضحايا. ولتجنب الإعاقة من قبل العدو، صممت هذا الأسلحة لكي يكون إيقافها صعبًا وبذلك قد يفقد الإنسان السيطرة عليها. يكمن هذا الخطر حتى مع أنظمة الذكاء الاصطناعي المحدودة أو الضعيفة، ويمكن أن يزيد مع زيادة مستوى الذكاء في الأنظمة وزيادة التحكم الذاتي.

2. أن الذكاء الاصطناعي بُرمج لتنفيذ أشياء مفيدة ولكنه يطور أساليب مدمرةً للوصول إلى غايته

يمكن أن يحدث هذا كلما أخفقنا في موائمة أهدافنا مع أهدافه بشكل كامل، ويعد ذلك أمرًا صعبًا. فإذا طلبت من سيارة ذاتية القيادة أن تأخذك إلى المطار في أسرع ما يمكن، يمكن أن توصلك إلى هناك بعد مطاردات مع الطائرات المروحية وبعد أن تصيبك بالغثيان بسبب سرعتها، ويتضح هنا أنها لم تفعل ما أردته ولكنها نفذت ما طلبته منها بشكلٍ حرفي. إذا تمّ تكليف نظام خارق الذكاء بمشروع طموح في الهندسة الجيولوجية، فيمكن له أن يؤثر سلبًا على نظامنا البيئي كأثر جانبي، ويمكن أن يرى محاولة الإنسان لإيقافه خطرًا يجب مواجهته.

وكما توضح الأمثلة السابقة، فإن القلق ليس حول خبث أنظمة الذكاء الاصطناعي، ولكن يتعلق الأمر بكفائتها. سيكون الذكاء الاصطناعي خارق الذكاء  ومتمكنًا للغاية من تحقيق أهدافه، فإن كانت هذه الأهداف لا تتماشى مع أهدافنا، عندها سنواجه المشاكل. دعنا نوضح ما نعنيه في مثال، لنقل أنك لست حاقدًا على النمل ولا تحاول دعسهم، لكن إذا كنت مسؤولًا عن مشروع للطاقة الكهرومائية صديقة للبيئة وكانت هناك مستعمرة نمل في الموقع الذي سينشأ عليه المشروع، عندها سيضر إنشاء هذا المشروع بالنمل جدًا . لذا فإن هدف بحوث أمن الذكاء الاصطناعي هو عدم وضع البشرية مكان هذا النمل.

ما سبب الاهتمام مؤخرًا بأمن الذكاء الاصطناعي ؟

عبر ستيفن هوكينج وإلون مسك وستيف ووزنيك وبيل غيتس وآخرون من كبار علماء التقنية والعلوم مؤخرًا عن قلقهم حول مخاطر الذكاء الاصطناعي في الإعلام وعبر الرسائل المفتوحة المتعلقة بمخاطر الذكاء الاصطناعي، كما شاركهم العديد من الباحثين الرائدين في هذا المجال. لماذا ظهر هذا الموضوع فجأة في العناوين الرئيسية؟

كانت فكرة نجاح البحث عن نظام ذكاء اصطناعي قوي يُنظر إليها باعتبارها خيالًا علميًا لا يمكن تحقيقها إلا بعد عدة قرون. ومع ذلك وبفضل التطورات الحديثة، تم التوصل إلى مستوى كان يراه الخبراء قبل خمس سنوات بأنه لا يمكن تحقيقه إلا بعد قرون، مما جعل العديد منهم يتوقع جديًا إمكانية الوصول إلى الذكاء الفائق في حياتنا. وبالرغم من أن بعض خبراء الذكاء الاصطناعي ما زالوا يعتقدون بأن التوصل إلى نظام ذكاء اصطناعي بمستوى ذكاء البشر لن يتحقق إلا بعد قرون عديدة، إلا أن معظم خبراء الذكاء الاصطناعي في مؤتمر بورتو ريكو المنعقد في عام 2015 توقعوا إمكانية حدوث هذا الأمر قبل عام 2016. ولأننا نحتاج إلى عقود لإكمال البحث في الأمن المطلوب، فيجب علينا البدء الآن.

لأن الذكاء الاصطناعي لديه القدرة لأن يكون أذكى من أي إنسان، فليس لدينا أي وسيلة مؤكدة لنتنبأ عن طريقة تصرفه. لا يمكننا استخدام التطورات التكنولوجية السابقة المطورة كقاعدة أساس، لأنه لم يسبق لنا أن طورنا أي شي له القدرة على أن يكون أذكى منا سواء كان ذلك عن قصد أو عن غير قصد.

يتمثل موقف معهد مستقبل الحياة في أن حضارتنا سوف تزدهر طالما تمكنا من الفوز في السباق بين قوة التقنية المتنامية وبين الحكمة في إدارتها. وفي ما يتعلق بتقنية الذكاء الاصطناعي، فإن أفضل وسيلة لفوز السباق ليست إعاقة التقنية، بل بتعجيل الحكمة في إدارتها وذلك من خلال دعم بحوث أمن الذكاء الاصطناعي.

المصدر

تعليقك يُثري المقالة!



للأسف :(

متصفحك غير مدعوم، من فضلك قم بالترقية لمتصفح أحدث!