لماذا يعد الذكاء الاصطناعي خطيرًا ولماذا يمكن للذكاء الفائق أن يدمر الناس في ثانية واحدة فقط ؟؟

يرى ستيفن هوكينج وإيلون ماسك وعلماء ومخترعون آخرون أن الذكاء الاصطناعي يهدد الحياة على الأرض. أخبر نيك بوستروم ، مدير معهد مستقبل الإنسانية في أكسفورد ومؤلف كتاب “ الذكاء الخارق: المسارات والمخاطر والاستراتيجيات ” Esquire لماذا يمكن للذكاء الفائق تدمير الناس في ثانية واحدة فقط.

في المناطق المزدحمة ، تتجاوز قدرات الذكاء الاصطناعي القدرات البشرية: فقد خسر جاري كاسباروف ، بطل العالم في الشطرنج ، أمام ديب بلو في عام 1997. البحث والتعرف على الكلام واللوجستيات – هنا أنظمة خاصة أفضل منا. لكن في الواقع ، لا يزال يتعين عليهم التفكير بهذه الطريقة ، ولا أحد يعرف الآن متى سيتم اختراع الذكاء الاصطناعي الحقيقي.

يتفق معظم العلماء على أن احتمال حدوثه قبل منتصف القرن الحادي والعشرين هو 50٪. التوقعات مجردة للغاية ، ومن الواضح أنها يمكن أن تحدث عاجلاً أم آجلاً. في الأربعينيات من القرن الماضي ، عندما تم إنشاء أجهزة الكمبيوتر الأولى ، توقع العلماء أن تتجاوز الآلات الذكاء البشري بحلول الستينيات. لم يتحقق التنبؤ ، ولكن حتى ذلك الحين حذر عالم الرياضيات إيرفينغ جون جود من أنه خلال الحرب العالمية الثانية كسر الرموز الألمانية في فريق آلان تورينج: أطعنا وأظهر لك كيفية التحكم فيها. بعبارة أخرى ، من المحتمل أن يسعى الذكاء الاصطناعي الأول الذي أنشأه البشر إلى سيطرة غير محدودة على الموارد ، ولن تكون أهدافه بأي حال من الأحوال مرتبطة بخير البشرية. بالنظر إلى أن البشر يتكونون من موارد مفيدة – مثل الجسيمات المنظمة في ترتيب معين – ويعتمدون هم أنفسهم على العديد من الموارد الأرضية ، فإن إحدى النتائج الأكثر احتمالية لظهور الذكاء الاصطناعي هي الاختفاء التام للبشرية. تخيل ، لسبب ما ، أن شركة النقل فائقة الذكاء تواجه مهمة إنتاج الورق الزائد. في هذا السياق ، سيكون له سببان على الأقل لتدمير البشرية: حتى لا يمكننا التدخل بأي شكل من الأشكال واستخدام أجسادنا كمواد خام.

تحب هوليوود تصوير شركات الذكاء الاصطناعي في خدمة الديكتاتوريين ، لكن هذا يبدو غير مرجح جدًا بالنسبة لي: لن يتم التمييز بين الناس ، والحكومات القمعية هي ضحاياهم المحتملين لأن الأغلبية مضطهدة من قبلهم. كليشيهات أخرى في هوليوود هي معركة ملحمية بين فرقة من الرجال الشجعان وجيش من الروبوتات. لسبب ما ، لا يمكن لمهمة مميتة وحكماء عظماء مشابهين تنفيذ خطتهم الشريرة على الفور ، وعليهم انتظار تطور مؤامرة مثير. هناك بالتأكيد عدد قليل من الأبطال الذين خرجوا لمقابلتهم ، كل منهم بمهارة فريدة ، وسيعملون معًا على تدمير الآلية التي تبدو خالية من العيوب ، والتي من خلالها سيتم الكشف عن عيب بشري. يجب أن أخيب أملي: في الحياة الواقعية ، يبدو السيناريو الذي نموت فيه جميعًا في ثانية واحدة ، وستصبح الأرض جهاز كمبيوتر واحدًا كبيرًا ، والذي سيستخدمه بمفرده لمليارات السنين مع الحسابات المضمنة ، أكثر منطقية.

حتى الآن ، يكاد يكون من المستحيل إيقاف تشغيل بعض الأنظمة التي ليس لديها رغبة أو قدرة على التخطيط لعملياتها الخاصة. أين زر إيقاف الإنترنت على سبيل المثال؟ أنا لا أتحدث حتى عن حقيقة أن شركة الذكاء الاصطناعي من المحتمل أن تحيدها وتتخذ الإجراءات الأمنية اللازمة مسبقًا. وسيكون قادرًا بالتأكيد على إيجاد طرق للتأثير على العالم المادي من أجل التلاعب برغبات الناس ، أو جعلهم يعملون لصالحه أو توفير الوصول إلى إنشاء بنيته التحتية الخاصة.

ألا يجب أن نتوقف عن تطوير الذكاء الاصطناعي في هذه الحالة؟ للأسف ، هذا سؤال بلاغي. لا توجد منظمة واحدة تقوم بهذا العمل عن قصد وتكون تابعة لأية حكومة. على العكس من ذلك ، هناك العديد من الشركات والمختبرات الخاصة المنتشرة في جميع أنحاء العالم ، ويعمل عدد كبير من الأشخاص في مجال البرمجيات وعلم الأعصاب والإحصاءات وتصميم الواجهة – أبحاثهم بطريقة أو بأخرى تساهم في إنشاء الذكاء الاصطناعي. وبهذا المعنى ، فإن الإنسانية مثل طفل يلعب بقنبلة – أو بالأحرى ، روضة أطفال كاملة ، وفي أي لحظة يمكن لأي أحمق الضغط على الزر الخطأ. لذلك عند القراءة عن الاكتشافات الجديدة في مجال الأنظمة الذكية ، فإن الخوف هنا هو استجابة أكثر ملاءمة من النشوة من فتح الفرص. لكن الشيء الأكثر صحة الذي يجب فعله في هذه الحالة هو التركيز بأسرع ما يمكن على المهام التي ستساعد في تقليل المخاطر التي يشكلها الفهم الفائق ، حتى قبل ظهوره. أحد الحلول الممكنة هو إنشاء مجتمع مهني يجمع رجال الأعمال والعلماء والباحثين ، بالإضافة إلى توجيه البحث التكنولوجي في اتجاه آمن وتطوير وسائل لمراقبة نتائجه.

طوال تاريخها ، لم تتعلم الإنسانية إدارة مستقبلها. تسعى مجموعات مختلفة من الناس دائمًا إلى تحقيق أهدافها ، وغالبًا ما تصطدم مع بعضها البعض. إن التطور التكنولوجي والاقتصادي العالمي ليس نتيجة التعاون والتخطيط الاستراتيجي بعد ، ولعل آخر ما تأخذه بعين الاعتبار هو مصير البشرية. تخيل حافلة مدرسية تصعد التل ومليئة بالأطفال المرح. هذه هي الإنسانية. لكن إذا نظرنا إلى مقعد السائق ، يمكننا أن نرى أنه فارغ. نقوم باكتشاف جديد ، في كل مرة نأخذ كرة سلة ونرميها على الحائط – حتى الآن لم يكن هناك سوى كرات بيضاء وكرات رمادية ، ولكن في يوم من الأيام قد يتم أيضًا التقاط كرة سوداء ، مما يؤدي إلى كارثة عندما تصطدم بالحائط. الشيء هو أنه لن يكون لدينا فرصة لإعادة الكرة السوداء إلى السلة: بمجرد فتحها ، لا يمكن إلغاؤها.