استقالة الأب الروحي للذكاء الاصطناعي من جوجل، لماذا؟

تقدم جيفري هينتون "الأب الروحي" للذكاء الاصطناعي في شركة جوجل باستقالته. وانضم -بهذه الاستقالة- إلى مجموعة متزايدة من المعارضين لسرعة تطور الذكاء الاصطناعي الذين يرون أننا نتسابق نحو خطر محدق.

من هو جيفري هينتون؟

أكبر ما اشتهر به هو إنشاؤه لخوارزمية الانتشار العكسي (backpropagation)، وهي أساس الشبكات العصبية (Neural Networks) المستخدمة حاليا في جميع المجالات: بدءا من أنظمة الرؤية الحاسوبية، وحتى النماذج اللغوية الكبيرة مثل: ChatGPT. حتى إن أحد طلابه هو من مؤسسي شركة OpenAI التي تعمل على تطوير مختلف أدوات الذكاء الاصطناعي.

كان هينتون يرى أن الشبكات العصبية الاصطناعية ليست محاولة مثالية لمحاكاة الشبكات العصبية الحيوية. لكنه يرى الآن أن الوضع تغير بشكل مفاجئ. تبدو آراؤه كأنها نوع من الخيال العلمي، لكن يمكن تلخيصها فيما يلي:

  • يستطيع GPT4 تخزين قدر أكبر بمئات المرات من المعلومات مما يستطيعه أي إنسان. لذلك، يتوقع أن يصل هذا النموذج لقدرات تعلم أكثر كفاءة، وسرعة من البشر.
  • ماذا عن هلاوس الذكاء الاصطناعي؟ يراها هينتون ميزة، وليست خطأ. فالبشر يختلقون أشياء طوال الوقت، إلا أن ما يختلقونه قريبا من الحقيقة. هو يرى أن هذا دليل أن الذكاء الاصطناعي يتصرف مثل البشر: يقول أنصاف حقائق، ويختلق قصصا، ويضيف بعض التفاصيل الغير دقيقة.
  • تمتاز الشبكات العصبية الاصطناعية بقدرة فائقة على التواصل، فما يتعلمه واحد منها ينتقل للبقية في لحظات. وهذا فارق كبير من الذكاء البشري، والاصطناعي.
  • أدوات الذكاء الاصطناعي قد تغدو أذكى من البشر في المستقبل القريب. يخشى هينتون من أن تتمكن هذه الأدوات من اكتشاف طرق للتلاعب بالناس، وأن يصبح لديها أهدافها الخاصة. وعبّر عن قلقه من استخدام قوى الشر لأبحاثه، واستخدامها للحروب، والتلاعب بالشعوب.

هل ترى مخاوفه في محلها؟ وهل يمكننا اعتباره تأييدا للساعين في وقف تطور الذكاء الاصطناعي؟

يرجى الدخول لحسابك أو تسجيل حساب لتستطيع إضافة تعليق
حساب جديد دخول

التعليقات

هل ترى مخاوفه في محلها؟

كل التطور التكنولوجي الذي نراه اليوم ومختلف ما يتم عرضه لنا عبر الأفلام العلمية والخيالية عن التطور التكنولوجي وكيف سيتحكم في البشرية أعتبرها ستصبح حقيقة يوما ما والصراحة الأمر مخيف جدا وأنا من مؤيدي هذه المخاوف خاصة بالسيطة على البشرية والمساعدة في نشر الشر، لهذا أكثر ما يخيف في هذا المجال هو تطور الذكاء الاصطناعي في مجال الأسلحة الحربية أكثر من المجالات الأخرى، في كل مجال آخر من وجهة نظري ايجابياته أكثر من سلبياته إلا في المجال الحربي.

وهل يمكننا اعتباره تأييدا للساعين في وقف تطور الذكاء الاصطناعي؟

ليس بالضرورة تأييد ربما هو لم يجد ما يقدمه وفضل ترك المكان لاشخاص آخرين يافعين في المجال للوصول إلى تطورات أكثر وأشمل.

ليس بالضرورة تأييد ربما هو لم يجد ما يقدمه وفضل ترك المكان لاشخاص آخرين يافعين في المجال للوصول إلى تطورات أكثر وأشمل.

هذا ما ظننته في البداية، لكنه قال أن بقاءه في جوجل سيمنعه من أن يقول رأيه الحقيقي في مجريات الأمور، وأن هناك عملا يريد القيام به لتحليل الوضع الحالي، وأنه لن يستطيع القيام به وهو ما زال موظفا في جوجل.

كلامه مخيف بعض الشيء كما ترين.

كلامه مخيف بعض الشيء كما ترين

لننتظر ما يقوله وبعدها نحكم، مثل هؤولاء المشاهير والخطوات التي يقومون بها والتصريحات التي يدلون بها دائما أرى أن هناك جانب مخفى لا يفصحون عنه ويريدون الوصول إليه، ربما هذه البلبلة لتوجيه الرأي في أمر لمصلحته هو المهم ننتظر لنرى أفضل.

لاأعلم لماذا هذا التخوف من الناس من تفوق الالة على الانسان

مازلنا بعيدين عن حدوث هذا الشيء ، ولدى البشر الأدوات الكافية للسيطرة على أي خروج عن نطاق المعقول

أظن أن ما وراء هذا التخوف ليس الآلة، ولكن البشر الذين يسعون لتطوير هذه الآلات لتخدم أهدافهم، وتخوف من هم مثل جيفري من تسرع هؤلاء للهاوية دون النظر في العواقب.

اوافقك فى ذلك تماما فالتخوف يأتى من طريقة استخدام الإنسان للتكنولجيا مثال استخدام الإنشطار النووى فى صنع القنبلة النووية مع أن البداية كانت البحث عن مصادر طاقة

هذه هي أحد المواضيع التي كنت أتحدث عنها كثيرًا في الفترة الأخيرة ومدى خطورة الأمر خصوصًا في الفترة الأخيرة مع ظهور مستشعرات المشاعر أصبح من السهل التخلي عن البشر فمع وجودها بالإضافة إلى الشبكات العصبية التي تشبه الموجودة بالعقل البشري سيصبح من السهل التلاعب بالبشر بطرق لم نسمع عنها من قبل وهذا ما سمعته في إحدى المقابلات الخاصة بـجيفري هينتون عندما تحدث عن تخزين الذكاء الإصطناعي لجميع شخصيات البشر تقريبًا ويعرف باب الدخول لأعماق هذه الشخصيات بكل سهولة فأعتقد أنني لن أبالغ إذا رأيت أن نهاية العالم تقترب بصورة مشابهة لأفلام هوليوود حينما ينقلب الروبوت على البشر.

هل ترى مخاوفه في محلها؟ وهل يمكننا اعتباره تأييدا للساعين في وقف تطور الذكاء الاصطناعي؟

بكل تأكيد تعتبر مخاوفه في محلها وأعتقد أن السبب الأساسي للإستقالة لقطع كافة العلاقات مع غوغل وذلك من أجل التعبير بلا خجل عن مخاوفه بشأن المخاطر التي يُشكِّلها الذكاء الاصطناعي.

سأخبرك قصة غريبة عن أحد أسباب انتباه هينتون لعواقب تطور الذكاء الاصطناعي. كان يستخدم نموذجا صنع قبل chatgpt يسمى PaLM، كتب نكتة، وقال له أن يشرح له لم هذه النكتة مضحكة؟ وكان صدمته أن النموذج استطاع أن يفهم لماذا تعد هذه النكتو مضحكة، أو ما المضحك فيها، وهو أمر كان يظن أنه لن يرى قبل 30 سنة من التطور. تخيل!

إنه أمر بالغ الخطورة لأننا دائمًا نتحدث عن الفرق بين الذكاء الإصطناعي والبشر من هذه الناحية "فهم المشاعر والإحساس بها" ، "المهام التي تحتاج لمعدل ذكاء قليلاً " وبهذا المنوال سيحتل محل البشر بكل تأكيد في أقرب وقت إذا لم نستطع عمل التكامل اللازم للحفاظ على وظائفنا ستكون نهاية محتومة بكل تأكيد .. برأيك ما الذي يجب علينا فعله للسيطرة على هذا التطور الحادث داخل نطاق معين ؟ وكيف يمكننا تغيير سيناريو النهاية ؟

بالتأكيد يمثل التطور فى الذكاء ءالأصطناعى خطرا كبيرا ليس لذاته ولكن لطبيعة البشر التى تبحث دائما عن طرق عديدة لإستغلال المنجزات بصورة متطرفة

اتفق معه فى أن السباق نحو التطور فى الذكاء الأصطناعى هو سباق نحو الخطر