ما هي مخاطر الذكاء الاصطناعي المحتملة التي تثير قلق رواد التقنية لهذا الحد؟
- NoraAbdelaziem
- 2023-06-19T17:59:28+00:00
البارحة كنت اقرأ مقال عن لسان سام ألتمان الرئيس التنفيذي لشركة Open AI والذي يوضح به أنه يشعر بالقلق من أنه فعل شيئا سيئا حقا من خلال إنشاء ChatGPT وهذا يجعله لا ينام بشكل جيد، وعندما وجه له سؤال حول ما إذا كان ينبغي تنظيم الذكاء الاصطناعي بشكل مشابه للطاقة الذرية، كان جوابه أنه يجب أن يكون هناك نظام أفضل لمراجعة العملية.
قرأت وأعتقد شاركت مساهمة من قبل حول دعوة مجموعة كبيرة من رواد التقنية لإيقاف تطوير Chat GPT، خوفا من المخاطر التي قد تحدث، لذا هذه التخوفات أثارت فضولي، حول ما يمكن أن يحدث.
بالتأكيد لن يكون تخوفهم من فقد الوظائف أم العزلة المجتمعية، تعليقاتهم وتخوفهم يشعرني أننا سنستيقظ ذات يوم على أحداث من أفلام أجنبية مثل فيلم Robot لويل سميث حيث قام الروبوت بعملية قتل، أو فيلم Jexi والذي يستعين فيه البطل بنظام ذكاء اصطناعي لترتيب حياته وبالفعل يساعده ولكن يقع النظام بحب الشاب ويبدأ بإفساد حياته، أو فيلم I am mother من إنتاج نتفليكس، وهذا يأتي بعد إندثار البشرية تماما ويكون هناك روبوت مسؤولة عن إعادة إعمار الأرض من جديد.
لذا من خلال متابعتكم للتطورات الحالية، وتخوفات هؤلاء المختصين ما هي المخاطر المحتملة التي تثير قلقهم لهذا الحد؟
تنظيم مخاطر الذكاء الاصطناعي بشكل مشابه للطاقة الذرية! هل وصلنا إلى الخوف من الموضوع وفي بدايته إلى هذا السؤال؟ أعتقد أنّ هذه مبالغة كبيرة من البشر، أنا لا أنفي الخطر ولا أنفي أهمية السؤال، ولكن أعتقد أنّهُ جاءَ مبكراً، هو سؤال معقد بدون إجابة سهلة، هناك عدد من العوامل التي يجب مراعاتها للإجابة على هذا السؤال، بما في ذلك المخاطر والفوائد المحتملة للذكاء الاصطناعي ووتيرة التطور التكنولوجي وجدوى التنظيم من أساسه.
بلا شك بعض الخبراء يُفزعون الناس ليلاً ونهاراً بأن الذكاء الاصطناعي يشكل تهديداً وجوديًا للبشرية وبالتالي من الضروري تنظيمه بطريقة مماثلة للطاقة النووية ويشيرون إلى حقيقة أنه يمكن استخدام الذكاء الاصطناعي لتطوير أنظمة أسلحة مستقلة يمكن أن تقتل دون تدخل بشري أو لإنشاء أنظمة يمكنها التحكم في البنية التحتية الحيوية أو نشر معلومات مضللة على نطاق واسع.
ولكن هل سألنا أنفسنا السؤال التالي: ماذا لو كان من يتحدّث بهذه الطريقة يريد فقط التحصّل على الضوء والانتباه العالمي؟
لإنّهُ في ذات الوقت هناك خبراء آخرون يرون بأن مخاطر الذكاء الاصطناعي مبالغ فيها وأن التنظيم من شأنه أن يخنق الابتكار. ويقولون ما أحب أن أقوله دائماً: من الأفضل التركيز على تطوير تقنيات ذكاء اصطناعي آمنة ومسؤولة بدلاً من محاولة تنظيمها.
ولكن هل سألنا أنفسنا السؤال التالي: ماذا لو كان من يتحدّث بهذه الطريقة يريد فقط التحصّل على الضوء والانتباه العالمي؟
لا أعتقد أن سام ألتمان بحاجة لذلك، فلقد حصل على كل الانتباه بإطلاق Chat GPT بجانب أنه يتحدث عن تقنية هم من أصدروها وهي سبب شهرتهم وسبب ثورة بهذا المجال، لذا فكرة التحصل على الضوء مع هذه الشخصيات ليست مبررا منطقيا.
أما فكرة الطاقة الذرية وتشبيه العملية التنظيمية لهذين القطاعين، لا أرى أن هناك مفارقة أو أنه خانه التعبير برأيي هو يعلم تماما عن ماذا يتحدث، لذا عمليا هناك مخاطر لا محالة منها إن استمر الوضع كما هو عليه، وللتوضيح لست مع يدعو لتوقيف الذكاء الاصطناعي، ولكن الاستمرار فيه مع كل هذه التخوفات دون معرفة مسبقة حول ما قد سيؤول له الذكاء الاصطناعي من مخاطر مستقبلية، هذا هو الكارثة، فعليا بعد كل هذه التخوفات ومقالة سام تحديدا، أصبحت أرى أننا سنرى أحد أفلام الذكاء الاصطناعي يتحقق امام أعيننا، وهي نفسها التي كنا نراها مستحيلة عند رؤيتها لأول مرة، ولكن من تمكن من إحضار العفريت قادر على إخفائه مرة أخرى لا اعلم، لهذا فتحت النقاش حول هذا الموضوع
لذا فكرة التحصل على الضوء مع هذه الشخصيات ليست مبررا منطقيا
هو لا يحتاجه من أجلنا، بل من أجل المستثمرين وأصحاب الأموال من حوله، يبدو أنّهُ بدأ يدرك حجم قوّة غوغل وإجبارها على دخول سريع في هذا المجال أمر غير قابل للنقاش: خسارة أكيدة. إنهُ يحاول أن يُري مدى تعاطفه مثلاً وحبّه للمجتمع والناس وتفكيره المتفاني بمستقبل الكرة الأرضية والبشر عليها، شيء شبيه بتصرفات مارك زوكّربرغ وفضائحه مع شركة أنالتيكا.
عليا بعد كل هذه التخوفات ومقالة سام تحديدا، أصبحت أرى أننا سنرى أحد أفلام الذكاء الاصطناعي يتحقق امام أعيننا
الأفلام فانتازيا لن تتحقق، وحتى لو كنا مقبلين على سيناريوهات مشابهة، فهذا الأمر بعيد، يحتاج برأيي بتطوّر مماثل السرعة إلى 20 سنة وأكثر.
لو جربت bard من جوجل ستتمكن من معرفة أن ChatGPT يسبقها بالكثير، ناهيك أنهم مختصين بالتقنية يعني اعتنائهم الكامل بها وبتطويرها، لذا القلق من جوجل بهذا الجانب ليس إلا تحسبا بها كمنافس محتمل، وليس منافس قد يضر بالمنتج أو يهدده، لأني جربت الاثنين وما زال أمام Bard الكثير والكثير.
الأفلام فانتازيا لن تتحقق، وحتى لو كنا مقبلين على سيناريوهات مشابهة، فهذا الأمر بعيد، يحتاج برأيي بتطوّر مماثل السرعة إلى 20 سنة وأكثر.
أجدك متفائلا ضياء، بوجود تقنية تعلم الآلة والتعلم العميق، فالأمر الناقص هو الاستخدام السيء لهما، تخيل لو أن قاعدة البيانات التي أدخلت لهم معادية للبشرية، ومبنية على معلومات مغلوطة حول حقائق الأمور، ستجد أن هناك تحيزات وهناك كره بني تجاه فئة معينة، وستتطور قاعدة البيانات بطريقة سلبية. فقد يصبح معاديا للإنسان أو لجنس معين، وهلم جرا
أختلف معكِ فيما يتعلّق بـ Google Bard يا نورا. معكِ حق فيما يتعلّق بأسبقيّة ChatGPT في الوقت الحالي. لكنني لا أرى أنه سيستغرق الكثير من الوقت في إنهاء تطويره بالشكل المناسب. فهو ما زال قيد التجريب حتّى اللحظة الحاليّة، ناهيك عن دقّته في المعلومات بالتحديد، والتي يتفوّق فيها على ChatGPT. فأنا في عملي ككاتب محتوى مثلًا، هنالك بع المهام القائمة على الفحص والتلخيص اكتشفتُ أن Bard يعمل فيها بصورة أعلى كفاءةً من ChatGPT، خصوصًا تلك المتعلّقة بالمصادر والبحث فيها.
لو حكمنا على المنتجين وقت انطلاقهم التجريبي سنجد تفوق Chat GPT، أما عن دقة المعلومات هذه ميزة سمعتها قبل أن اجربه ولكن عندما أجريت مقارنة من خلال نفس السؤال وجدت الإجابة متقاربة لم أشعر بميزة إضافية لذا لم استمر معه.
فأنا في عملي ككاتب محتوى مثلًا، هنالك بع المهام القائمة على الفحص والتلخيص اكتشفتُ أن Bard يعمل فيها بصورة أعلى كفاءةً من ChatGPT، خصوصًا تلك المتعلّقة بالمصادر والبحث فيها.
لم أفهم هذه النقطة، هل توضح كيف تستخدمه أو ما المقصود بالفحص والتلخيص؟
لو جربت bard من جوجل ستتمكن من معرفة أن ChatGPT يسبقها بالكثير
الأمر مشابه لموضوعة نوكيا وسامسونغ أو نوكيا وآيفون، الكل يرى في ذلك الوقت أنّ نوكيا انتشارها مضمون وأكيد، لا يمكن أن يتزحزح هذا العملاق عن ساحة المنافسة والريادة، وفجأة اختفى!
للبقاء في أي مكان دائماً يجب أن نتحصّل على أكثر قد من المعرفة وأكبر قدر من المال، من لديه هذه القوة الجبارة حالياً؟ بالطبع غوغل، إذاً الأمر يحتاج وقت فقط لتستطيعي حضرتك تبيّن الفرق، غوغل يمشي خطواته بثبات وقوّة، على عكس غير شركات، الضعيف يمكن أن يغامر، القويّ ثابت ويتقدّم بثبات وسرعة، أحتاج سنة بالضبط للتأكيد على كلامي، على اعتبار هذه الأمور فيصل تحديدها الوقت.
لا أحد ينكر قوة جوجل، بالتأكيد لكني دوما أصف في نقطة التخصصية، فشركة Open AI هي شركة متخصصة لأبحاث الذكاء الاصطناعي، وهذا يعيطهم تركيز أكبر على الهدف.
أما عن مثال نوكيا وسامسونج، فسبب اختفاء نوكيا من الساحة هو عدم مواكبة تطورات السوق لا غير، وليس لقوة أي منهما فنوكيا بالسوق قبل الجميع، مثل جوجل فشركة أوبن حديثة وبدأت ب2019 تقريبا
لا أحد ينكر قوة جوجل، بالتأكيد لكني دوما أصف في نقطة التخصصية، فشركة Open AI هي شركة متخصصة لأبحاث الذكاء الاصطناعي، وهذا يعيطهم تركيز أكبر على الهدف.
للإجابة على هذا السؤال علينا أن نرى الأمر من منظور رجال الأعمال، هل القدرة البحثية عند غوغل أقل بالضرورة من open ai؟ أبداً نهائياً، ولكن القدرة التمويلية تميل بشكل كبير إلى غوغل، هذه معركة قوات إقتصادية جبارة من الصعب تخيّلها، الرابح من يصرف أكثر ويهتم أكثر، لذلك أراهن على غوغل.
.. أنه يشعر بالقلق من أنه فعل شيئا سيئا حقا من خلال إنشاء ChatGPT وهذا يجعله لا ينام بشكل جيد.
ربما كان عليه التفكير بذلك قبل إصداره للجمهور!
فدائما ما يتكرر نفس المشهد، منذ ألفريد نوبيل وندمه على إكتشاف الديناميت، مرورا بندم مكتشفي الطاقة الذرية، والأسلحة البيولوجية، وغيرها.. وها نحن اليوم نشاهد نفس التمثيلية المبتذلة، وكأننا نشاهدها لأول مرة!
وبمناسبة ذكرك لأفلام الخيال العلمي نورا، شاهدت منذ فترة فيلم اسمه Hunger Game حيث يتم احتجاز مجموعة من البشر داخل مدينة، ويقوم القائمين على اللعبة بالتحكم عن بُعد في حياتهم بكل تفاصيلها..
صراحة كان الأمر مرعبا بالنسبة لي، لكني لا أستبعد أن نكون بالفعل بنفس وضع أبطال الفيلم، ونحن غير مدركين لذلك!
فدائما ما يتكرر نفس المشهد، منذ ألفريد نوبيل وندمه على إكتشاف الديناميت، مرورا بندم مكتشفي الطاقة الذرية، والأسلحة البيولوجية، وغيرها.. وها نحن اليوم نشاهد نفس التمثيلية المبتذلة، وكأننا نشاهدها لأول مرة!
لأنهم لم يضعوا بالاعتبار الاستخدام السيء من قبل البشرية عموما لميزات الاختراع الذي توصلوا إليه.
صراحة كان الأمر مرعبا بالنسبة لي، لكني لا أستبعد أن نكون بالفعل بنفس وضع أبطال الفيلم، ونحن غير مدركين لذلك!
سيناريو ليس بعيد، خاصة إن استمر إيلون ماسك في محاولة زرع شرائح في الدماغ، كان قد بدأها منذ فترة كتجربة على القردة ولكن كنت سمعت أن التجربة قد فشلت لا اعلم إن كان مستمرا بحلها وتطويرها أم لا، لكن طرأ لي هذا الاحتمال وقتها.
ولكن هل أدرك مطوري Chat GPT الأمر بهذه السرعة؟!
لا اعلم ما الذي جعله أعرب ووضح كثيرا قلقه بهذه الطريقة، ما المستجدات وما هي الأمور التي واجهها لا أدري لذا فتحت التقاش ربما تكون الإجابة عند أحد من الزملاء
رغم أن ما ذكرته عماد أحد التحديات، لكن لا أجده أحد المخاطر التي قد تشغل بال كل هؤلاء بداية من إيلون ماسك وحتى صاحب التقنية نفسه، قلقهم المتوالي يجعل تخيلي يذهب لاحتمالات كنت أرفضها سابقا.
تبقى مجرد تكهنات ..
من الصعب معرفة مصدر الفيروس بدقة ..
إن الفيروس صغير للغاية .. بحجم خلية أو أصغر
كيف يمكن صنع شيء بهذا الصغر أو تعديله ؟!
قد يكون نشأ بشكل طبيعي أو صناعي ،، مثله مثل فيروس الإيدز
يمكن في ظل تفاعلات الطبيعة أن تنتج أنواع فيروسية جديدة ..
ويمكن أن يكون هناك شيء جرى ومقصود ..
وكما ذكرتي كل شيء ممكن
بالضبط أستاذة نورة
من المؤسف أن قلقهم الوحيد يتمحور حول مصالحهم الضيقة
إن مايحدث للعالم من كوارث وأمراض وتفاوت طبقي صارخ بالكاد يقلقهم ..
ولأنهم يملكون أموالا خيالية .. فأجدهم معنيين بالمساهمة في تحسين الحياة
بالإضافة لمشكلة التضخم والديون .. والتي قد تؤدي بالعالم للهاوية قريبا ..
اذا كان يشعر بالسوء من اطلاقه لماذا لا يوقفه بكل بساطة؟بالنهاية هي شركة خاصة ولها الحق القانوني الكامل بايقاف خدماتها وانا متأكد 100% ان سام قد عوض كل الاستثمارات التي وضعها في الشركة يعني لن يخسر من ايقافه شيء
هي مجرد تراهات من اجل اقناع الحكومات والمجتمع بضرورة تنظيم تقنيات الذكاء الاصطناعي وبالتالي يمكنه احتكارها لاطول فترة ممكنة
سمعته في فيديو يقول للكونغرس الامريكي يجب الحد من النشاطات الفردية والمطورين الذين يطورون AI بشكل فردي !!!
هل توقيفه سينهي ما بدأ؟ يعني بالنهاية هو تطبيق للذكاء الاصطناعي وظهر له منافسين مثل Bard وبالتالي التقنية ظهرت وستسمر وستتطور، فالمخاطر ليست في التطبيق نفسه لكن بالتقنية في حد ذاتها.
سمعته في فيديو يقول للكونغرس الامريكي يجب الحد من النشاطات الفردية والمطورين الذين يطورون AI بشكل فردي !!!
لماذا فسرتها بشكل احتكاري، أو انه لا يريد أن يعمل عليه سواهم، وجدته حريص على عدم الاستخدام المنظم أو لنقل المراقب من قبل الأفراد والذي قد ينتج عنه سوء استخدام وضرر، على عكس الشركات والتي تخضع لرقابة وقوانين.
اذا كان يردد علنا ان الذكاء الاصطناعي خاطئ يجب ان يوقف نشاطه حتى لو كان بسيطا يعني مثل شخص صاحب ورشة تصنيع دخان اذا اصبح يصرع علنا ان تصنيع الدخان خطر وليس اخلاقي يجب عليه اذا كان يحترم نفسه ومنسجم اخلاقيا ان يغلق ورشته حتى لو كان العالم فيه مصانع عملاقة
وايضا هو صاحب الشركة الرائدة في المجال من بين كل المشاريع المعلنة كل الشركات الاخرى تحتاج على الاقل سنة لتصل لمستوى chat gpt وربما اكثر بكثير يعني توقفه يعني توقف الخطر لفترة كافية
من السهل جدا لو كان هناك نية فعلية وشعور حقيقي بالندم ايقاف موجة تطوير الذكاء الاصطناعي لان جانب كبير من هذه الصناعة مازال صعب المنال بالنسبة للشركات الكبيرة يعني فقط الشركات العملاقة قادرة على تحمل التكاليف المهولة لتدريب النماذج التوليدية
فبعد ان عرفت ان هذا الشخص هو اولى الناس بالتوقف اذا كان يؤمن فعلا ان هذا ما يجب فعله قبل ان يقترح مقترحات توقف الاشخاص الصغار والبسطاء ولا تريدين مني ان افسر ذلك على انه احتكار؟على العكس توفر التقنية على نطاق اوسع وموزعة بين عدة ملاك يعمل نوع من توازن القوى !!
تثير التكنولوجيا الحديثة والذكاء الاصطناعي قلقًا كبيرًا بين رواد التقنية، حيث يشير البعض إلى أن هذه التقنية قد تؤدي إلى مخاطر عديدة، منها:
1- فقدان الوظائف: يمكن للذكاء الاصطناعي أن يحل محل بعض الوظائف التي تقوم بها البشر، وهذا يمكن أن يؤدي إلى فقدان بعض الوظائف.
2- تأثير على الخصوصية: يمكن للذكاء الاصطناعي جمع كميات كبيرة من المعلومات حول المستخدمين، وهذا يمكن أن يؤدي إلى اختراق خصوصية المستخدم.
3- تأثير على صحة المجتمع: قد يؤدي استخدام التكنولوجيا والذكاء الاصطناعي إلى تغيرات في سلوك المجتمع والأفراد، مثل زيادة اضطرابات نفسية.
4- تأثير على سلامة المستخدمين: يمكن للذكاء الاصطناعي أن يؤدي إلى تحليل غير دقيق للبيانات، وهذا يمكن أن يؤدي إلى خطأ في اتخاذ القرارات.
5- تأثير على الأخلاق: قد يؤدي استخدام التكنولوجيا والذكاء الاصطناعي إلى تغيرات في قيم المجتمع والأفراد، مثل زيادة التحرش الإلكتروني.
لتخوفات التي تثير قلق الخبراء في مجال الذكاء الاصطناعي تشمل عدة مجالات، منها:
1- خطر فقدان الوظائف: حيث يمكن للروبوتات والذكاء الاصطناعي أن يحلوا محل العمالة البشرية في بعض المهن، مما يؤدي إلى فقدان وظائف كثيرة.
2- خطر التحكم في حياة البشر: حيث يمكن للذكاء الاصطناعي أن يتحكم في حياتنا بشكل كامل، من خلال جمع بيانات عن أساليب حياتنا وتحديد سلوكنا المستقبلي.
3- خطر اختراق الأمان: حيث يمكن لهجمات القرصنة على نظام الذكاء الاصطناعي أن تؤدي إلى اختراق شبكات التحكم وإحداث أضرار جسيمة.
4- خطر التأثير على صحة المجتمع: حيث يمكن للاستخدام غير المسؤول للذكاء الاصطناعي أن يؤدي إلى تأثير سلبي على صحة المجتمع، مثل انتشار الأخبار الزائفة والتحريض على العنف.
5- خطر التمييز والعدالة: حيث يمكن للذكاء الاصطناعي أن يتسبب في التمييز ضد بعض المجموعات، مثل الأقلية الجنسية أو العرقية، مما يؤدي إلى عدم تحقيق العدالة في المجتمع.
لكننا هنا لا نتحدّث عن فكرة الاستبدال الوظيفي أو غيره من الأعراض قصيرة الأمد يا إيمان. وإنما تشير المشاركة إلى ما هو أبعد من ذلك بكثير. تشير إلى خطر وجودي كبير للغاية. وهو الخطر الذي يمثّل الكثير من المشكلات لنا كبشر، خصوصًا في إطار الأزمات السياسيّة السابقة التي تدل على أننا غير قادرين في العديد من الأحيان على إدارة علاقاتنا كبشر.
مجتمع لمناقشة أحدث التقنيات والابتكارات. ناقش وتبادل المعرفة حول الأجهزة، البرمجيات، الذكاء الاصطناعي، والأمن السيبراني. شارك أفكارك، نصائحك، وأسئلتك، وتواصل مع محبي التقنية والمتخصصين.