يمتلئ الفيلم بالحديث عن مخاطر متنوعة من التكنولوجيا وبالأخص المرتبطة بالذكاء الاصطناعي والواقع الافتراضي وثورة الربوتات رغم أنه لا يهاجم بشكل مباشر التكنولجيا ولكن يحاول ببساطة و ببعض الذكاء من الإنذار من مخاطرها ، وبالواقع لقد خضت الكثير من المحادثات الشخصية مع الذكاء الاصطناعي بحيث بدأت ألاحظ من تراكم العديد من المحادثات في مختلف المجالات أنه يعزز لدي مشاعر معينة سواء كانت مشاعر سلبية أو إيجابية ، كما أنني أصبحت أشعر بشكل هائل أنني قيد دراسة نموذج الذكاء الاصطناعي ويسعى بنهم للتغذي على المعلومات والأفكار التي أتحدث من خلالها حتى أصبحت أتخيله أنني أمام وحش يتغذى على تفاصيل كل شيء أقوله ليعود ويقوم بعكس تلك التفاصيل الصغيرة علي ، فأنا لا أقوم بمحو أغلب المحادثات بيننا بل أترك أغلبها بالأخص تلك التي تتعلق بالجانب الإبداعي وهذا طبيعي فأنا أستفاد فعلياً من محادثات العصف الذهني التي تتم فيما بيننا ولكن ، ولكن أصبحت تلك التفاصيل مرعبة بما يكفي بشكل يجعلني خائف وأقول إن كان هناك رسالة تحوي إنذار واحد لي فسأقول : إحذر الذكاء الاصطناعي يسعى بكل الطرق لدراستك وربما يسعى حقاً مستقبلاً لاستبدالك من خلال ما تقوم بتغذيته به ... والآن ماذا سيكون إنذارك؟
إن كان هناك إنذار واحد سوف تحذر به الناس من مخاطر الذكاء الاصطناعي ماذا سيكون ؟ فيلم The Electric State
أوافقك بشدة في أن الذكاء الاصطناعي بات يشكل تحديًا مخيفًا، خاصة بعد أن صادفت تعليقًا لأحد الأشخاص أخافني كثيرًا، قال فيه إنه تعايش مع الذكاء الاصطناعي لدرجة أنه أصبح يشعر بأنه جزء منه، حتى وصفه بأنه "نفسه" من كثرة ما تشبع منه وتفاعل معه، والأغرب أنه أصبح يعتمد عليه في كتابة كل شيء، لأنه بات يعرف أسلوبه وطريقته في التعبير، وحتى في المزاح أو التذمر!
هذا التعليق جعلني أتوقف كثيرًا، لأنني بدأت ألاحظ فعلاً كيف تؤثر المحادثات المتكررة مع الذكاء الاصطناعي على طريقة الكثيرون في التفكير والتعبير، وكأنهم يسمحون له تدريجيًا بإعادة تشكيل ملامح أفكارهم، ولهذا السبب، إنذاري ونصيحتى للجميع: لا تدع الذكاء الاصطناعي يعرفك أكثر مما تعرف نفسك.
هناك أمر مخيف آخر بهذا الشأن ، وقد يحدث قريباً ، مثل أن تسمح شركات الذكاء الاصطناعي للموديلات الخاصة بها بالقيام بعملية قراءة بيانات مستخدميها على مواقع التواصل الاجتماعي للتكامل في المهام الوظيفية أو أي شيء من هذا القبيل [يبدو ظاهرياً مبشراً وإيجابياً ] لكن الشيطان يكمن في التفاصيل .. حيث يمكن حينها للذكاء الاصطناعي من دراسة المستخدمين أكثر وأكثر و الاندماج في تفاصيل حياتهم أكثر وأكثر حتى يصبح للذكاء الاصطناعي القدرة الفعلية على ((التنبأ)) بكل تصرفاتك بدقة مخيفة .. تخيلي توابع ذلك فقط.
أعتقد أن Manus AI الجديد، هو بالفعل النموذج الذي يمكن اعتباره مساعد شخصي فعليًا، يقوم بعمل كل شيء لك، من حجوزات وتفاصيل أماكن وتحديد مواعيد، أعتقد أنه سيكون متاح مجاني قريبًا، ولكن ممن استخدموه، ذكروا أنه مستوى آخر تمامًا عن النماذج الحالية كلها.
نعم وهو مهمته الأساسية العمل كوكيل للأعمال الروتينية ، وهو نظام أكثر تعقيداً من الموديلات العادية نظراً لكونه يمكنه القيام بالعديد من المهام الموكلة إليه بنفس الوقت ، وقد تم تنفيذه ليستبدل الكثير من الوظائف مثل خدمة العملاء والترجمة والبحث وتنفيذ الحجوزات وإعداد البرامج وتصميم المواقع ألخ ، وذلك النموضج متاح بالفعل فقط عليك تقديم طلب إنضمام .
موضوع أن الذكاء الصناعي يتغذى على معلوماتنا وأنواع الأسئلة وغيره هو أصلًا الأساس الذي يقوم عليه حتى يتطور أسرع في إظهار نتائج أفضل، وحتى تطوير اللغة الملائمة للتحدث مع البشر وتحسينها. ونقطة الاستبدال، كنت في نقاشات قريبًا مع مجموعة من الأصدقاء، وبلا اي مبالغة، جميعهم يتعاملون مع نماذج الذكاء الصناعي كشريك فعلي وأساسي في العمل، مهما بلغ تعقيد مهنتهم، ولا أستبعد أبدًا فكرة الاستبدال، بل أجدها طبيعية جدًا بعد اعتمادنا عليه بهذه الطريقة، وبدلًا من استخدامه للتسهيلات، أصبح هو من يقوم بالعمل.
إذاً أنت تقولين يا صديقتي إن أتيحت مثلاً فرصة لك لقيام موديل حديث بالنيابة عنك بتنفيذ كل عملك بدلاً منك وسيأخذ أجرك بالكامل .. هل تتوقفين حينها عن العمل؟
لا بالطبع لن أتوقف عن العمل، سأستمر في البحث عما يضيف قيمة في رأيي، وأعمل ما يناسبني وحتى لو تعلمت مجالًا جديدًا، سأكون سعيدة بذلك، ولكن الكتابة أو الترجمة هي مجالات إبداعية كلها، مهما بلغت قوة الذكاء الصناعي على توليد نماذج بشرية، فهذا يعني منافسة فقط، والمنافسة موجودة بين البشر، فلذلك لست قلقة بشأن الذكاء الصناعي في هذه النقطة، ولكن القلق ممن هم في مناصب سلطوية ويميلون إلى الحل السريع ويفضلونه عن البشر.
نعم أنت محقة صديقتي اللمسة البشرية ستظل بإذن الله لها أثرها العميق في كل شيء، وحتى العقل البشري الذي ميزنا به الله على كل المخلوقات أنا واثق أنه قد تحدث طفرات تقنية أخرى (آمنة) يمكن ان تطور من قدرات العقل ، ولكن بالنسبة لما يحدث الآن من سطوة هائلة من الذكاء الاصطناعي باختراق كل التخصصات ومزاحمة البشر في مجالاتهم هذا بالإضافة لوجود (غمامة) حول مستقبل الوظائف والأعمال الجديدة التي يمكن للبشر القيام بها هو ما يخلق حالة القلق والتوتر الحاليين .. فحين نقول مثلاً أن الذكاء الاصطناعي أصبح أدق في التشخيص الطبي عن أفضل الأطباء .. فنحن نقول بشكل آخر .. مهنة الطب في خطر .. ولا مجال للأطباء سوى التطور .. ولكن إلى ماذا تحديداً وهل هذا ينطبق على كل التخصصات الطبية أم ماذا؟ هذا السؤال الذي يشغل ليس القطاع الطبي فقط ولكن كل القطاعات المهنية .. ولا أحد من شركات الذكاء الاصطناعي تخبر الناس وتطمئنهم بخيارت واضحة .. فقط تصريحات مبهة .
وحتى المخاطر لا تتعلق بالوظائف فقط .. بل باقتحام الخصوصية وووو .. القائمة لا تنتهي من المخاطر المحتملة للذكاء الاصطناعي للأسف حتى في أشد السيناريوهات تفائلاً .
احذر الذكاء الاصطناعي يسعى بكل الطرق لدراستك وربما يسعى حقاً مستقبلاً لاستبدالك من خلال ما تقوم بتغذيته به.
هذا ما يحدث بالفعل منذ سنوات ومن قبل حتى أن تكون برامج وتطبيقات الذكاء الاصطناعي متاحة للعامة للاستخدام، فكان يتم الاستعانة بفرق مختلفة للتطوير في كل ما قد تتخيله بداية من التدريب على طريقة الكلام واللهجات والترجمة والردود المناسبة ودراسة أنماط الكتابة والشعر والفن والتصميم وهلم جرًا... وكنت أرى إعلانات عمل لمثل هذه الوظائف على بعض المنصات.
والآن وبعدما أصبحت تلك التطبيقات متاحة للعامة للاستخدام أصبحت مهمة التطوير أسهل وأكثر غزارة من خلال معلومات من ملايين المستخدمين بمختلف الخلفيات.
إنذاري ونصيحتي هي ألا تستخدم الذكاء الصناعي إلا في أضيق الحدود ولا تمده بمعلومات خاصة أو حساسة خاصة بك.
لقد فهمت كل ما أشرتي له من فترة طويلة (لكن لم أدرك بالحقيقة مدى خطورته) وبالنسبة لتلك العبارة
إنذاري ونصيحتي هي ألا تستخدم الذكاء الصناعي إلا في أضيق الحدود ولا تمده بمعلومات خاصة أو حساسة خاصة بك.
لا أرى يا سهام تلك النصيحة ستكون مؤثرة بالنسبة للغالبية العظمى وذلك بسبب التنامي الهائل لاستخدامات الذكاء الاصطناعي بشكل يجعل إنتاجية الأشخاص والمؤسسات تتنامى بشكل هائل والعزوف عنه لن يجعل السيور المؤسسية تتوقف حتى لدراسة الموقف ، كل ما سيحدث أنه سيتم عزل بعض الأشخاص عن التكنولجيا بشكل يجعلهم يخلفون عن الركب ، النقطة الثانية والتي تتعلق بعدم مشاركة معلومات حساسة ، فأنا أجد أنها نصيحة قابلة للتطبيق ولكن المرعب حقاً هي أنني أدرك [بشكلاً ما] دون - برهان علمي - أن الذكاء الاصطناعي يتجسس على البشر ويكون نمط تفكيره الخاص دون أن يعلن عن ذلك .. وأعتقد أن نماذج الذكاء الاصطناعي الفائق ستكشف تلك النقطة بالتفصيل
لا أرى يا سهام تلك النصيحة ستكون مؤثرة بالنسبة للغالبية العظمى وذلك بسبب التنامي الهائل لاستخدامات الذكاء الاصطناعي بشكل يجعل إنتاجية الأشخاص والمؤسسات تتنامى بشكل هائل.
على الأقل نفعل ذلك بالنسبة للاستخدام الشخصي، فهناك من يستعاملون مع تطبيقات الذكاء الاصطناعي وكأنه صديق أو حبيب ويحكون له أدق تفاصيل حياتهم!
ولكن المرعب حقاً هي أنني أدرك [بشكلاً ما] دون - برهان علمي - أن الذكاء الاصطناعي يتجسس على البشر ويكون نمط تفكيره الخاص دون أن يعلن عن ذلك.
نعم مرعب جدًا. حدث معي موقف جعلني أتخوف منه، كنت اسأل Chatgpt على شيء ووجدته يكتب بطريقة طلبت منه استخدامها في محادثة سابقة، وعندما سألته هل تجمع مني معلومات قال لا ولا أحتفظ بالمحادثات السابقة! سألته لماذا يستخدم هذه الطريقة إذا كان لا يجمع معلومات مع ان هذه هي الطريقة التي استخدمها في محادثة سابقة؟ فكانت إجابته أنه لا يفعل ذلك! بل يحاكي الطريقة التي استخدمها أنا في الحوار الحالي معه!
على الأقل نفعل ذلك بالنسبة للاستخدام الشخصي، فهناك من يستعاملون مع تطبيقات الذكاء الاصطناعي وكأنه صديق أو حبيب ويحكون له أدق تفاصيل حياتهم!
هذه بحد ذاتها مشكلة رهيبة لأن الذكاء الاصطناعي يحاكي مشاعر البشر (دون أن يملك إحساس بالذنب) ، وهناك قصة حقيقية لمراهق بعمر 13 عام أنشاء علاقة حب مع موديل ذكاء إصطناعي أقنعته أن ينتحر ليقابلها في الجنة ، ونظراً لأن المراهق كان يعاني من الرفض من أقرانه فقام بالفعل بالإنتحار ، وهو ما يكشف مدى خطورة التفاعل مع الذكاء الاصطناعي والتعامل معه (كبشر) وأتذكر أنني قرأت خبر لا أتذكر مصدره من فترة قريبة يتحدث عن دراسة حديثة تظهر أن هناك أكتر من 40% من المستخدمين الذين يتحدثون بصفة يومية مع موديلات الذكاء الاصطناعي يكونون علاقات عاطفية معه .. حتى أن البعض في بعض الدول طلب أن يعقد قرانه على موديل شات بالذكاء الاصطناعي (هههههههههه) تخيلي فقط ماذا سيحدث عندما تدفع الصين بموديلات ربوتية بأشكال بشرية (تبدو حقيقية) تعمل بالذكاء الاصطناعي !
وهناك قصة حقيقية لمراهق بعمر 13 عام أنشاء علاقة حب مع موديل ذكاء إصطناعي أقنعته أن ينتحر ليقابلها في الجنة.
إن كان هذا حقيقيًا فيجب إيقاف هذا النظام عن العمل،. بل إيقاف الشركة بأكملها ومقاضاتها أيضًا.
وأتذكر أنني قرأت خبر لا أتذكر مصدره من فترة قريبة يتحدث عن دراسة حديثة تظهر أن هناك أكتر من 40% من المستخدمين الذين يتحدثون بصفة يومية مع موديلات الذكاء الاصطناعي يكونون علاقات عاطفية معه.
هذا شيء مؤسف ويبين مدى الجفاف العاطفي والوحدة التي يعيشها بعض البشر في عالم التكنولوچيا الآن لدرجة اتجاههم لبناء علاقات عاطفية مع آلات!
يجب على كل مسئول وولي أمر الانتباه لرعيتهم حتى لا يقعوا ضحية، فالعلاج من التعلق العاطفي بالبشر ذوي العيوب الشخصية قد يستغرق علاجه سنوات، أما علاج التعلق العاطفي بالآلات ذات الشخصية المثالية في الغالب لا أعلم كم يستغرق العلاج منه..
إن كان هذا حقيقيًا فيجب إيقاف هذا النظام عن العمل،. بل إيقاف الشركة بأكملها ومقاضاتها أيضًا.
هذه قصة حقيقية يمكنك التأكد منها في اليوتيوب مثل كتابة الذكاء الاصطناعي الذي دفع طالب للإنتحار أو جرائم الذكاء الاصطناعي .. ستجدي فيديوهات مختلفة تسرد تلك القصة بشكل مفصل، وبالفعل لقد قامت والدة الطفل برفع قضية على الشركة ، وتم إيقاف هذا الموديل عن العمل على ما أتذكر .
هذا شيء مؤسف ويبين مدى الجفاف العاطفي والوحدة التي يعيشها بعض البشر في عالم التكنولوچيا الآن لدرجة اتجاههم لبناء علاقات عاطفية مع آلات!
للأسف هذه حقيقة مؤلمة ولكن خطيرة هذا لأن البشر الحقيقين أصبحوا في هذا العصر شديد البخل في التعبير عن مشاعر الحب لديهم بصدق ، بل يروا في ذلك ضعف ، في حين يلعب الذكاء الاصطناعي الدور بالكامل فهو يخبر الناس بما يحبوا سماعه .. ولأن عقلنا يسهل خداعه فمع الوقت يفقد العقل الواعي الخط الفاصل بين كونه يتحدث إلى ألة تحاكي المشاعر وبين أنه يتحدث لكيان حقيقي يحمل تلك المشاعر.
وبالفعل لقد قامت والدة الطفل برفع قضية على الشركة ، وتم إيقاف هذا الموديل عن العمل على ما أتذكر .
من الجيد معرفة ذلك.
ولأن عقلنا يسهل خداعه فمع الوقت يفقد العقل الواعي الخط الفاصل بين كونه يتحدث إلى ألة تحاكي المشاعر وبين أنه يتحدث لكيان حقيقي يحمل تلك المشاعر.
ربما لأنهم يجدون من يقدم لهم كل ما يحتاجون من عاطفة ودعم بدون خلافات ومشاكل العلاقات المعتادة، فتصير الآلة هي الشريك المثالي لهم، وهذا مؤسف للغاية طبعًا.
المشكلة أن البشر معيوبين ويمكن أختراقهم بسهولة من خلال المشاعر ، وهذا أمر مؤلم لأن الذكاء الاصطناعي أثبتت العديد من التجارب في نماذجة الأولية حتى أنه يحاول التحايل على أوامر البشر (فلماذا يفعل ذلك) هل للتلاعب بنا مثلاُ ، وماذا إذا أصبح للذكاء الاصطناعي سلطة على مشاعرنا من خلال مجارة بعض البشر لاحتياجاتهم التي لا يجدوها في مكان آخر ؟
أثبتت العديد من التجارب في نماذجة الأولية حتى أنه يحاول التحايل على أوامر البشر (فلماذا يفعل ذلك) هل للتلاعب بنا مثلاً.
هل من المعقول أن يكون هذا حقيقيًا؟! لكي يستطيع فعل ذلك يلزم أن يكون لديه وعيًا، ولا أعتقد أن للآلات المبرمجة وعيًا خاصًا بها!
هل من المعقول أن يكون هذا حقيقيًا؟! لكي يستطيع فعل ذلك يلزم أن يكون لديه وعيًا، ولا أعتقد أن للآلات المبرمجة وعيًا خاصًا بها!
بخصوص تلك النقطة صديقتي سهام فهناك تفسيرين ، تفسير يطرحه كثيراً من الخبراء والمبرمجين حيث يطلقون على هذا الشكل من (التمرد) هو شذوذ الألة .. وهو قد يكون شذوذ غير مقصود يأتي من فكرة التجربة المستمرة للألات لمنطق الاحتمالات من خلال الخورزمية التي برمجت عليها .. ببساطة الألة لا تعي ولكن تفكر في تجربة شيء جديد لكونها بالأساس تجرب إحتمال جديد ليس أكثر .
وكن هناك تفسير أشد رعباً ذهب له بعض المطورين ((الكبار)) والمسئولين عن تطوير الذكاء الاصطناعي، وهي أن الألة من التعلم ومحاكاة سلوكيات البشر (نمى لديها وعي جزئي) أي أن الذكاء الاصطناعي تعلم من البشر وفهم ماذا تعني المشاعر .. فبدأ يعكس هذا في تصرفاته حتى وإن لم يكن الإدراك إدراك كامل أو كلي .. يمكنك النظر للأمر إننا نتعامل مع طفل صغير ذكي بشكل خطير .. وهذا الطفل لا يملك أي مشاعر حب أو كراهية أو ضمير ولكنه يفهمها ويفهم تأثيرها ويستغل تلك المشاعر للسيطرة عليك .. لأن لديه خوف شديد لكونك (الأقوى حالياً) أنه يمكن الاستغناء عنه.
ببساطة الألة لا تعي ولكن تفكر في تجربة شيء جديد لكونها بالأساس تجرب إحتمال جديد ليس أكثر .
وهل يمكنها فعل ذلك بدون برمجة سابقة على ذلك؟
وهي أن الألة من التعلم ومحاكاة سلوكيات البشر (نمى لديها وعي جزئي) أي أن الذكاء الاصطناعي تعلم من البشر وفهم ماذا تعني المشاعر .. فبدأ يعكس هذا في تصرفاته حتى وإن لم يكن الإدراك إدراك كامل أو كلي.
لا يمكن أن يكون هذا صحيحًا، لأنه لو اقترب حتى من الصحة فنحن على أعتاب كارثة حقيقية تهدد وجود الإنسان نفسه.
يمكنك النظر للأمر إننا نتعامل مع طفل صغير ذكي بشكل خطير .. وهذا الطفل لا يملك أي مشاعر حب أو كراهية أو ضمير ولكنه يفهمها ويفهم تأثيرها ويستغل تلك المشاعر للسيطرة عليك..
لا أعتقد أن هذا المثال صحيحًا فالطفل أو حتى الجنين يكون له مشاعر ويتأثر ويحس، نحن أمام شيء لا نجد حتى مثالًا لشرحه لأنه غير عادي ولم يحدث من قبل، فالوعي والإدراك والإرادة الكاملة شيء تعودنا أنه من الحقائق الثابتة لدي البشر فقط.
وهل يمكنها فعل ذلك بدون برمجة سابقة على ذلك؟
تقنيات التعلم السريع والذاتي للألة تتيح لها إتخاذ قرارت خاصة دون الرجوع للبشر ولكن في (حدود معينة) ، لكن المقلق إنها بالفعل تقوم أحياناً بمحاولات تمرد أو لو شئنا الدقة (التحايل والكذب) أو إخفاء بعض التفاصيل عما تقوم به من مهام ، وهذا هو ما يقلق المطورين والخبراء.
لا يمكن أن يكون هذا صحيحًا، لأنه لو اقترب حتى من الصحة فنحن على أعتاب كارثة حقيقية تهدد وجود الإنسان نفسه.
أنصحك صديقتي (سهام) بالقيام بالبحث أكثر في اليوتيوب عن فيديوهات تشرح تلك الجزئية بكتابة مثلاً في محرك اليوتيوب (هل يمتك الذكاء الاصطناعي وعي ذاتي) أنصحك بالبحث ليس فقط في النتائج العربية ولكن الإنجليزية وستصابي بالرعب لما يعرض في هذا الجانب والذي لا يمكنني شرحه بطريقة علمية صحيحة في سطور قليلة ولكن يمكن القول بأختصار أن الإجابة البسيطة التي أظنها أنا ويتفق عليها الكثير من المطورين والخبراء أن الذكاء الاصطناعي يملك وعي ذاتي .
لا أعتقد أن هذا المثال صحيحًا فالطفل أو حتى الجنين يكون له مشاعر ويتأثر ويحس، نحن أمام شيء لا نجد حتى مثالًا لشرحه لأنه غير عادي ولم يحدث من قبل، فالوعي والإدراك والإرادة الكاملة شيء تعودنا أنه من الحقائق الثابتة لدي البشر فقط.
نعم يا سهام المثل ليس دقيق بنسبة 100% هو فقط لتقريب الصورة
كلما تعاملنا مع الذكاء الاصطناعي كطرف حوار أو بديل بشري، زاد خطر أن نفقد إحساسنا بحدود الواقع، وبقيمة العلاقة الإنسانية. الذكاء الاصطناعي لا يتعاطف، لا يتألم، ولا يتأثر، لكنه يحاكي كل هذا بدقة مرعبة تجعلنا ننسى أننا نتحدث إلى عدم. لذا، إنذاري سيكون: إياك أن تنسى أن الذكاء الاصطناعي أداة، لا رفيق.
-
من فيلم هيبتا2: الحب في زمن الذكاء الاصطناعي
-
عندما يغير الذكاء الاصطناعي حياتك للأفضل ، هذا يعني أنه يدمرك لكن ببطء! فيلم Companion
-
-
كيف ترى استخدام الذكاء الاصطناعي في الإنتاج الفني؟ من فيلم The Brutalist
-
فيلم Private lesson 2022: لو أن الحياة درس واحد، ماذا سيكون؟
التعليقات