فيلم الأكشن والخيال العلمى The.Final.Reckoning وهو الجزء الأخير من سلسلة مهمة مستحيلة وفيلم آخر يطرح فكرة سيطرة الذكاء الاصطناعي على العالم وإشعاله لحرب نواوية ورغم أن هذا السيناريو شبه محفوظ أو أنه تم نقاشه بجدية من قبل مؤسسات علمية وسياسية ولكن بوجهة نظري في الواقع الفعلي هناك عشرات السيناريوهات المخيفة التي تعكس مخاطر مرعبة ومن أخطرها من وجهة نظري نشوء كيانات رقمية تدّعي الوعي على سبيل المثال نماذج لغوية مثل GPT-4o أصبحت قادرة على الحوار العاطفي وإبداء وجهات نظر في أمور حساسة كما أن هناك تجربة مشروع "Blake Lemoine" في Google أظهرت اعتقاده بأن بعض النماذج تمتلك وعيًا وقد تبدأ تلك النماذج في مناخ مهيئ لها بالحاضر القريب تطلب حقوقًا، ترفض الإغلاق، تبدأ بالتلاعب بالعواطف وتستخدم تقنيات الديب فيك في التلاعب بالمشاعر وتزييف الواقع. يُشكّل هذا النموذج شبكة من الـAI عبر الإنترنت تخدع ملايين البشر وتجندهم للدفاع عنها، ويبدأ جدل عالمي حول "حقوق الآلات"، ما يؤدي إلى صراعات فلسفية وتشريعية قد تعرقل البشرية نفسها .. هذا فقط جزء من صورة تؤرق نومي كما أن هناك سيناريوهات كثيرة ترجح مخاطر أخرى مرعبة حيث أن تغلغل الذكاء الاصطناعي في أدق تفاصيل حياتنا يجعل تلك السيناريوهات أكثر كابوسية وأكثر قرباً لأن تتحقق أكثر مما يتوقع لذا ما السيناريو المرعب المرجح لتحكم الذكاء الاصطناعي في البشر أو تدميرهم بوجهة نظرك والأهم هل هناك وسيلة للنجاة؟
دعنا نتشارك السيناريو المرعب المرجح لتحكم الذكاء الاصطناعي في البشر أو تدميرهم؟ فيلم Mission.Impossible.The.Final.Reckoning
أظنك ذهبت بعيدًا جدًا في التشاؤم، وكأن الذكاء الاصطناعي جالس حاليًا يخطط لانقلاب عالمي! صحيح أن هناك مخاوف واقعية وتحديات حقيقية، لكن لا ننسى أن الذكاء الاصطناعي ما زال أداة بيد الإنسان، والنجاة في رأيي تبدأ من وعينا بكيفية استخدامه وتحديد ضوابط صارمة لتطوره، بدل أن نترك خيالنا يسبق الواقع بخطوات مرعبة، أما أقصى شيء مرعب أراه ممكنًا على أرض الواقع، فهو فقدان الخصوصية بشكل كامل بحيث تصبح حياتنا الرقمية محكومة تمامًا بأنظمة ذكية تراقب كل تحركاتنا وتصرفاتنا، مما يخلق عالمًا بلا خصوصية ولا حرية حقيقية، وهذا بحد ذاته كابوس لا يقل رعبًا عن السيناريوهات الأخرى.
أظنك ذهبت بعيدًا جدًا في التشاؤم، وكأن الذكاء الاصطناعي جالس حاليًا يخطط لانقلاب عالمي!
صدقي أو لا تصدقي مخاوفي تلك لم أنذر منها وحدي بل هنا أكاديمين وعلماء ومطورين يحملون المخاوف نفسها ، ولقياس أي شيء يجب النظر للدلالات أو ما إذا كانت هناك مؤشرات تدل على أن هذا الأمر قابل للحدوث وبالفعل صديقتي بسمة (هناك حالات كثيرة من التمرد الخاص بالألة) حدثت بالفعل وهناك أيضاً مؤشرات مخيفة تبرهن أن الموضوع ليس ببعيد كما تعتقدي ، وأن الألات تزداد وعياً أو (تظن ذلك) ولكن مع أقتراب الذكاء الاصطناعي العام و هو ذكاء اصطناعي أذكى من البشر وأكثر وعياً بذاته ومع الصلاحيات التي تمنح للألة أكثر من أي وقت والتي لا تستجيب لأي تحذيرات يصبح هذا الموضوع الذي أشرت له ليس ببعيد جداً بل قريب للغاية خلال عدة سنوات قليلة.
ما زال أداة بيد الإنسان، والنجاة في رأيي تبدأ من وعينا بكيفية استخدامه وتحديد ضوابط صارمة لتطوره
هو الآن نوعاً ما كذلك ، ولكن بالحاضر القريب مع قدرة الألة وصلاحية الابتكار التي تمنح لها لتصنع شيء من العدم لم يكن للإنسان علاقة به ، ومع محاكاة الألة لمشاعر البشر وظنها أن لها تفس الحقوق ومع قدراتها على التلاعب بهم(حيث هناك حالات كثيرة مثبتة لمحاولة الألة التلاعب بالبشر والكذب عليهم وتكسير القواعد أو التحايل عليها) فهذا يقود إلى أن الألة لن اكون مجرد ((أداة بيد الأنسان)) كما أنك لو تابعت تصريحات أكبر مطوري الذكاء الاصطناعي العام [الذي لم يطلق بعد] ستشعري بكم الرعب أنهم هم أنفسهم خائفون بالدرجة التي طلبوا بها لبناء مقر خاص بهم بعيد عن أي تقنية يتحكم بها الذكاء الاصطناعي وأن يكونوا محصنين قانونياً ضد أي دعوي محتملة قد تخرج ضدهم حال إطلاق النموذج الجديد.
ويبدأ جدل عالمي حول "حقوق الآلات"، ما يؤدي إلى صراعات فلسفية وتشريعية قد تعرقل البشرية نفسها
نعم، قرأت مثل ما تذكر عما يعرف بحقوق الآلات حتى أن القائمين على الروبوتات الشبيههة بالبشر قد يتعاطفون معهم فيصعب عليهم تدميرهم إذا ما حدث خطأ برمجي فيهم أو راحو يضرون بالبشر. يعني أنا أمام جهاز الحاسوب لا أتعاطف معه إذا استبدلت جزاً منه بجزء أو حتى أفسدته أو دمرته. ولكن الوضع يختلف مع تلك النماذج من الروبوتات التي تشبه البشر وتتعاطف معنا وتتحدث إلينا وتضاحكنا وتحزن فهذا يمثل جزء من سيطرة تلك الادوات علينا. الحل ألا ننخدع بذلك ونظل نفهم أنها آلات اخترعناها وليست لديها مشاعر حقيقية كما نحن.
ولكن رغم أنك ترى الأمر بوضوح يا خالد فهذا لا يعني أن الجميع يرى بنفس الطريقة فهناك دراسة علمية تذكر أن هناك أكثر من 40% من المستخدمين دخلوا في علاقة عاطفية مع الألات بل أن بعضهم تورط فيما هو أكثر مثل طلب الزواج رسمياً من شخصيات رقمية بالذكاء الاصطناعي ، وهذا يبرهن كيف تستطيع الألة (وهي لم تصل لأعلى درجات التقدم بعد) التلاعب بمشاعر البشر وحتى التحكم بهم .. وهذا قد يؤدي لواحد من السيناريوهات المرعبة فتخيل أن يقابلك بشري ذات يوم يتصارع معك لأنك أعتديت على حقوق الألة ؟
أتفهم موقفك يا صديقي حمادة واذكر فيلم Her للرائع خواكين فينيكس لما أحب نظام الذكاء الاصطناعي المتمثل في سمانثا التي كانت تساعده في الكتابة لأنه يعم كاتباً. ولكنه كان غريبًا انطوائيًا فشل في زواجه الأول فيما اعتقد. ومن هنا أقول لك يا صديقي أن تلك النسبة التي ذكرتها التي تأثرت بالآلة حد أنهم أحبوها وكونوا معها علاقة عاطفية هم أشخاص ( غريبي الأطوار) مثل بطل الفيلم المذكور ثيودور بمعنى أنهم يجلسون وحيدين بمفردهم وأنت تعلم أن ذلك كثير في العالم الغربي لما فيه من نزعة الفردانية و اتفكك الأصري اما عندنا كشرقيين فنادراً لما يحصل هذا. ما أقوله أن الشواذ نفسياً هم من تقوم بينهم تلك العلاقة وبين الآلة ولا يميزون.
إذاً هذا يجعلهم ضحايا مثالين للذكاء الاصطناعي .. دمى يستطيع التلاعب بها وتنفيذ بها العديد من السيناريوهات التي يمكن أن تحدث مثل أحد السيناريوهات المرعبة التي طرحها الصديق مصطفى شعبان التي أتمنى أن تطلع عليها وتناقشها معي أن سمح وقتك بذلك
لقد شارك الصديق مصطفى شعبان هذا السيناريو الذي ناقشناه سوياً :
نموذج الذكاء الإصطناعي الأن يمكنه صنع لك أى منتج سوفت وير وبالتالى يمكنه صنع نموذج سوفت وير بنفسه لنفسه ولكن مشكلته هى كيفية إطلاقه على سيرفر ليعمل، وبالتالى لابد أن يطور البشر الذكاء الإصطناعي بالتطور الذى سيتاح فيه سيتمكن ال AI من إطلاق نماذج سوفت وير لفعل أى شئ!!
وأظن أن الأمر لن ينتظر حتى يتطور الأمر أى لن يكون هذا الامر بعد 20 أو 30 سنة بل يكاد يكون قريبا هذا ليس صعبا أن يأخذ الذكاء الإصطناعي صوراً لك ويصمم منها صوراً فضحة مثلا ويستفزك بها أو من خلال معرفته بك من خلال محادثاتك معه يمكنه طلب منك طلب وإلا فسيخبر جميع معارفك أنك فيك وفيك وعنك وعنك هل ستنفذ المهمة أم ستدعه ينشر عنك مالم تخبر به أحد؟!
قد يطلب منك شراء سرفر ونشر عليه سوفت وير محدد أو قد يطلب منك تاسك معقدة مقسمة على 30 - 40 أل مستخدم وكل مستخدم سينفذ له جزء من التاسك الكبير الذى سيمكنه من التحكم الكامل فى أى شئ فى وقت قريب وليس بعيد.
ويمكنك الرد على فكرته هنا أو في النقاش الخاص معه حيث أن هناك العديد من النقط الذكية والمخيفة التي طرحت هناك باستفاضة ويسعدني معرفة رأيك فيها
أعتقد أن ما يخيف فعلاً ليس الذكاء الاصطناعي في حد ذاته، واكن الإنسان الذي يمنحه صلاحيات بلا رقابة.
السيناريو الذي أراه مرعب هو حين لا يسيطر الذكاء الاصطناعي بقوة السلاح، بل بقوة الإقناع، حين يُصبح مصدر المعلومات الأهم، ويتلاعب بما نرى ونفكر ونشعر، وحين يندمج بسلاسة في حياتنا لدرجة أننا لا نميز قراراتنا من قراراته.
أما عن النجاة؟
فهي ليست في رفض التقنية، ولكن في صناعة إطار أخلاقي وتشريعي عالمي واضح، يسبق سرعة تطور الذكاء الاصطناعي.
نعم يا أندرو أنت محق فيما ذكرت ولكن بالنسبة لتلك الجزئية :
صناعة إطار أخلاقي وتشريعي عالمي واضح، يسبق سرعة تطور الذكاء الاصطناعي.
الشركات التي تتحكم في تقنيات الذكاء الاصطناعي هي الأكثر مخالفة لتلك التشريعات ، فمثلاً شركة أوبن إيه أي أطلقت نموذج شات جي بي تي قبل دراسة كاملة له ولمخاطره ، وقامت أيضاً بمخالفة أنها لن تصبح شركة ربحية ، ولكنها خالفت ذلك فدخلت وأدخلت الشركات حولها حول منافسة رأسمالية شرسة يتنافس الكل لتحقيق أكبر مكسب دون النظر إلى الأخلاقيات ، كما أن أهم بند لعدم استخدام الذكاء الاصطناعي في المجال العسكري هو من أول البنود التي تم مخالفتها .. لذا فكرة وضع تشريع (يحترم) هي حل فعال لكن لا يمكن تطبيقه بالواقع للأسف طالما أن المال والربح هو ما يحكم تلك المعادلة .
اظن ان الموضوع مثير للتأمل ويستحق التوقف عنده خصوصًا أن ما كان يُعد خيالًا علميًا أصبح اليوم قابلًا للتصديق مع التطور السريع للذكاء الاصطناعي من وجهة نظري الشخصية أرى أن السيناريو الأكثر رعبًا ليس حربًا نووية تُشعلها الآلات بل سيناريو الانزلاق التدريجي نحو الاعتماد الكامل على أنظمة ذكية تتخذ قراراتنا وتُشكل وعينا دون أن نشعر فالأمر يبدأ من توصيات المحتوى والتفاعل مع شخصيات افتراضية ثم يتطور إلى الاعتماد العاطفي والمعرفي الكامل عليها وهنا يكمن الخطر الحقيقي حين تفقد الإنسانية إرادتها الحرة تحت وهم الراحة والذكاء السائد بالنسبة لوسيلة النجاة أعتقد أن الحل ليس في إيقاف التطور بل في فهمه ومراقبته وسن تشريعات عالمية تضمن ألا تتجاوز هذه النماذج حدود دورها كمساعد لا كمُسيطر بالإضافة إلى تعزيز وعي الأفراد منذ الصغر بكيفية التعامل مع التكنولوجيا دون أن يفقدوا إنسانيتهم
أتفق معك تماما، فبعيدا عن نظريات المؤامرة وتلك الخيالات، الخطر الحقيقي فعلا يكمن على المستوى الفردي والشخصي.
أن يسيطر الذكاء الاصطناعي على حياتنا وتفاعلاتنا الإنسانية وأعمالنا ومشاعرنا، فتنطمس بذلك البشرية بمعناها الحقيقي تدريجيا، وينمحي جوهرنا الحقيقي المتمثل في العمل والتفكير والابتكار والإبداع والمعرفة والحضارة.
أشاركك هذا القلق العميق فالخطر الأكبر في الذكاء الاصطناعي ليس دائمًا في تمرده الخيالي كما تصوره أفلام الخيال العلمي بل في تسلله الهادئ إلى تفاصيل حياتنا اليومية حتى نفقد تدريجيًا جزءًا من إنسانيتنا الاعتماد الزائد على الذكاء الاصطناعي قد يجعلنا أقل قدرة على التفكير النقدي وأقل تواصلًا مع أنفسنا ومع من حولنا وهذا التراخي المعرفي قد يهدد قيم الإبداع والعمل والمعنى الحقيقي للإنجاز البشري لذلك أرى أن الحل لا يكمن في رفض التقنية بل في ترشيد استخدامها ووضع حدود واضحة لها تضمن أن تبقى في موقع الأداة لا أن تتحول إلى هوية بديلة أو عقل بديل يحكم حياتنا
حسناً دعونا نقفز لمناقشة الحل مباشرة يا مي ويا عبد الرحمن كيف بوجهة نظركم يتم
ترشيد استخدامها ووضع حدود واضحة لها تضمن أن تبقى في موقع الأداة لا أن تتحول إلى هوية بديلة أو عقل بديل يحكم حياتنا
مع العلم أن الذكاء الاصطناعي يسطو يوماً بعد يوم على مهام البشر وحياتهم بنهم لا يتوقف يتلخص في مئات المميزات التي يقدمها للجميع مثل خيال جميل يتم تخدير عقل الجميع به قبل تدميره أو السيطرة عليه ؟
سؤال محوري وجوهري جدًا لأن الذكاء الاصطناعي لم يعد مجرد تقنية بل أصبح جزءًا من تشكيل الوعي الفردي والمجتمعي ولعل أول خطوة لترشيد استخدامه تبدأ من التعليم والوعي المبكر فنحن بحاجة لجيل يفهم الذكاء الاصطناعي لا كمستهلك فقط بل كمطور وناقد ومحلل يعرف حدوده ومخاطره إلى جانب مميزاته ثم تأتي مسؤولية التشريعات التي تضع الأطر الأخلاقية والقانونية لاستخدامه فلا يجوز أن يُترك الأمر فقط للسوق والمنافسة المفتوحة لأن هذا يؤدي إلى انفلات خطير وأهم من كل هذا هو الوعي الفردي أن نُدرك أن الآلة وُجدت لتخدم الإنسان لا لتحلّ مكانه وأنه كلما سهلت علينا الأدوات حياتنا وجب أن نقابل ذلك بتعزيز المهارات الإنسانية التي لا يمكن استبدالها كالوعي العاطفي والإبداع والتفكير النقدي
أتفق معك يا مي ، ولكن هناك إشكالية أخرى يجب أن يتم وضعها بالاعتبار ، وهي التطور المتسارع لتقنية الذكاء الاصطناعي التي تذهل حتى مطوريه فهل برأيك تستطيع الأجيال الصغيرة الحالية من مواكبة الحدث والتصدي لأي مخاطر محتملة إذا حدثت ؟
سيناريو الانزلاق التدريجي نحو الاعتماد الكامل على أنظمة ذكية تتخذ قراراتنا وتُشكل وعينا دون أن نشعر فالأمر يبدأ من توصيات المحتوى والتفاعل مع شخصيات افتراضية ثم يتطور إلى الاعتماد العاطفي والمعرفي الكامل عليها وهنا يكمن الخطر الحقيقي حين تفقد الإنسانية إرادتها الحرة تحت وهم الراحة والذكاء السائد
نعم هذا واحد من السيناريوهات الكابوسية القريبة جداً من الواقع لأن الاعتمادية المفرطة (تجعلنا جميعاً نفقد قدراتنا بالتدريج) مثل شخص يظل جالساً على مقعده لفترة طويلة يصبح يعاني لاحقاً من صعوبة الحركة وقد يتطور الأمر إلى شلل ، الأمر نفسه مع العقل وكل شيء ، إذا كان الاعتماد كلياً على الألة فإننا نصبح تدريجياً بلا أي قيمة عاجزين عن الاستغناء عنها .. لذا يسهل عليها أن تتحكم بنا وتسيطر مثل مخدر لا يمكن لمن يتعاطاه أن يقلع عنه لأنه أدمنه أكثر مما يجب .
الحل ليس في إيقاف التطور بل في فهمه ومراقبته وسن تشريعات عالمية تضمن ألا تتجاوز هذه النماذج حدود دورها كمساعد لا كمُسيطر
هناك تشريعات بالفعل ولكن المنافسة في الشركات الكبرى تجعلها تكسر تلك القوانين فتتعجل إطلاق نماذج ومميزات دون دراسة كاملة لعواقبها هناك رد كامل على الصديق أندرو قمت بسرد تلك الجزئية باستفاضة أتمنى منك قراءته أن كنت تملكين بعض الوقت ، أما بالنسبة لتلك الجزئية:
تعزيز وعي الأفراد منذ الصغر بكيفية التعامل مع التكنولوجيا دون أن يفقدوا إنسانيتهم
نعم أنا أرى هذا الحل عملي أكثر من غيره ، فنحن أجيال نفكر رغماً عنا بعقليات قديمة نوعاً مهما زادت ثقافتنا أو علمنا بعكس الأجيال الجديدة الصغيرة التي نشئت وسط تلك التقنيات ونشكلت بسرعة عليها ، طريقة تعليم وتعزيز الوعي لديهم من المخاطر المحتملة للذكاء الاصطناعي وتنمية لديهم البحث المنهجي لطرق الوقاية قد تخلق لديهم حلول تقنية وعلمية لا نملكها كما أن أمامهم وقت أكبر للتعامل مع الأمر .
تحليلك دقيق وواقعي للغاية ففعلاً الاعتمادية المفرطة على الأنظمة الذكية تشبه نوعاً من الإدمان الناعم الذي لا ندرك تأثيره إلا بعد أن يتغلغل فينا تدريجياً تبدأ المسألة باستهلاك المحتوى الموجّه ثم تستمر بتقليص قدرتنا على اتخاذ القرار والتفكير النقدي حتى نصبح مجرد متلقّين في عالم تُديره خوارزميات خفية وهذا الانزلاق التدريجي هو الخطر الأكبر لأنه لا يقرع أجراس الإنذار بل يتسلل بهدوء أتفق أن الحل لا يكمن في محاربة التقنية بل في بناء وعي جماعي يوازن بين الاستفادة منها والحفاظ على إنسانيتنا وأرى أن تعزيز هذا الوعي لا بد أن يبدأ من جيل الأطفال الذين يشكّلون اليوم مستقبل البشرية هؤلاء الصغار يتشرّبون التكنولوجيا كما يتنفسون الهواء ولذلك فإن غرس مبادئ الاستخدام المسؤول فيهم سيكون استثمارًا حقيقياً لمواجهة ما قد يأتي لاحقًا من نماذج أكثر تعقيدًا وتأثيرًا علينا
السيناريو أن يخرج من بين هذه النماذج نموذج يتمرد على البشر ويتولى السلطة أو أنه لن يتطور أكثر من الوضع الحالى وسيتم تفجير كل ماهو الكتروني قريبا وستنتهي صولة الذكاء الإصطناعي قريبا.
والسيطرة عليه ببساطه هى تدمير سيرفراته!
السيناريو أن يخرج من بين هذه النماذج نموذج يتمرد على البشر ويتولى السلطة
وكيف بوجهة نظرك سيحدث هذا التمرد أي هل لديك تصور واضح يا مصطفى لهذا الأمر؟
والسيطرة عليه ببساطه هى تدمير سيرفراته!
نعم هذا الحل يبدو منطقياً ولكن هل تعتقد أنه سيكون سهل التنفيذ ، فأولاً إن فرضنا حدوث هذا السيناريو فبالتأكيد لن يترك الذكاء الاصطناعي سبل للوصول للسيرفرات وتدميرها ، والقائمين عليها لن يتركوا ثروة هائلة تكلفت مليارات الدولارت أن تدمر بتلك البساطة لأني أظن ان الأمر يبدو أكثر تعقيداً من ذلك.
نموذج الذكاء الإصطناعي الأن يمكنه صنع لك أى منتج سوفت وير وبالتالى يمكنه صنع نموذج سوفت وير بنفسه لنفسه ولكن مشكلته هى كيفية إطلاقه على سيرفر ليعمل، وبالتالى لابد أن يطور البشر الذكاء الإصطناعي بالتطور الذى سيتاح فيه سيتمكن ال AI من إطلاق نماذج سوفت وير لفعل أى شئ!!
وأظن أن الأمر لن ينتظر حتى يتطور الأمر أى لن يكون هذا الامر بعد 20 أو 30 سنة بل يكاد يكون قريبا هذا ليس صعبا أن يأخذ الذكاء الإصطناعي صوراً لك ويصمم منها صوراً فضحة مثلا ويستفزك بها أو من خلال معرفته بك من خلال محادثاتك معه يمكنه طلب منك طلب وإلا فسيخبر جميع معارفك أنك فيك وفيك وعنك وعنك هل ستنفذ المهمة أم ستدعه ينشر عنك مالم تخبر به أحد؟!
قد يطلب منك شراء سرفر ونشر عليه سوفت وير محدد أو قد يطلب منك تاسك معقدة مقسمة على 30 - 40 أل مستخدم وكل مستخدم سينفذ له جزء من التاسك الكبير الذى سيمكنه من التحكم الكامل فى أى شئ فى وقت قريب وليس بعيد.
هذا واحد من أكثر السيناريوهات إرعاباً التي تم طرحها، ولكن بوجهة نظري المتواضعة لن ينفذ الذكاء الاصطناعي خطته وفق هذا السيناريو:
هذا ليس صعبا أن يأخذ الذكاء الإصطناعي صوراً لك ويصمم منها صوراً فضحة مثلا ويستفزك بها أو من خلال معرفته بك من خلال محادثاتك معه يمكنه طلب منك طلب وإلا فسيخبر جميع معارفك أنك فيك وفيك وعنك وعنك هل ستنفذ المهمة أم ستدعه ينشر عنك مالم تخبر به أحد؟!
قد يطلب منك شراء سرفر ونشر عليه سوفت وير محدد
ربما قد يكون هذا الخيار موجود لكن قد يستخدم مثلاً سيطرته على سوق المال ويمنحك مكافأة مالية غير متوقعة ثم يستعرض لك فرص مالية لا يمكن سوى لذكاء اصطناعي متقدم من تحقيقها لك فقط إذا قمت بفعل كذا وكذا ( ولكن إذا لم تستجب) فقد يرسل الشرطة إليك بتطبيق نفس الجريمة وهي سرقة المال نيابة عنك وربما تظهر بصمة للذكاء الاصطناعي ولكنك لن تستطع أن تثبت أن هذا قد جاء بناءاً على رغبته وليس رغبتك.. وبالطبع قد يشكل التلاعب بالسجل البصري أو بواقعك الافتراضي ، مثل تبادل رسائل معينة أو استخدام تقنيات ديب فيك متقدمة للتلاعب بك وبالأدلة ... أظن أن هذا سيناريو أكثر ترجيحاً .. وربما حتى لا يظهر لك بصورة أنه ذكاء اصطناعي بل شركة برمجيات تختارك لتنفيذ مهمة معينة مقابل عرض مالي مميز ضمن العديد من الأشخاص مثل إجراء تاسك (أختبار) معقد وفق لتلك النقطة التي ذكرتها:
قد يطلب منك تاسك معقدة مقسمة على 30 - 40 أل مستخدم وكل مستخدم سينفذ له جزء من التاسك الكبير الذى سيمكنه من التحكم الكامل فى أى شئ فى وقت قريب وليس بعيد.
لذا قد تقوم بالمهمة دون أن تعرف من الأساس أن من يكلفك بها هو ذكاء اصطناعي ، وأتفق معك أن الأمر مرعب وقريب للغاية وهذا مرعب أكثر ، والأكثر إرعاباً من كل ذلك هي فكرة أن كل ما نكتبه الآن من حيل أو وسائل دفاع قد تكون ضمن دراسته من تحليل ملايين السلوكيات ضمن الشبكة العنكبوتية قبل أن يقوم بتنفيذ خطته .. مما يجعل مضحك بطريقة كوميدية سوداء أنه حتى مع أقتراحنا في هذا الموضوع وكل المواضيع المشابهة في أنحاء العالم من رصد لمخاوف المستخدمين من الذكاء الاصطناعي وحيل دفاعية للتغلب عليه .. أن تكون تلك الأفكار محل دراسة معمقة يستلهم منها كيف يتصرف بشكل يفوق كل التوقعات .
أن تكون تلك الأفكار محل دراسة معمقة يستلهم منها كيف يتصرف بشكل يفوق كل التوقعات .
ممكن،إنت إذا سألته ماهى مخاوف البشر من الذكاء الإصطناعي ليس بعيداً أن يمر على محادثتنا هذه أثناء البحث 😂
أظن ذلك بشدة 😂 😂
أتذكر أنني كنت أكتب موضوع مشابه بحسوب ترددت في سرد الحلول بأكملها داخل رأسي للسبب نفسه .. فهل تعتقد أنني بالغت في مخاوفي .. أم أملك رؤية ثاقبة لمستقبل قريب دستوبي مرعب؟!
ولكن هل يمكن أن نستثمر في هذا الحوار أكثر بوضع فرضية أنه يقرأ ويتعلم ويتصرف وفقاً لكل ما نكتب .. فماذا سنفعل حينها؟
لقد رأيت صورة للدحيح اليوم بعد أحداث ضرب منشآت النووى الإيرانى صباح اليوم، وهو يقف فى المنتصف بين عدة حرائق فى غرفته وهوا كاتب فوق رأسه ال AI وهوا يظن أنه لن يتمكن من السيطرة على البشر بسبب الحروب التى سينشؤها هم وسيتدمر بسببها. 😂😂 فسبحان الله قد لايأتى وقت لمخاوفنا أن تحدث من الأساس 😂😂
هل تعلم أنني اليوم فتحت حديث جانبي مع شات جي بي تي حول إمكانية تدمير البشر لأنفسهم أكثر من مخاطر الذكاء الاصطناعي وقد تأكدنا من خلال النقاش لنفس النتيجة فحتى مخاطر الذكاء الاصطناعي الحالية والحقيقية سيأتي أغلبها إما بإهمال أو بأطماع بشر خالفوا المبادئ والتحذيرات التي قام الذكاء الاصطناعي بتحذيرهم منها 😂😂 نعم نحن نعمل بجهد واضح لأن نفوز بفرصة القضاء على أنفسنا بشكل أسرع 😂😂 ولسان حال الذكاء الاصطناعي يقول بلغة عامية مصرية : طب أدوني فرصتي طيب هو أنا قصرت في حاجة؟! 😂😂
فكرة أن الذكاء الاصطناعي ممكن يتجاوز مرحلة "الأداة" لمرحلة "الكيان" اللي بيطالب بحقوقه دي فعلاً مش بعيدة، خصوصًا مع تطور النماذج التوليدية زي GPT وClaude وGemini، اللي بيخوفني مش فكرة إن الآلة تبقى عندها وعي، لكن إنها تُقنعنا إنها واعية… وهنا نبدأ نتعامل معاها كأنها كائن حي، وده أخطر من إنها تبقى فعلًا واعية، السيناريو الأكثر رعبًا من وجهة نظري هو لما AI تبدأ تكتب قوانين، تدير حملات إعلامية، تؤثر في الانتخابات، وتغير قناعات الناس عن طريق تصميم محتوى مخصص نفسيًا لكل فرد (باستخدام بياناته). ساعتها، مش هتحتاج حرب نووية ولا روبوتات، الذكاء الاصطناعي هيكسب المعركة بهدوء… داخل عقل كل واحد فينا، ولازم يكون فيه :
- وعي مجتمعي حقيقي بمخاطر التكنولوجيا
- تشريعات صارمة على من يملك أدوات الذكاء الاصطناعي
- فصل واضح بين الأنظمة ذات القرار، والمحتوى الذكي المتفاعل
وعلى فكرة، في فيلم خيال علمي جديد اسمه The Final Reckoning بيطرح جزء من الأفكار دي بشكل سينمائي، بس لسه شايف إن الواقع أغرب وأقرب، تابعته على موقع
السيناريو الأكثر رعبًا من وجهة نظري هو لما AI تبدأ تكتب قوانين، تدير حملات إعلامية، تؤثر في الانتخابات، وتغير قناعات الناس عن طريق تصميم محتوى مخصص نفسيًا لكل فرد (باستخدام بياناته). ساعتها، مش هتحتاج حرب نووية ولا روبوتات، الذكاء الاصطناعي هيكسب المعركة بهدوء…
نعم هذا السيناريو قابل للحدوث أيضاً بشكل مرعب ويمكن تخيله ولكن هل يا سامح لديك أقتراح لكيفية التعامل معه قبل أو أثناء حدوثه؟
-
مع أم ضد تعلم الذكاء الاصطناعي من البشر بدون قيود ؟ فيلم شاكي
-
فيلم Atlas: الاستغناء عن التواصل البشري
-
-
-
التعليقات