الأيام الماضية انتشر خبر "روبوت تسلا ينقضّ على أحد المهندسين العاملين" العديد من المقالات والصحف نشرت هذا الخبر وتناوله بطريقة هوليودية كالتي نراها بأفلام الخيال العلمي، والتي تصور لنا أن الروبوتات ستسيطر على العالم، فإحدى روبوتات شركة تسلا غرس مخالبه بظهر أحد المهندسين العاملين لم يكن ليمرّ مرورالكرام دون مناقشة وتحليل من طرف متابعي التقنية، فالسؤال الأكبر الذي يتم طرحه هو إن كانت هذه الحادثة قد وقعت بالفعل أم لا وإن كان خطأ برمجيا أم ماذا؟
في الحقيقة مثل هذه الأخبار أحيانا تأتي لغرض الدعاية والترويج وإثارة البلبلة، فالحادثة وقعت في سنة 2021 لكن تم الكشف عنها مؤخرا فقط من طرف صحيفة ديلي ميل البريطانية، ووفقا للتصريحات والتي أؤيدها كليا أن الروبوت لم يهاجم لأن بالأساس الروبوت ليس لديه وعي وليس لديه قدرة على اتخاذ القرار، وبالتالي لا يحمل ضغينة أو ضرر لأحد إن لم يتم برمجته على ذلك من قبلنا نحن البشر، فهذه الحادثة سببها وفقا للتصريحات عدم تعطيل اليد الآلية في مصنع تسلا سهوا من العامل، لذا حدث الحادث.
ولكن ذهابا للروبوتات المقاتلة والمبرمجة لهذا الهدف، فتكون مبرمجة، وتؤدي المهام وفقا لذلك، لا أحد يتحكم بها عن بعد، فهي تختار الهدف ومن ثم تطلق النار من نفسها، طبعا معتمدة على خوارزميات وبرامج لتحليل البيانات.
وهذا يجعل الروبوتات المقاتلة أكثر دقة من البشر بحد ذاتهم، لأنها لن تتردد في اتخاذ القرار، ولن تقع تحت تأثير العاطفة كرد فعل أثناء الحرب، كما ستقلل ضحايا الحروب بشكل كبير، لكن ألا يمكن أن تصيب الخطأ. بالنهاية ستفتقر هذه الروبوتات لاحترام حياة الإنسان، فإن بُرمجت لقتل الكل ستفعل دون تردد.
التعليقات
بالفعل، ففي الوقت الحالي، يتم التفكير في تطوير الروبوتات المقاتلة بشكل متزايد، مع مزيد من التركيز على استخدام التكنولوجيا لتحسين الفعالية والكفاءة في الميدان العسكري فهذه التطورات كما تعلم تثير العديد من القضايا الأخلاقية والقانونية التي يجب مراعاتها، فمن الناحية الأخلاقية مثلا، يتعين علينا التساؤل عن مدى قدرة هذه الروبوتات على اتخاذ قرارات متقدمة والتمييز بين الأهداف بطريقة تحترم حقوق الإنسان لكن العبرة كل العبرة فيمن يستعملها فلو وقعت في أيدي أولئك الشرذمة التي تقتل إخواننا في غزة وفلسطين فأين حقوق الإنسان منها وأين الإنسان أصلا، كما يجب وضع إطار قانوني لضمان استخدام مسؤول وأخلاقي لتلك التكنولوجيا، مع التأكيد على الشفافية والمساءلة.
يتعين علينا التساؤل عن مدى قدرة هذه الروبوتات على اتخاذ قرارات متقدمة والتمييز بين الأهداف بطريقة تحترم حقوق الإنسان لكن العبرة كل العبرة فيمن يستعملها فلو وقعت في أيدي أولئك الشرذمة التي تقتل إخواننا في غزة وفلسطين
بالفعل، لكن لو نظرنا من هذا المنطلق لما تطور شيء في هذا العالم، فالمشكل ليس فيمن يقتّل كما تعلم بل فيمن يدعم الذي يقتّل، فالروبوتات حاليا تقوم بأعمال عادية، وبأعمال متوسطة أيضا كالعمل ضن المصانع كمصانع السيارات وغيرها، احتمال استخدامها في الحروب أيضا موجود، شاهدت إحدى الفيديوهات لأحد الشركات المتطورة والمتخصصة في هذا المجال أين يتم إجراء تدريبات وغيرها من الأمور، إذا نعم يمكن أن يتم إستخدامها في الحروب ستقلل الكثير من العبء على الدول المشاركة فيها، مثلا تخيل أن الحرب تكون فقط بين الروبوتات دون خسائر بشرية! هذا فقط توقع لكن ماذا لو كانت الروبوتات ضد البشر تلك طامة.
مثلا تخيل أن الحرب تكون فقط بين الروبوتات دون خسائر بشرية!
المشكلة الأكبر هنا ستكون وقوع الكثير من الخسائر البشرية، لأن تكنولوجيا استخدام الروبوتات في الحروب ستكون مقتصرة على الدولة الغنية والمتقدمة فقط، دول العالم الثالث ستكون متفرج، كما الحال مع فكرة القنابل النووية التي هي حكرا على دول بعينها، فهذا لن يكون سوى مزيدا من التهديد والترويع من قبل دول على حساب دول أخرى، لن يكون هناك توازن في القوى ولا احتمالية لصمود دولة بدون هذه التكنولوجيا ضد دولة أخرى تمتلكها.
بالفعل يا رنا فالخسائر البشرية ستقل فقط عند المتحكم في هذه الروبوتات أما نحن ف سنصبح مجرد أرقام للتأكيد على دقة هذه الروبوتات في القتل بفعالية
أنا طرحت فكرة الحرب بالروبوتات فقط، وهي نظرية هي الأخرى، يعني من المنطقي أن المتحاربين لن يميلوا إلى هذا الخيار لأن المحارب بدوره سيميل إلى القضاء على منافسه وإلحاق أقصى الأضرار إليه، فحروب الروبوتات في الغالب إن كانت ستكون بين الآلة والبشر والمتضرر واضح. لكن أتساءل إن حدث ذلك كيف سيتفرج العالم بأسره على ضحايا الدولة الفقيرة التي ستتعرض لتلك الإبادة الآلية.
هنا يبرز لي مصطلح القوى الغير متناظرة، لكن صدقيني كل شيء ممكن، مثلما يحدث اليوم في غزة، صحيح أن الخسائر كبيرة والمجازر بحق إخواننا هناك، لكن المنتصر واضح والمنهزم واضح بالرغم من قدراته القوية وتكنولوجياته العصرية، إلا أنه خاسر ومنهزم.
الحروب الغير متناظرة تستدعي أساليب أخرى، مثلا هل يمكن أن يتم استخدام تلك التقنية على أرض دولة مثلا متخلفة ربما يجب أن تهيأ الظروف لها أولا ثم يمكن الحديث عن تفوق أو ثبات وعدم القدرة على المواصلة، في النهاية توازن القوى غير ممكن في العالم، حتى الثنائية القطبية لم تفلح.
مثلا تخيل أن الحرب تكون فقط بين الروبوتات دون خسائر بشرية! هذا فقط توقع لكن ماذا لو كانت الروبوتات ضد البشر تلك طامة.
ذكرتني بما حدث في التاريخ حينما احتلت فرنسا مصر فكان لدى فرنسا المدافع الضخمة والأسلحة النارية الحديثة مقارنة بما يمتلكه المصريون من أسلحة لا تقارن بالتقدم الذي تمتلكه فرنسا في هذا الوقت وتم احتلال مصر في وقت قصير والاستسلام التام بعد مجازر سريعة، لذا الطرح الذي تطرحه ربما يحدث لأنه بالفعل ستكون هنالك دول فقيرة لا تمتلك التكنلوجيا الكافية لمواجهة الروبوتات مما سيجعلنا نعيش تجارب مثل ما ذكرت في مصر وغيرها ما حدث في اليابان شيء مشابه أكثر مرة الأولى حينما واجه الساموراي بسيوفهم الأسلحة النارية والمرة الثانية حينما طورت أمريكا القنبلة النووية وأدى إلى كارثة، فالتقدم التكنولوجي والعلمي دائما سلاح ذو حدين وللأسف في الغالب البشر غير الأسوياء هم من يمتلكون التكنولوجيا القتالية بشكل أكبر على مدار التاريخ.
وفي النهاية التاريخ لن يرحم أولئك.
لكن صدقني أن التاريخ وبالرغم من أنه لا يرحم، إلا أن فرنسا اليوم قائمة على أرجلها متبجحة وتتباهى وتتفاخر بأنها ذات يوم فعلت الويلات والويلات، هؤلاء الغير أسوياء سيبقون على عهدهم وإن طال الزمن أو قصر، لذلك من المهم أن يتم من البداية المقاومة والدفاع المستميت كي لا تسقط الدولة، فكما نعلم سقوط تلك الدول لم يكون لأسباب ضعف أو إنكسار فأغلبها بسبب خيانات أتت من الداخل، وحتى تأخير النصر والتحرير كان بسبب المتخاذلين من الداخل فهذه القوى تتبخر حينما ترى الوحدة والاتحاد بين المسلمين كأنهم بنيان مرصوص، فإن كان مشتتا فكيف النصر؟ حتى لو سخّر لنا روبوتات من الجيل الأخير لما استطعنا التحرير وبيننا رجل خائن يدسّ السم في العسل.
أعتقد أن هذا الأمر كان دعائي فقط، اذا كان فعلا حدث لماذا لم يتحدث عنه أحد منذ 2021، فمزامنة مع إطلاق تسلا لروبوتها الجديد بنسبة كبيرة قامت بهذا الفعل لتجذب النظر أكثر، أما إذا قمت بالتحليل أكثر في القضية فسنعرف أن هذه الروبوتات مبرمجة و لا تفعل أي مرة من تلقاء نفسها، فهذا فأرى أن كل هذا مدبر.
الأمر ليس دعائي وهو حقيقي، المشكلة فقط أن الحادثة لم تظهر للعيان فقط في وقتها ولم تلق كل ذلك الاهتمام مثل الآن، لأن صحيفة مشهورة كديلي ميل البريطانية أعادت إحياء القصة وخلقت كل هذه الضجة الآن، بالتأكيد الروبوتات مبرمجة والخطأ أتى من خلال العامل نفسه، ونحن نناقش أية إحتمالات بناء على برمجتها الخاطئة أو المتعمدة من طرف طرف خطير لأغراض غير إنسانية وغير أخلاقية.
برأيي الروبوتات المقاتلة ستكون أداة أخرى تضاف إلى أدوات القتل المنتشرة ولن يكون سببًا في انخفاض الضحايا وربما تكون الغاية الرئيسية منها هي تتبع أو قنص أشخاص بعينهم، وإذا رجعنا بالزمن مائة عام إلى الوراء سنجد أن القتل والبطش يزداد مع تطور ودقة الأدوات الحربية المستخدمة فمع وجود أسلحة الدقة العالية التي من المفترض ان يكون هامش الخطأ لديها يقترب من الصفر ومع وجود الصواريخ الحرارية التي تتبع الهدف من خلال حرارته وكذلك الطائرات المسيرة وغيرها من الأدوات التي لا تحتاج إلى تدخل بشري ورغم ذلك نجد أن ضحايا هذه الأدوات الحربية الحديثة يفوق ضحايا الأدوات التقليدية لأن جميع التجارب التي تجري عليها قبل إطلاقها تكون في ظروف مثالية بينما ستكون هناك عوامل أخرى تغير من كفاءة ودقة هذه الأدوات كالتشويش الإلكتروني والظروف المناخية والبيئية المحيطة. وكذلك لا نستغرب أن يكون هناك اختراقات أمنية وهجمات فيروسية على تلك الروبوتات المقاتلة لأن الحرب أثبتت أنه لكل داءٍ دواء.
صحيح يوجد أمرين يشكلان بالنسبة لي حيرة في هذا العالم، تخيل أنه في العصور الوسطى كانت الوفيات بشكل كبير نتيجة الأمراض والأوبئة التي كانت في ذلك الوقت، لكن حتى الحروب لم تحصد ما حصدت تلك الأوبئة، اليوم نرى العكس، نرى أن الحروب بدقة الآلات التي تستخدم والتقنية التي تسخّر للقتل والبطش، نرى أعدادا هائلة من القتلى بشكل دقيق جدا. في السابق كان الموت على يد الأوبئة فتاكا واليوم الموت على يد هذه الأسلحة كذلك.
شاهدت بالفعل إعلان سابق لسيارة تسلا، وكان هدفه هو إظهار صلابة معدن السيارة ومقاومته للرصاص، والقائمين بالاختبار كانا اثنين من الروبوتات أحدهم سيطلق الذخيرة والآخر داخل السيارة، للوهلة الأولى قد يبهرك الإعلان والتطور التكنولوجي الذي لا نراه سوى في الأفلام، ولكن في الواقع هذا أمر يدعو للخوف الشديد، لأن تلك الروبوتات حتى لو كانت مبرمجة ولكنها لا مشاعر لها وتحت سلطة سيادات لا تهتم بالمشاعر أيضًا، وأعتقد أنها ستكون السلاح الأساسي في الحروب.
أعجبني رأيك، فكون الروبوتات دون مشاعر هو أمر له شقّان إيجابي وسلبي، الإيجابي أنها لن تتهور وتتصرف بناء على تلك المشاعر، مثلا قد لا تتبع البرمجة الصحيحة الأولية فتتصرف بناء على مشاعر عشوائية وقد تحدث مشاكل.
والسلبي، أنها في حالة ما تمت برمجتها مسبقا بشكل سيء، فهي لن تتردد في تنفيذ ما برمجت عليه ولو كان قتل 99.99% من سكان المعمورة.
في أحد المساهمات السابقة لي الخاصة بأحد الأفلام الوثائقية Unknown: Killer Robots كان يتحدث بالتحديد عن تلك النقطة
بالنهاية ستفتقر هذه الروبوتات لاحترام حياة الإنسان، فإن بُرمجت لقتل الكل ستفعل دون تردد.
وكان المطورين يحذروا منها ويحذروا من إدراج الذكاء الاصطناعي في القطاع العسكري وهو ما حدث رغم أنف الجميع ولهذا تدفع مليارات الدولارات لتضخ في ذلك القطاع ، قد تكون النماذج الحالية تفتقر للوعي الكلي ، ولكنها بشكل مؤكد ودون أدنى شك لدي مسئلة تطورها وتطور وعيها هي مسئلة وقت لا اكثر أو أقل وحين تتكامل التقنيات وتتواصل مع بعضها البعض ستفعل كل ما نخاف الآن أن تفعله ولن يمكن إيقافها إلا بفقدان التكنولجيا بأكملها لكونها ستحكم السيطرة على كل قطاعات الحياة ببطء وهدوء وأمام عين جميع البشر المستنكرين لما يحدث.
لكن مع ذلك تبقى هذه الأمور ضمن نظريات محدودة أي أنها لم تحصل بعد في العالم، ولا أعتقد أنها ستحصل في القريب العاجل، فحتى أن الحروب في العالم اليوم هي حروب محدودة ونادرة، ربما توجد 3 حروب كبيرة حاليا، بين روسيا وأوكرانيا، بين محور المقاومة في الشرق الأوسط والكيان المحتل الصهيوني، وربما يوجد حرب أخرى لا أتذكر أين بالتحديد، لكن الأسلحة اليوم مسخرة للدفاع أكثر من الهجوم، والحروب اليوم تتنوع حروب إعلامية وثقافية يعني أن الانتقال إلى مرحلة متقدمة من الحروب قد يكلف صاحبها عبئا كبيرا خاصة من ناحية الاقتصاد.
لأن الدول العظمى اليوم تحارب من أجل أكبر هم لها وهو المال، والقليلون فقط اليوم من يحارب من أجل قطعة الأرض والمقدسات مثلما نراه في القدس وفلسطين، أين الحرب هناك بين الشر والخير وبين الحق والباطل وبين الإسلام والكفر. فالحروب تتولد من القناعات ومن الأهداف.
أعتقد بعيد عن أن هناك الكثير من الحروب التي ربما نسيت ذكرها مثل الحرب الدخلية في السودان أو التوترات الحدودية بين أوغندا وأثيوبيا والمشاكل القبلية في ليبيا والتي جميعها لأهداف أستعمارية وطمعاً في ثروات البلاد الضعيفة ومخطط إعادة تقسيم الشرق الأوسط ، ولكن نعود مجدداً للموضوع الأصلي بدايتاً من تلك الجملة
تبقى هذه الأمور ضمن نظريات محدودة أي أنها لم تحصل بعد في العالم، ولا أعتقد أنها ستحصل في القريب العاجل
أحترم وجهة نظرك التي يشاركك بها الكثيرين ولا أحب أن أبدو بمظهر الشخص المصاب بالهلع الغير مبرر بخصوص ما يتعلق بمخاطر الذكاء الاصطناعي ، ولكن هناك تطور مذهل يحدث مجدداً في المعامل الداخلية لشركة جوجل ومن خلال بعض التسريبات ستدرك أن قدرة الذكاء الاصطناعي على الوعي وسرعة التعلم والاستعداد للكذب والتحايل أكبر بكثير مما تعتقد
لا أعرف لما هذا الميل لإظهار "نظريّة المؤامرة" في كل حادثة تخصل في هذا العالم. نعم من الممكن كثيرا أن يحدث الأمر نتيجة إهمال بشري أو خطأ متعمّد أو حتّى صدفة! نحن بمأمن من حوادث الروبوتات طالما أنّنا لا نغذيها بأي عاطفة. فالعاطفة هي التي يكون وقعها كارثيًّا! تخيل أن ترى روبوتًا يحقد عليك لأنّك نسيت خطأ أن تضع له بطاريّات جديدة مثلًا:) سيناريو مأساوي بالفعل. لندعو الله أن يبقى اختراع الروبوتات بدون إضافة لأي عاطفة.:)
صحيح، تلك الأخبار التي تناولت حادثة "هجوم" روبوت تسلا كانت محل جدل واسع، ويجب دائما التحقق من مصادر الأخبار لتجنب الإسهاب في الاستنتاجات. بالنسبة للروبوتات المقاتلة، فهي بالفعل تحمل تحديات وفوائد. يجب توجيه اهتمام كبير لقضايا الأخلاق والبرمجة لتجنب أي تداول غير مسؤول للتكنولوجيا، بالنسبه للروبوتات المقاتلة، يثير استخدامها العديد من التحديات الأخلاقية والقانونية لذلك يتعين تطوير إطار قانوني دولي لتحديد حدود استخدامها وتحديد المسؤولية عن أي أفعال غير مرغوبة.
هذا الحديث يذكرني بالأفلام الأجنبية التى تحدثت عن هذا الموضوع، وكما قال أحد الأشخاص طالما صور في الأفلام إذا يمكن عمله في الحقيقة، فهل ياترى سنشهد مثل الأفلام عصر تمرد الروبوتات وسعيها للسلطة؟
الخبر موثوق وصحيح، بالنسبة لعصر تمرد الروبوتات وسعيها للسلطة هذا خيال ترويجي بحت، ما أناقشه هو البرمجة الخاطئة أو المتعمدة كي يصبح الروبوت مؤذيا وخطيرا للغاية، في هذه الحالة فالروبوت يمكن أن يصبح عدوانيا لكن من سيتحمل المسؤولية، بالتأكيد المبرمج.