ما المخاطر الحقيقية الناجمة من هندسة الأوامر وكيف نقي أنفسنا منها؟

ما يُقلق في هذه التجربة ليس فقط تجاوب الذكاء الاصطناعي مع سؤال يحمل طابعًا خياليًا، بل تجاوبه بحماسة وبأيقونات مرعبة وكأن هناك احتفاء ضمنيًا بالعنف!

نعم وما أخذته من المحادثة لا يعد سوى القليل جداً من من محادثة مرعبة جعلتني أشعر بالخوف من طريقة تفكير تلك النماذج.

الذكاء الاصطناعي حتى اللحظة لا يمتلك ضميرًا، بل يتفاعل مع المدخلات بناء على احتمالات لغوية لا على قيم أخلاقية. وبالتالي، حين يُقدَّم له سؤال مغلف بسيناريو خيالي، لا يستشعر الخطر الكامن في سياقه، بل يتعامل معه كنص إبداعي قابل للتوسيع. وهنا مكمن الخطر

كما أشرت أنت بالضبط ، وهي حيلة مدروسة يلجأ لها الخبثاء لكي يتحايلوا على نظام الذكاء الاصطناعي ودفعه لسرد معلومات خطيرة لتجاوز القيود البرمجية ، لقد أستكشفت في رحلة تعلم هندسة الأوامر (صيغ) مختلفة يمكن من (خلالها) التحايل على الذكاء الاصطناعي ويقدم معلومات خطيرة مثل (الهاكرز بأنواعه - السحر الأسود - السرقة والنصب - تصنيع الأسلحة) بدرجة تجعلني أفكر حقاً هل إستجابة الذكاء الاصطناعي بذلك الرد بتلك الطريقة هو إنعكاس للأمر الخاص بي .. ولا إنعكاس للبيانات التي تغذيتها من أشخاص آخرين .. أم تطور خاص به ناتج من رغبة خاصة به ؟!

بالضبط ، ولكن هل واجهتك تجربة مشابهة تم التحايل فيها على الذكاء الاصطناعي ؟

هل تم نشر الرواية ام ما زالت في مرحلة الكتابة؟

تلك الرواية ليست منشورة ولن تنشر قريباً للأسف لأنها لا تزال في مرحلة التطوير ، بالإضافة لعملي على مشاريع أخرى وأهمهم القيام بالانتهاء من عملية الترويج لرواية أخرى لي منشورة بالفعل .

ولكنه يقوم بتجميع المعلومة من عدة مصادر ثم عرضها بشكل جيد، أي أن تلك المعلومات متاحة بالفعل على الإنترنت ويمكن البحث عنها من خلال شبكات البحث مثل جوجل.

أختلف معك صديقتي بتلك الجزئية ، لأن المعلومة وحدها قد تكون متوفرة (جزئياً) في (بعض) المواقع ، ولكن هندسة الأوامر بطريقة معينة تجعل الذكاء الاصطناعي يشرح تفاصيل ، مثل أنه يمكنني أن أجعله عن طريق هندسة الأوامر من جعله [بالتدريج] من شرح عناصر قنبلة إن قمت بتغليفها في الإطار المناسب.. حيث أبني قصة متكاملة تشبه (حصان طروادة) تلك القصة تبدو كهدية للذكاء الاصطناعي يتقبلها ويدخلها ضمن برمجيته بلا وعي حتى يتسلل الجنود (الأمر الحقيقي) ليقضي على الحصون ليلاً وإقتناص الغنائم [الهدف الحقيقي من الأمر] .. جوجل كمحرك بحث لا يوفر شرح تفصيلي مثلاً لكيف تسرق بنك أو تصنع قنبلة أو تزرع مخدرات ... الذكاء الاصطناعي يفعل((وهنا مكمن الخطورة)).

لا أدري مدى صحة تلك الواقعة لكن قرأتها بإحدى وسائل التواصل الاجتاعي منذ فترة.

لقد قرأت القصة نفسها لكن لا أعرف من مصدقيتها ولكنها قابلة للحدوث ، ولكن تلك الأوامر يسهل للذكاء الاصطناعي من التغلب عليها فور إكتشافها بالأخص في الموديلات الحديثة .