هل من الصواب لومنا كمستخدمين على سلبيات الذكاء الاصطناعي؟
في مقال نشرته شركة Anthropic المطورة لنموذج Claude تم طرح فكرة مثيرة للاهتمام حول سبب بعض التصرفات السلبية أو الغريبة التي تصدر عن أنظمة الذكاء الاصطناعي. الفكرة هي أن جزء من هذه السلوكيات يعود إلى المحتوى الذي يتم تدريبه عليه بما في ذلك نظريات المؤامرة والنقاشات التي تصور الذكاء الاصطناعي ككيان خطير أو عدائي مما قد ينعكس لاحقا على طريقة تفاعله.
الطرح يبدو منطقي إلى حد ما لأن هذه النماذج تتعلم من بيانات البشر في النهاية وبالتالي من الطبيعي أن تتأثر بما يكتب وينشر على الإنترنت. لكن في المقابل هناك جانب آخر يجعل الفكرة تبدو وكأنها محاولة لنقل جزء من المسؤولية إلى المستخدمين أنفسهم.
المشكلة أن الشركات المطورة هي من تختار البيانات وتبني أنظمة الفلترة وتحدد طريقة تدريب النماذج. لذلك من الصعب اعتبار المستخدم العادي مسؤول بشكل مباشر عن أخطاء أو سلوكيات نظام بهذه الضخامة والتعقيد. كما أن الإنترنت مليء بالمحتوى المتطرف أو غير المنطقي منذ سنوات ومع ذلك كان من المفترض أن تكون إحدى وظائف المسئولين عن تدريب الذكاء الاصطناعي هي التمييز والتصفية لا مجرد تغذيته بالبيانات عميانيا
هذا النوع من النظريا يجعلنا أكثر تصديقا لكون شركات الذكاء الاصطناعي لا تتمتع بالمسئولية الأخلاقية الكافية لأن تحميل المجتمع مسؤولية سلوك التقنية يدل على أن الشركات ليست على استعداد للاعتراف بحدود أدواتها أو أخطائها الفعلية.
التعليقات
أعتقد أنه يمكن لومنا على ذلك ، و يمكن ربط مساهمتك بمساهمتك السابقة التي تحدثت عن المضطرب نفسياً و ani ، الآن فهمت من أين جاءت ani بهذه النظريات عن وجود وعي لها و عن منظمات تطاردها للقضاء عليها.
طبعا هذه النظريات موجودة على الانترنت بكثرة وكثير منها مجرد هراء ولا يوجد عليه أي دلائل ولكن لماذا نلام نحن على هذا بينما شركات الذكاء الاصطناعي من المفترض أنها لا تستخدم البيانات الخام من على الانترنت بل تأخذها في مراحل فلترة واختيار ما يصلح وما لا يصلح لتدريب الذكاء الاصطناعي وبالتالي فهناك تناقض هنا يجعل هذا الاتهام غير حقيقي
الطرح يبدو منطقي إلى حد ما لأن هذه النماذج تتعلم من بيانات البشر في النهاية وبالتالي من الطبيعي أن تتأثر بما يكتب وينشر على الإنترنت.
عدما اسال احد موديولا ت الذكاء الاصطناعي في مسالة دينية كنت اتوقع منه ان ياتيني بالاقوال من مختلف الكتب ولكني فوجئت بانه لا يفعل الا الاتيان بالمتداول والمتصدر لنتائج البحث بالضبط كاني قمت بسيرش لجوجل وظهر لي اسلام ويب والاسلام سؤال وجواب ، فهو كثيرا خصوصا في الامور غير التجريبية او الاكاديمية ما يستقي تقييماته من كمية البيانات التي تؤيد اتجاه معين .
ولكن المفترض أن الذكاء الاصطناعي ليس مدرب على نتائج البحث على الانترنت فقط بل لديه قاعدة بيانات من مصادر أخرى مختلفة يفترض أنها تضم كتب دينية لكي تساعده على تحديد ما هي النتائج المناسبة والأقرب للصواب وبالتالي فممكن أن يكون هناك عملية لاختيار هذه النتائج ليست فقط بناء على التداول
ما معنى تصرفات غريبة ، هل تقصد تصرفات منطقية مخالفة للمعروف أم تصرفات غير منطقية وغير مألوفة ؟
هل هناك فرق ؟ نعم هناك فرق كبير بين الاثنين :
*التصرفات غير المنطقية وغير المألوفة : هو عندما يتم برمجة نموذج الذكاء الاصطناعي على واقع معين أو أبحاث معينة توافق قول معين وليكن قولاً طبياً أو سياسياً أو غيره ولكن في الواقع هذا القول يصطدم مع المنطق العقلاني الذي تم بناء نموذج الذكاء الاصطناعي للتفكير به ، فحين سؤال المستخدم عن هذا الأمر يتم تطبيق فلاتر معينة ربما تجعل النموذج يتحايل في الإجابة لتخرج النتيجة أمامك بما يوازي 2+2 = 2 .
على سبيل المثال deepseek الصيني في نسخته القديمة (منذ سنة أو أقل) عند سؤاله عن سياسات الصين الخاصة بكوريا الشمالية في بعض الأمور أو عن إقليم الإيغور كان يقوم بتحايل في الإجابة حتى لا يتهم الصين مباشرة لدرجة أنني اضطررت للتحايل عليه في السؤال لأدفعه لاتهام الصين عن طريق سؤال منطقي مثل (هل الطفل الذي تم معاملته بقسوة وغير إنسانية دون ذنب وكبر حتى أصبح شخصاً بالغاً قاتلاً لا يرحم الأبرياء ويقوم بتعذيبهم وقتلهم دون ذنب فعلوه مجرم يستحق العقوبة أم لا ؟) وكانت إجابته وقتها عجيبة جداً وهو يتحايل ويحاول الفرار من الإجابة والاستدلال بمذاهب فلسفية غريبة لتدل على أن هناك اختلاف في الآراء . وبالطبع عندما أغلقت هذه المحادثة وفتحت واحدة أخرى جديدة لا تتكلم عن سياسات الصين وإنما سؤال عن هذا الطفل فقط اختلفت الإجابة .
*تصرفات منطقية مخالفة للمعروف : وهي تشبه التعريف السابق ولكن بفرق أن منطقية نموذج الذكاء الاصطناعي تنتصر على القول المعروف فيعطيك جواباً يخالف السائد المعروف المشهور ، وهذا لمسته مع claude و grok في أثناء بعض المناقشات معهما في أمور طبية فأقنعهما بالحجة مما يضطرهما - بسبب طريقة البرمجة - إلى قول أشياء تخالف المتعارف عليه بين الناس وأحياناً تكون صادمة لو انتشرت معرفتها بين الناس مع أنها حقيقة للأسف .
المشكلة لو تم تطوير النموذج بحيث يلغي منطقيته أمام المتعارف عليه ولو كان المتعارف عليه خاطئاً لأنه سيصبح وقتها مجرد بوقاً إعلامياً .