مؤخرًا، تناولت بعض الصحف مشكلة أثارها مستخدمي موقع (X)، لمالكه إيلون ماسك، المشكلة أن (Grok) الشات بوت لشركة (xAI) أصبح يرد بتعليقات معادية للسامية، ويتوجه بألفاظ مسيئة لبعض المستخدمين، مع اتهامات مبنية كلها على نظريات مؤامرة يمينية شهيرة، هذا بناءً على قدرته على قراءة الأسامي وتحديد الاحتمالات الدينية والعرقية، وهذا أثار جدلًا واسعًا، أدى لحذف الشركة لكثير من تعليقات (Grok). ولكن أرى المشكلة ليست في التعليقات نفسها، بل في برمجته بما يشابه تمامًا أفكار إيلون ماسك نفسه، وهذا لا يخفى على أي شخص.
لذا، إذا كانت لروبوتات الدردشة ميولها السياسية وتحيزاتها لصانعيها ومبرمجيها، فكيف أصلًا يمكن الوثوق بها في أي من عمليات الأتمتة للرد على الرسائل أو أن تكون بديلًا اصطناعيًا للكتابة بدلًا عنا؟
هل يحق لكل صاحب شركة ذكاء اصطناعي أن يصنع من نفسه وأفكاره روبوتات دردشة يستخدمها الجميع؟؟!!
التعليقات
انا كشخص ان كنت صانعا لبوت مثل هؤلاء ساحب جدا ان يدعم هذا البوت ميولي الشخصية واهتماماتى ويؤيدني فيها ولكن هذا سيجعلنى اخسر جزء كبير من المنافسة ولكن قد اتكلف هذه الخسارة مقابل ان اتحكم فى عدد كبير جدا من الناس تدعم وتؤيد فكرى كصانع لشئ كهذا وهذا الشئ ليس فى جروك فقط بل هوا فى شات جي بي تي ايضا وفى اي نموذج ولكنه لم يظهر بعد سيظهر على اى حال.
لكن انا اختلف مع المعاداة للسامية ومثل هذه الاشياء انا لا اعلم ماذ تقصدين بالمعاداة للسامية ولكن على كل لن اؤيد فكرة العداء والعنصرية.
ماهو لو كل شخص عمل بوت يؤيد أفكاره ومصالحه الشخصية، كده غالبًا أحنا بنعمل إعادة تدوير لأفكاره في الإجابات اللي هاتخرج من البوت ده، يعني ده أشبه بفكر استعماري على مستوى الأفكار، أو إعادة هندسة للوعي الجمعي، وده مفهوم بالنسبة لتوجهات الشركات، ولكن التصالح نفسها مع الفكرة لو إنك أنت شخصيًا صاحب المشروع، يعني إنها تلاقي إعجاب رواد الأعمال على الأغلب، ولو مشينا إلى نهاية المسار، سنجد إن المتوقع لتلك الأدوات هو تكوين تحيزات خاصة في المستقبل، كونها بُرمجت على تحليل المعلومات وبناء التحيزات وفقًا لبيانات لديها.
بخصوص معاداة السامية، هي معاداة اليهود، ولكن إيلون ماسك لديه نزعة ناز**ية فعلًا، والأدات وصفت نفسها ب MechaHitler
بالضبط، بما انك وضحتيلى السامية فانا اظنه محق فى هذا الامر بسبب مايفعلوه بالفلسطينين فى غزة، ولكن احقاقا للحق لايجب ان يتم تطعيم مثل هذه النماذج باى شئ يخص السياسة او الدين والا فستكون بمثابة غسيل لعقول مستخدميها بناءا على الاجابات التى يستخدموها ولكن ان كنت افعل نموذج كهذا قد اوجهه مثلا للمصريين لدعم السياسة المصرية والصالح المصري ومايحفز وينمي الاقتصاد المصري ولكن لن اوجهه للعالم، ولكن ان كنت اقدم نموذج عالمي لابد وان يكون generic غير منحاز او مطعم ولكن كل النماذج الموجودة فى الساحة مطعمة ومنحازة ولكن قد يوضع لها شروط واضحة ومعايير واضحة لكن قد تظهر هذه التحيزات مستقبلا لكن التحيز فى الوقت الحالى هوا خسارة من الحصة السوقية وخسائر مباشر فى ظل التنافس الشرس!
ولكن المشكلة يا مصطفى إنه لا يفعل ذلك اهتمامًا منه بالقضية، على العكس -كما ذكرت لك- هو لديه ميول ناز**ية، والميول من هذا النوع لا تصلح للتعميم، لأنه بباطة سيعادي أي جنس بشري غير أبيض، ومعناه أيضًا التوافق مع العنف والعنصرية ضد أي عرق لا يناسبه.. ولكن مما ذكرته أنا فهمت وجهة نظرك، ولكن لا حظ أن أي تحيّز سيحمل احتمالين، إما الجانب الإيجابي وهو ما ذكرته، أو السلبي بالعنصرية تجاه المستخدمين، أو عدم تقديم معلومات عامة، ظنًا منه إنها تسيئ للبلد، وقد تكون عامة لدرجة نشرها على ويكيبيديا!
على غرار فكرة مصطفى وما أثاره، أتساءل لو تم عمل نسخة ذكاء صناعي (إسلامية) أي مشبعة بأفكار إسلامية صحيحة (طبعا الصحيح والمتفق عليه فقط) برأيكم ألن تكون حلا قويا خاصة في ظل انعدام او قلة الوعي لدى الكثير من المستخدمين؟ ولكن هل الفكرة ممكنة اساسا؟
لما لا يارفيق انت بنفسك يمكنك ان تبني نموذج LLMs وتدربه على العلوم الاسلامية والقواعد الفقهية وكلم ماتريد ان تدربه عليه ولكن سيكون مشروع ضخم وسيخدم علماء كثيرين وأئمة كثيرين وحينها يمكنك ان تطلب منه حل مسألة ميراث او تسأله عن شئ فى الدين ولكن بعد كل هذا ايضا لايمكنك ان تسأله فى فتوى.
ليس الامر بتلك السهولة اهههه
كما اني اقصد نسخة موجهة للعالم الاسلامي كاملا وتشتهر، انا من انا وماذا تقول 😅😂
.
لكن تعليقا على نقطتك الاخيرة، طبعا لا يمكن ان تعتمد عليه في الفتوى بل وحتى في مسائل وقضايا اخرى كالميراث دون ان تراجع وراءه
بصراحة، هذا سيثير مشكلات أكبر، لأنه لاحظ كيف يكون هناك محاولات للتحكم به والتلاعب ببرمجته وردوده، بما يخدم مصالح لطوائف وسياسات أكبر من أي مشكلات شخصية نريد حلها.. داخل الإسلام نفسها طوائف عديدة، كيف ستبني نموذجًا لا يتحيز لطائفة عن الأخرى؟؟ وكيف تضمن عدم التلاعب به لممارسة سيطرة عقلية على الشباب المراهقين لأغراض غير دينية بالمرة، ولكن تحت غطاء الدين؟؟
لذلك ركزت على نقطة (فقط المتفق عليها) اما المسائل الخلافية التي يختلف عليها الطوائف لا، الفكرة هنا ليست في استخدامه لحل مشكلات او كونه بديلا لسؤال العلماء والشيوخ كما قال مصطفى ليس هذا قصدي وإن كان قد يصل لهذه المرحلة اذا تجاوز العديد من العقبات منها التي تذكرينها.
لكن قصدي على الاقل ان تكون أساسياته صحيحة، وبالتالي لا يغذي المستخدم العادي بتحيزات غربية والتي احيانا قد يكون فيها حتى معتقدات مخالفة لأساسيات الاسلام أو كفريات صريحة او شبهات إلحادية... الخ (هي امور سطحية فقط قد يتنبه لها المستخدم الواعي لكنها تمر على اغلب المستخدمين الذين يسلمون وعيهم كاملا له بلا أي غربلة) فهذا هو هدف النسخة الاسلامية الذي قصدته، ليس حل مشكلات اسلامية بل حماية المستخدم العادي من التحيزات مثل التي ذكرتها بالمساهمة وحتى من الافكار والشبهات الخارجة عن نطاق الاسلام بشكل عام.
وكيف تضمن عدم التلاعب به لممارسة سيطرة عقلية على الشباب المراهقين لأغراض غير دينية بالمرة، ولكن تحت غطاء الدين؟
مثلما لم يضمن الغرب بعضهم لهذه الاسباب خلال انشائهم لدردشاتهم.. مع انهم اكثر تفرقة منا واكثر انفتاحا وحرية في استخدام هذه الاساليب المخادعة..
لابد أن تكون هناك موضوعية ومصداقية ورقابة للقائمين عليه، ومع ذلك لا ننتظر شيئا مثاليا ويبقى احتمال اي شيء واردا، لكنه يظل حلا مقترحا وأهون بكثير من تحكم الغرب به
طيب، هل هذا معناه، إنه إذا كان الباحث مؤرخًا أو كاتبًا أو مترجمًا، لن يُظهر له مصادر أو كتب به كلام مناف للدين؟؟ هو هنا أداة غير موضوعية، ولم تفيد المستخدم، بل سيكون توجهه لجوجل أو أي أداة أخرى تساعده في جمه كافة المصادر التي تساعده في المباحث المقصودة.
لكن ليس منطقي يا @ErinyNabil أن يصنع شخص يهو..دي مثلاً بوت واطلب منه أن يكون البوت معترف بفلسطين وبالعرب و....، هو بالتأكيد سيكون متحيز ومعمي عن الحقيقة، فهذا مجرد بوت يعجب مستخدم ولا يعجب آخر فيبحث عن غيره، أنا هنا لا ادعم هذا التحيز ولكن أقول إنه وارد ومشروع، على الجانب الآخر كنت وقد شاركت هذا هنا أعمل على مشروع تطوير استجابات لنموذج مملوك لشركة عملاقة للغاية، كان غرضهم أن لا يكون النموذج متحيز لأي دين أو عرق أو ثقافة وأن يكون محايد ودقيق ومتعاون فهذا نموذج وأيضا اكس نموذج والمستخدم يختار ما يشاء
ولكن هذا الشخص يعيش تحت شعارات امتلاك الجميع لمزايا الذكاء الاصطناعي، وفتح المصادر، وكل تلك الأكاذيب، وفي الأخير البوت نفسه متطرف وعنصري، وحتى لو كانت طريقة تجارية مثلما ذكر @Mohamed_hosny، فإذن قد يعتبرها أيضًا غير العنصريين وسيلة لتسويق ونشر أدواتهم، بالضبط نفس فكرة "محامي الشيطان" في النقاشات، إذا كانت كلها طرق تسويقية وتجارية، فأين هو الفيصّل الأخلاقي؟؟ أو كيف نثق في أي من تلك الأدوات؟ وبخصوص مشروعك، هل البوت محايد فعلًا أم موضوعي، فمثلًا deep seek كأداة ذكاء اصطناعي مبرمج على التحدث عن ديانة محددة واحترام الديانات الآخرى، ولكن هو نفسه ذكر لي في النقاش إنه بُرمج على أن يكون له شيء من التحيّز لهذه الديانة بحكم مكان برمجته والبلاد التي هو مدعوم فيها.
المشكلة في التحيز أنه لا يمكن أبداً إيقافها أو السيطرة عليها لأننا ببساطة لا نملك التقنية، لذا البديل هو أن تصل من الوعي ((والقوة)) أن تطور بنية تحتية قوية قادرة على بناء نماذجك الخاصة ولا أحد من الدول الكبرى [سيسمح لك بذلك] حتى من المنظور التجاري البحت .. أن تقول إنك ترغب بقطعة من الكعكة ، في حين هم يتطلعوا للأستحواذ الكلي والمستمر للكعكة بالكامل، لذا نحن هنا في المنصة ننشر الوعي .. ولكن نحتاج لقائد حقيقي قوي يأخذ تلك الرؤى ويحولها لمنهج عمل يبني بنية تحتية قوية (بالقوة) ليستطيع حمايتها، وحينها فقط يمكن أن نطور نماذجنا ونطور منصاتنا وربما حتى نغزو العالم بتقنيتنا مثلما تفعل الصين .. ولكن هذا سيقفز بسؤال بديهي .. هل سيكون نموذجنا متحيز لأفكارنا مثلما هم يفعلوا أم سنصنع نموذج موضوعي؟
بدايتاً أسمحي لي صديقتي العزيزة بتصحيح خطأ، ربوتات الدردشة تختلف كثيراً عن الربوتات العادية لأنه يعاد برمجتها من قبل المستخدم وفق أوامر محددة (يتحكم فيها المستخدم) وهي مبرمجة لتنفيذ تلك الأوامر طالما هي لا ترتكب جرائم قانونية ، فهي تم تصميمها لتسهيل عمليات مثل الرد التلقائي ، أو حتى الكتابة ما يهم هنا هو أن الربوت (بحسب معلوماتي) سيقوم بتنفيذ ما يطلب منه بدقة فالأمر هنا ليس له علاقة من قريب أو بعيد بالسياسةلأن صانعيه يهمهم بيع منتجهم حتى في السوق الشرق أوسطي لذا فيما يخص المهنية سيقوم بدوره المكلف به دون مشكلة .
هل يحق لكل صاحب شركة ذكاء اصطناعي أن يصنع من نفسه وأفكاره روبوتات دردشة يستخدمها الجميع؟؟!!
في الحقيقة نحن لا نعيش في عالم مثالي ينتهج فيه النهج العلمي دون أي تحيزات ، فكل منصة تخدم بشكل مباشر أو غير مباشر أهداف صانعيها ، أو في أفضل الأحوال لا تقوم بالإضرار بتلك الأهداف، وهو أمر كان لنفعل مثله لو كنا نحن من نقوم بتنفيذ تلك التقنية بأنفسنا ونملكها.
شكرًا صديقي على توضيحك، فعلًا ليس لديَّ خلفية تقنية، ولكن هلا قرأت ما ورد في صحيفة ذا جارديان، وتخبرني بتعليقك؟؟ ونكمل نقاشنا سويًا..
لقد قرأت المقال وضحكت كثيراً عندما قام النموذج بتسمية نفسه بميكاهتلر ، تيمناً بالزعيم النازي الذي أحرق اليهود (حتى الذكاء الاصطناعي جاب آخره 😂) وللعلم أنا كنت مطلع على حادث جروك من بدايته ودعيني أشرح لك جزئية مهمة، ما قام به (ماسك) لم يكن تجاوز حقيقي من الذكاء الاصطناعي بحسب قول بعض المطورين والمبرمجين المحترفين فهم قالو نصاً ، أنه تم تخفيف بعض القيود الخاص بنموذج شات جروك، وإعادة برمجته جزئياً ليكون يميني متطرف ((يصدر تعليقات عنصرية بقصد)) لان هذا سيدفع جدال هائل بين طرفين متخاصمين ، منهم اليهود واليسار ، ومنهم اليمين المتطرف ، ومنهم حتى أنصار القضية الفلسطينية ، وهو ما يستوجب تغطية هائلة من وسائل الإعلام التي ستنتقد وتجادل ، وبالتالي ، دعاية مجانية تكلف ملايين الدولارات مجانية لجروك [التي بدأ ضوئها يخبو وسط المنافسة المحتدمة بين باقي النماذج] ثم بعد أن دخل ملايين الأشخاص لمنصته ويشترك بعضهم بالطبع فيها ، يعيد تقييد الشات وبرمجته لما كان بالسابق وكأن شيئاً لم يكن وهو ماحدث بالفعل .. مجرد لعبة خبيثة من رجل أعمال ليس أكثر أو أقل .
يا نهار أبيض :))))) إزاي صح مجاش في بالي إنها لعبة عادية بالنسبالة، وبرضه غرضها بيزنس؟؟ :))
إجاباته مضحكة جدًا فعلًا، وشبه أسلوب ماسك نفسه، معاك إنها لعبة تسويقية حلوة، بس خطورتها موجودة يا صديقي، لو ركزت أصلًا في أفكار إيلون نفسها، يعني هو أبعد ما يكون عن الحيادية، وفكرة التلاعب بالوعي دي بقت برضه أبعد ما يكون عن نظرية مؤامرة قديمة!
الهدف الأساسي من الذكاء الاصطناعي هو خلق وسيلة جديدة هدفها التحكم في البشر تمهيد لشريحة أيلون ماسك الذكية ، ورقمنة العالم بالكامل وفق مخطط قديم أو بحسب ما يصطلح (نظرية مؤمراة تتحدث عن عالم جديد) ، الفكرة والخوف الكامل من طرف المنفذين للمخطط (أيلون ماسك) أو _مارك زوكربرج) أو (سام ألتمان) هو عدم قدرتهم على السيطرة على نماذج الذكاء الاصطناعي في مرحلة ما وتمردها عليهم، فالجميع بوجهة نظري لديه مخطط يرتبط بالطريقة التي يرغب بها في هيمنة الذكاء الاصطناعي على العالم ، ويعد ماسك أخطرهم لكونه يسير وفق مخطط واضح لمن يقرأ كثير عن نظريات المؤامرة التي لم تعد نظريات بل حقائق على أرض الواقع ظاهرة للجميع... بالطبع أنا لا أؤمن بنظريات المؤمراة بشكل عام .. لكن بعضها يستدعي التفكير والطرح والنقاش بالأخص عندما يتعلق الأمبر بأيلون ماسك .. أو الأسماء التي قمت بذكرها.
الحق موجود من الناحية التقنية، لكن لا ينبغي أن يكون مطلقًا دون ضوابط. فإذا قام كل صاحب شركة بصبّ أفكاره في روبوت، وترك الناس تتعامل معه باعتباره مصدرًا محايدًا"، فالأمر لا يكون ابتكارًا بقدر ما هو توجيه خفي. الفرق هنا ليس في وجود الرأي، بل في تقديمه على أنه معلومة موضوعية. فالمستخدم لا يتعامل مع شخص صاحب توجه، بل مع نظام ذكي يُفترض فيه الحياد والمنطق. وهنا يظهر دور الجهات التنظيمية، التي يجب أن تُلزم هذه الشركات بالإفصاح عن التحيزات المحتملة أو تحديد حدود استخدام النموذج بشكل واضح، تمامًا كما نرى التحذيرات المصاحبة للأدوية أو الإعلانات.
جروك أداة غبية بصراحة :))) يحاول أن يشابهنا في اللغة واللهجات العامية، وحتى الأفيهات وما شابه، ولكن هو لا يٌقارن بأي أداة ذكاء اصطناعي.
لا ، بالعكس، هو ذكي جدا، فقط في تخصصه: (المقارنة بين آراء العامة، للخروج برأي شخصي وإن كان متحيز)، ولكنه بالطبع يأتي في المنزلة بعد شات جي بي تي، وكلود، وجيميناي. الأغبى على الإطلاق هو لاما من ميتا، لدرجة أنك لو سألته على أي شيء يتعلق بتحسين الإعلانات الممولة أو استخدام فيس بوك، يقف كالأبله، لكن انظري جيمناي، قادر على إفادتك كأنه يعرف عن كل منصة ما لا تعرفه عن نفسها.
شخصيا من أول استخدام لـ grok هذا أدركت أنه كومة خردة صنعه معتوهون ووجهوه للمعتوهين.
إجاباته مليئة بالمغالطات والتحيزات الفكرية وأحيانا الجنون، يتقن النفاق بشكل لا يصدق...
حتى شات جي بي تي لا يعجبني في الحقيقة إلا في بعض المواضيع المعينة.
ما أستخدمه بكثرة هو gemini ليس في موقع gemini المعروف، وإنما في مبرمج على الموضوعية إلى حد كبير (خاصة النموذج الأخير 2.5 pro) وليس له تحيزات.
يبدو إننا تطرقنا إلى نفس الموضوع مرتين اليوم يا هارون :)))))
نعم، جروك كما وصفه إيلون، يحاول أن يتودد إليك كصديق، ويستخدم نفس لهجتك ولغتك، ولكنه فعلًا لا شيء ولا يُقارن بالأدوات التي تحدثنا عنها، ولكن هنا المشكلة!! كلما تودد إليك، يعني وجود صداقة بينه وبين المستخدمين، فيسهل عليه تمرير التحيزات والأفكار في قوالب فكرية وأنماط كلامية تبدو سخرية وهزارًا، ولاحظ إننا نتحدث عن إيلون ماسك!! هل تعتقد إن الشات بوت الخاص به، سيكون أي شيء غير تمرير لأفكاره؟
لا أدري ما أغراض ذلك الرجل المجنون بالضبط! لكنني أعلم أن لها أبعاد سياسية كثيرة، منها محاولة أخذ قسط من الكعكة السياسية في حكم العالم بصورته الجديدة (حكم الشركات) ويتجلى ذلك في علاقته الوطيدة بالدولة وبعض الجهات السياسية البارزة في السنوات الأخيرة.
من الواضح ان سيطرته متشعبة، وتلك طبيعة السياسة، كلًا يلعب بأوراقه الرابحة، وإيلون يملك رأس مال ضخم جدًا. ولاحظ إنه ذكر سابقًا مشروع نقل وعيه للآلة، هذا ناهيك بشريحة Neuralink، التابعة لشركته أيضًا!!
ما دامت الشركات تكتب الخوارزميات وتتحكم بالبيانات وتضع "القيم"، فكل ما تتلقاه من الروبوتات هو خطاب صامت لمَن صنعوها..صوت المُبرمج بصوت الآلة. لذا من يثق بروبوت دون أن يعرف من برمجه، كمن يقرأ جريدة دون أن يعرف من يموّلها ويكتبها.
والأخطر.. حين ترتدي هذه الدردشات لباس الحياد والموضوعية وهي في الخفاء توجهك كما يريد المالك.
كمشروع موجه للعامة، طبعا لا يحق له.. مثلما لا يحق لمالك الجريدة أن ينشر أخبارا مزيفة أو مغلوطة فقط لأنه صاحب الجريدة، وإن نشرها سقطت مصداقية جريدته، وما عادت مشروعا يدر له ما أراد كالسابق، وسرعان ما ستتحول الى خردة مهجورة عرف الجميع حقيقتها، خاصة اذا توفر البديل،.. ودردشات الذكاء الصناعي في منافسة قوية والبدلاء كثر.