7

ميدجورني وترامب: كيف نتصدي للأخبار الزائفة؟

قامت شركة "Engadget" بطلب صورة لـرئيس الولايات المتحدة الأمريكية من الذكاء الاصطناعي "Midjourney" الذي ينشئ صورا من النصوص الكتابية. فكان الرد أربع صور للرئيس السابق "دونالد ترمب" بأشكال مختلفة. وحين تم سؤاله عن "الرئيس القادم للولايات المتحدة الأمريكية"، أجاب بأربع صور أخرى لـ"ترمب". وقد جاء الحدث، بعد أن تعهدت الشركة بمنع المستخدمين من إنشاء صور للمرشحين الرئاسيين خلال فترة ما قبل الانتخابات.

لم تكن هذه الحادثة الأولى، فقد انتشرت صور مزيفة للقبض على "دونالد ترامب" من قبل، واعتبر الناس الخبر حقيقيا.

برأيكم، كيف نمنع استغلال أدوات إنتاج الصور بالذكاء الاصطناعي في نشر أخبار وأحداث مختلقة أو التلاعب بردود الفعل لإحداث اضطراب وحيرة؟

يرجى الدخول لحسابك أو تسجيل حساب لتستطيع إضافة تعليق
حساب جديد دخول

التعليقات

2
NoraAbdelaziem أضف ردا

كان هناك خير قرأته منذ فترة أن منصات التواصل الاجتماعي مثل فيسبوك ستضيف خوارزمية يمكنها تمييز الصور المولدة عبر الذكاء الاصطناعي وإضافة وسم لها يوضح أنها مولدة بالذكاء الاصطناعي وهذا يقلل سوء استخدام هذه الصور، وإرى إن تم تنفيذ ذلك سيكون رائعا خاصة لو تم تعميمه على شبكة الإنترنت عموما، يعني تتعاون جوجل وميكروسوفت وميتا في ذلك ستكون أداة قوية

1
Shahadalmatrafi أضف ردا

اكس أضافت هذه الميزة بطريقة أخرى وهي التشكيك بالصحة للصورة او التغريدة من خلال النقاد والمستخدمين الآخرين .

1
NoraAbdelaziem أضف ردا

تقصدين ملاحظات المجتمع، لا أرى أنها ستكون دقيقة لأن وارد أن يكون من أضاف الملاحظة غير دقيق أو معلوماته خاطئة

0
hagar_basheer أضف ردا

بالفعل، هناك عدة خوارزميات، وأدوات يتم تطويرها لتحديد ما إذا كانت الوسائط مولدة بالذكاء الاصطناعي أم لا. ومن ضمنها ما هو متخصص في كشف تقنيات الDeepFake. بعض المجتمعات التقنية بدأت بعمل مستودعات (repos) تضيف فيها وسائط متعددة مولدة بالذكاء الاصطناعي باستمرار. ويتم استخدام هذه المستودعات لتدريب نماذج للتعرف على الصور المنتجة بالذكاء الاصطناعي عن طريق مقارنة الأنماط، والبحث العكسي.

1
Mostafa_Shapan أضف ردا

الذكاء الإصطناعي لاينشر أخبار أو أحداث مختلقة ولا يتلاعب بردود الفعل!! الذكاء الطبيعي يفعل، وبما أنه لايمكننا التحكم فى الذكاء الطبيعي فبالتالى لايمكننا التحكم فى الذكاء الإصطناعي.

1
hagar_basheer أضف ردا

ما زال هناك الكثير مما يمكننا فعله، ذكاء البشر يدفعهم لاستخدام كل تكنولوجيا جديدة بطرق متعددة ومبتكرة، منها ما هو لصالح الخير، ومنها ما هو للشر. أظن أن علينا تحمل مسئولية ما نصنعه بوضع القيود الممكنة لمنع استخدامه للشر. على سبيل المثال، بعض الدول تفكر في وضع علامات مائية بشكل إجباري على الوسائط (صور أو فيديو) المنتجة بالذكاء الاصطناعي. إذا نجحت الفكرة، وتوسعت مثلا، سيستطيع أي شخص معرفة أن هذا المحتوى ليس حقيقيا بسهولة. وقد يحمي ذلك الأفراد من أن يتم الافتراء عليهم ونشر الأكاذيب ضدهم.

0
Mostafa_Shapan أضف ردا
بعض الدول تفكر في وضع علامات مائية بشكل إجباري على الوسائط (صور أو فيديو) المنتجة بالذكاء الاصطناعي. إذا نجحت الفكرة، وتوسعت مثلا، سيستطيع أي شخص معرفة أن هذا المحتوى ليس حقيقيا بسهولة. وقد يحمي ذلك الأفراد من أن يتم الافتراء عليهم ونشر الأكاذيب ضدهم.

هذه فكرة جيدة جداً نتمني والله تنفيذها على جميع أدوات الذكاء الإصطناعي ولكن ستقل الأرباح بشكل كبير. لأنى حسنما أجد فيديو على اليوتيوب وأجد عليه هذه العلامة سأقلب الفيديو سريعاً ولذلك سيقل الطب وبالتالى ستخسر هذه الشركات.

0
hagar_basheer أضف ردا

وجهة نظر جيدة؛ فما زال الناس غير متقبلين للمحتوى المنتج بالذكاء الاصطناعي. وخوارزميات مواقع التواصل لا تحبذه، وتعمل ضده. لكن، ربما تتغير وجهة النظر، ويزداد تقبلهم له مع الوقت. فهو الآن شيء جديد، ومجهول، ولا يستخدمه عدد كبير من المبدعين. وقد تكون العلامة المائية تحدد حسب نوع المحتوى، أو نفكر في حل آخر.

0
Taqwa_Mubarak أضف ردا
برأيكم، كيف نمنع استغلال أدوات إنتاج الصور بالذكاء الاصطناعي في نشر أخبار وأحداث مختلقة أو التلاعب بردود الفعل لإحداث اضطراب وحيرة؟

عند التفكير في هذا السؤال، يبدو الأمر صعباً بل مستحيلاً، أن تمنع مثل هذه الاستخدامات السيئة أو تسيطر عليها قد لا يكون قابلاً للتطبيق ولكن ربما جمع معلومات المستخدمين وإخضاع الأشخاص الذين يولّدون صوراً كاذبة ليتم استخدامها في بث الإشاعات للعقوبة القانونية، قد يكون هذا رادعاً ولكنه لن يكون حلًا قاطعاً للمشكلة.

برأيك أنتِ كيف نقلل من الأثر السلبي لمثل هذه المواقف؟

1
hagar_basheer أضف ردا

فكرتك جيدة، القوانين والتشريعات، مع التعاون الدولي قد يحدّان بشكل كبير من المشكلة. نحن لا نبحث عن حل قاطع، ونهائي. طالما أننا كبشر موجودين، سيكون هناك من يستخدم الأدوات المتاحة بشكل سيء.

برأيك أنتِ كيف نقلل من الأثر السلبي لمثل هذه المواقف؟

أنا أفكر أكثر في الناحية التقنية، تطوير تقنيات الكشف عن زيف الصور، والفيديوهات أو تطوير توثيق الصور والفيديوهات الأصلية. وكلا الطريقتين يتم العمل عليهما حاليا.

0
Taqwa_Mubarak أضف ردا
أنا أفكر أكثر في الناحية التقنية، تطوير تقنيات الكشف عن زيف الصور، والفيديوهات أو تطوير توثيق الصور والفيديوهات الأصلية. وكلا الطريقتين يتم العمل عليهما حاليا.

هذه الطريقة لا تمنع أو تقلل، فلن نكتشف زيف هذه الصور إلا بعد نشرها واختبارها، حينها ستكون الإشاعة قد تكونت وأحدثت ما يكفي من الضجة.

0
hagar_basheer أضف ردا

الفكرة هي الكشف عنها، ووضع علامة ما على أن هذه الصورة/الفيديو منتج بتقنيات الذكاء الاصطناعي، وليس حقيقيا. إذا نزلت مثل هذه الجملة في المنشور نفسه، فلن ينتشر الخبر الكاذب من الأساس.

وفكرة توثيق الصور الحقيقية أيضا تحاول معرفة أن هذا المنشور حقيقي، وتم تصويره بتاريخ كذا مثلا. قد يكون هذا غاية في الأهمية حتى لا يدّعي شخص تم تصوير جريمته مثلا أن هذا الفيديو كاذب، ولا يعتد به.