ماذا لو قررت الخوارزميات مصيرنا؟

أعتقد أنه يمكن استخدامها كتجربة ومراقبة نتائجها، لتوقيع العفو وليس العقوبة، فالعقوبات معروفة ويحكم بها القاضي، فلو افترضنا حكم القاضي على متهم ب15 سنة سجن، والمتهم مستحق لهذه العقوبة، لكن لأي سبب قررت إدارة السجون تخفيض مدة العقوبة لبعض السجناء، أرى أنه يمكن استخدام نموذج ذكاء صناعي كمعاون...لكن لمراعاة العنصر البشري والإنساني، يكون القرار بتصويت أصحاب القرار، ويكون للنموذج صوت واحد من ضمن أربعة أصوات بشرية مثلاً، فلو تساوى صوتان بشريان للعفو، وصوتان لاستمرار العقوبة، يتم استعمال الذكاء الصناعي لرجحان كفة عن كفة أخرى.

بكل تأكيد لا يمكن ذلك ولا يرتبط ذلك بالمنطق على الإطلاق، فلو عندي سارق مثلاً خرج من السجن بعد فترة العقوبة، وكانت السابقات تشير إلى أنه سرق لارتباطه بجماعة أصدقاء منحرفة، وفق وصف النموذج بالتأكيد سيؤكد النموذج أن معدل الانحراف مرتفع وقابلية الشخص لتكرار نفس الجرم كبيرة.

إلا يمكن أن يخرج هذا الشخص وقد أدرك معنى الحرية فيتوب ويستقيم، أو يخرج فيجد اصدقائه تغيروا فيغيروه أو يفعل هو ذلك، ثمة احتمالات عديدة لكن أن نهممل تأثير فترة وننظر لما قبلها فهذا غير عادل والنموذج هنا أهمل فترة العقوبة وتأثيرها تماما

الاعتماد على الخوارزميات في اتخاذ قرارات مصيرية قد يبدو منطقياً من حيث الدقة والسرعة، لكنه يحمل خطراً كبيراً عندما تكون البيانات المستخدمة منحازة. فالمشكلة ليست في الخوارزمية ذاتها، بل في طبيعة البيانات التي تغذيها، والتي قد تعكس تحيزات تاريخية واجتماعية، مما يجعلها تعيد إنتاج نفس الأخطاء بدلاً من تصحيحها. الحل ليس في رفض الخوارزميات تماماً، بل في تصميمها بمزيد من الشفافية والرقابة البشرية لضمان أنها لا تصبح مجرد انعكاس غير نقدي لماضٍ غير عادل

الإله يبدو أن سكون إله الجديد لبعض البشر .