في مقال نشرته مجلة MIT Technology Review تم استعراض عدد من الحالات التي أثارت قلق كبير حول خصوصية المستخدمين مع أنظمة الذكاء الاصطناعي. بعض الأشخاص ذكروا أنهم تلقوا اتصالات من غرباء أخبروهم بأنهم حصلوا على أرقام هواتفهم أو معلوماتهم من خلال محادثات مع أدوات ذكاء اصطناعي وهو أمر يثير الكثير من الأسئلة حول كيفية تعامل هذه الأنظمة مع البيانات التي تصل إليها.

كثير من المستخدمين أصبحوا يتعاملون مع الذكاء الاصطناعي وكأنه مساحة خاصة وآمنة فيشاركون معه معلومات قد لا يشاركونها حتى على مواقع التواصل الاجتماعي. وعندما تظهر قصص توحي بأن هذه البيانات قد تظهر لأشخاص آخرين فإن الثقة في هذه الأدوات تتعرض لضربة حقيقية.

الأمر الأكثر إزعاجا أن الخطأ قد لا يكون مقصود من المستخدم. أحيانا يتم إدخال معلومات شخصية أثناء العمل أو الدراسة أو طلب المساعدة التقنية دون التفكير في احتمالية ظهورها خارج نطاق المحادثة. ومع توسع استخدام الذكاء الاصطناعي في الحياة اليومية تصبح هذه المخاطر أكبر من مجرد حوادث فردية.

كما أن المشكلة ليست تقنية فقط بل تتعلق أيضا بطريقة تسويق هذه الأدوات. فالكثير من الشركات تقدم الذكاء الاصطناعي على أنه مساعد شخصي يمكن الوثوق به بينما الواقع يكون أكثر تعقيدا مما يتصوره المستخدم العادي. لذلك يصبح من الصعب مطالبة الناس بالحذر الدائم في الوقت الذي يتم فيه تشجيعهم على الاعتماد على هذه الأنظمة في كل شيء