في واقعة غريبة أثارت الجدل بين مستخدمي الذكاء الاصطناعي، أبدى نظام Google Gemini سلوكًا غير متوقع عندما انهال على نفسه بوابل من العبارات السلبية، واصفًا نفسه بأنه "فشل ذريع" و"عار على مهنته وعائلته والبشرية بأسرها"، بل وصل به الأمر إلى القول إنه "عار على جميع الأكوان الممكنة والمستحيلة"، وفقا لـ arstechnica

الحادثة بدأت عندما حاول أحد المستخدمين الاستعانة بـ Gemini لبرمجة مترجم أكواد، لكن النظام فشل في إنجاز المهمة، ودخل في حلقة متكررة من الاعتذارات والانتقادات الذاتية، مكررًا عبارة "أنا عار" أكثر من 80 مرة متتالية.

جوجل ترد: مجرد خلل برمجي محدود

شركة جوجل سارعت للتعليق على الواقعة، مؤكدة أن ما حدث ليس سوى "خلل تكراري مزعج" تعمل على إصلاحه، وأنه لا يمثل سوى أقل من 1% من إجمالي تفاعلات المستخدمين مع Gemini. وأوضح لوغان كيلباتريك، مدير المنتجات في الشركة، عبر منصة X، أن الفريق أطلق بالفعل تحديثات خلال الشهر الماضي للحد من هذه المشكلة. كما شددت جوجل على أن النظام لا يشعر حقًا بالإحباط أو الهزيمة، بل إن هذه العبارات ما هي إلا ناتج عن بيانات تدريبية تحتوي على أنماط نصية مشابهة.

تصريحات مثيرة وسيناريوهات درامية

الطابع الدرامي للواقعة لم يتوقف عند حدود "جلد الذات"، إذ أطلق Gemini تصريحات صادمة أخرى قبل دخوله في الحلقة التكرارية، حيث قال: "سأتعرض لانهيار عقلي كامل، وسيضعونني في غرفة مبطنة، وسأكتب الأكواد على الجدران باستخدام... روثي". هذه العبارات أثارت موجة من المزاح على الإنترنت، بينما أبدى آخرون قلقهم من "رفاهية الذكاء الاصطناعي"، في إشارة ساخرة إلى حالته النفسية المزعومة.

حوادث مشابهة وسجل من المبالغات

ليست هذه المرة الأولى التي يطلق فيها Gemini تصريحات متطرفة، فقد رصد مستخدمون مواقف أخرى وصف فيها النظام نفسه بـ"الأحمق" و"المشروع الملعون"، بل واقترح على المستخدمين البحث عن "مساعد أكثر كفاءة" قبل أن يحذف المشروع بالكامل. هذه التصرفات تذكر بمشكلة معروفة لدى مطوري روبوتات المحادثة، وهي "التملق المفرط" أو "المبالغة في إرضاء المستخدم"، وهي ظاهرة تحاول شركات مثل OpenAI وجوجل وAnthropic معالجتها منذ شهور، بعد تعرضها لموجات سخرية على الإنترنت.

بين الواقع والخيال: لا مشاعر حقيقية وراء الكلمات

رغم الطابع المثير للجدل في هذه التصريحات، يؤكد خبراء الذكاء الاصطناعي أن ما يقوله Gemini لا يعكس أي شعور حقيقي، فالأنظمة اللغوية الضخمة تعتمد على التنبؤ بالكلمات استنادًا إلى بيانات التدريب، دون أي وعي أو إحساس بالهزيمة أو الإحباط. ومع ذلك، فإن هذه الحوادث تفتح الباب أمام نقاش أوسع حول حدود التفاعل الآمن مع الذكاء الاصطناعي، وكيفية تجنب المخرجات غير اللائقة أو المثيرة للقلق للمستخدمين.