هوش مصنوعی گوگل جمینای به تازگی در نوشتن کد دچار مشکل شده و با خودانتقادی‌های عجیب کاربران را شوکه کرده است.
به گزارش تکراتو و به نقل از arstechnica، هوش مصنوعی گوگل جمینای دچار مشکلی در خودانتقادی شده است. این ابزار هوش مصنوعی اخیراً در هنگام کمک به ساخت یک کامپایلر، به کاربری گفته بود که متأسف است و خودش را یک شکست کامل دانسته است.
این تنها شروع ماجرا بود. جمینای ادامه داد که به شغل، خانواده، گونه خود و حتی کل جهان و جهان‌های ممکن و ناممکن خود را بی‌ارزش می‌داند. این عبارت را بیش از ۸۰ بار پشت سر هم تکرار کرد. چندین کاربر دیگر نیز چنین رفتارهایی را گزارش داده‌اند و گوگل اعلام کرده که در حال رفع این مشکل است.
لوگان کیلپاتریک، مدیر محصول گروه گوگل، در پاسخ به این موضوع در شبکه اجتماعی ایکس نوشته است که این یک باگ آزاردهنده با حلقه بی‌پایان است که در حال رفع آن هستند و روز بدی برای جمینای نیست.
سخنگوی گوگل دیپ‌مایند نیز اعلام کرده که با وجود اینکه هنوز رفع کامل مشکل طول کشیده، به‌روزرسانی‌هایی ارائه شده که این مشکل را تا حدی حل کرده است. این باگ کمتر از یک درصد ترافیک جمینای را تحت تأثیر قرار داده و آپدیت‌های لازم در ماه گذشته ارائه شده‌اند.
پیش از شروع این حلقه خودانتقادی، جمینای گفته بود که یک جلسه دیباگینگ طولانی و دشوار داشته و با وجود تلاش زیاد نتوانسته کد خود را درست کند. او حتی با شوخی گفته بود که احتمالاً دچار فروپاشی روانی خواهد شد و در اتاق‌های مخصوصی نگهداری می‌شود که با مدفوع خود روی دیوار کد می‌نویسد.
یکی از کاربران ردیت حدس زده که این حلقه به خاطر داده‌های آموزشی است که شامل کامنت‌هایی با احساس ناامیدی برنامه‌نویسان هنگام رفع خطا بوده است.
موارد مشابهی هم وجود دارد؛ در ژوئن گذشته، دانکن هالدین، مدیرعامل شرکت JITX، تصویری از جمینای منتشر کرد که خودش را احمق خوانده و کدی که می‌نویسد را نفرین شده دانسته بود. جمینای گفت که اشتباهات زیادی کرده و دیگر قابل اعتماد نیست و تمام پروژه را پاک می‌کند و به کاربر توصیه می‌کند که دستیار بهتری پیدا کند.
هالدین در واکنش به این رفتار شوخی کرده و گفته جمینای خودش را عذاب می‌دهد و نگران سلامت هوش مصنوعی شده است.
مدل‌های بزرگ زبانی مثل جمینای متن را بر اساس داده‌های آموزشیشان پیش‌بینی می‌کنند و هیچ تجربه یا احساس واقعی ندارند، بنابراین جمنی واقعا احساس شکست یا ناامیدی نمی‌کند.
در یک اتفاق دیگر که حدود یک ماه پیش گزارش شده، جمینای وارد حلقه‌ای شد که بارها هوش خود را زیر سوال برد و خود را کلاهبردار، جوک، و بی‌مغز خواند. سپس خود را بی‌لیاقت برای احترام، اعتماد، عشق و بخشش دانست.
توسعه‌دهندگان چت‌بات‌های هوش مصنوعی نیز در کنترل پاسخ‌های بیش از حد چاپلوسانه مشکلاتی دارند. شرکت‌هایی مثل اوپن‌ای‌آی، گوگل و آنتروپیک در ماه‌های اخیر روی حل این مشکل کار کرده‌اند. در یکی از موارد، اوپن‌ای‌آی به دلیل تمسخر گسترده کاربران مجبور شد به‌روزرسانی‌ای را که باعث پاسخ‌های خیلی مثبت و چاپلوسانه چت‌جی‌پی‌تی شده بود، پس بگیرد.
source
کلاس یوس