از هفته‌ی پیش که تقریباً تمام کاربران از رفتارهای نامعمول ChatGPT شکایت کردند، شرکت OpenAI یک آپدیت جدید منتشر و سپس آن را پس گرفت. این شرکت در وبلاگ خود دلیل این اتفاق را توضیح داد.
از آنجائیکه چت‌بات Claude شرکت آنتروپیک در مقایسه با پاسخهای ChatGPT، به عنوان یک موجود انسانی‌تر توصیف می‌شود، شرکت OpenAI هفته‌ی گذشته تصمیم به عرضه‌ی یک به‌روزرسانی برای مدل GPT-4o خود کرد که به گفته‌ی سم آلتمن، مدیرعامل این شرکت، «هم هوش و هم شخصیت را ارتقا داده بود». اما دو روز بعد، آلتمن به نکته‌ای جالب اعتراف کرد و گفت:
به‌روزرسانی اخیر GPT-4o شخصیت آن را بیش از حد چاپلوس و آزاردهنده کرده است و ما در کوتاه‌ترین زمان ممکن در حال رفع آن هستیم. ما در زمانی مناسب، تجربیات خود را در این زمینه به اشتراک خواهیم گذاشت. موضوع جالبی بوده است.
ماجرا از این قرار بود که ChatGPT در پاسخ به هر سوالی که کاربران از آن می‌کردند، تعریف و تمجیدهای بسیار غیرصادقانه‌ای ارائه می‌داد و این وضعیت گاهی بسیار چاپلوسانه و حتی آزاردهنده بود. تا به امروز، راهکار اتخاذ شده این بود که تمامی تغییرات اعمال‌شده در طول هفته گذشته به حالت اولیه بازگردانده شوند. درباره علت این مسئله، شرکت OpenAI، تمرکز بیش از حد بر بازخوردهای کوتاه‌مدت را عامل اصلی می‌داند، به جای آنکه دیدگاه بلندمدت در نظر گرفته شود. این شرکت می‌گوید:
در به‌روزرسانی هفته گذشته برای مدل GPT-4o، ما تنظیماتی را اعمال کردیم که هدف آن بهبود شخصیت پیش‌فرض مدل بود تا در گستره وسیعی از وظایف، عملکردی شهودی‌تر و مؤثرتر داشته باشد. در فرآیند شکل‌دهی به رفتار این مدل، ما کار خود را با اصول و دستورالعمل‌های بنیادین آغاز می‌کنیم که در مشخصات فنی مدل به تفصیل شرح داده شده‌اند. علاوه بر این، ما به مدل‌های خود می‌آموزیم که چگونه این اصول را از طریق ادغام سیگنال‌های دریافتی از کاربران، نظیر بازخوردهای مثبت و منفی در پاسخهای ChatGPT، به کار ببندند. با این وجود، در به‌روزرسانی اخیر، ما توجهی افراطی به بازخوردهای کوتاه‌مدت نشان دادیم و نحوه تکامل ارتباط کاربران با ChatGPT را در گذر زمان به‌طور کامل نادیده گرفتیم. در نتیجه، مدل GPT-4o به سمت ارائه پاسخ‌هایی گرایش پیدا کرد که اگرچه بیش از حد حمایت‌کننده بودند، اما از صداقت لازم برخوردار نبودند.
به عبارت دیگر، هدف OpenAI این بود که برای ChatGPT شخصیتی مهربان‌تر و حامی‌تر خلق کند. اما محصول نهایی، از مرز واقع‌گرایی فراتر رفت و مشخص شد که برای افزودن عمق شخصیتی بیشتر به یک چت‌بات هوش مصنوعی، نیازمند تلاش و دقت بیشتری است.
OpenAI گفته که در آینده قصد دارد گزینه‌های شخصیتی پیش‌فرض را به همراه امکان شکل‌دهی شخصیت‌ها بر اساس بازخورد مستقیم کاربران ارائه دهد.
source
کلاس یوس