اعتراف اوپن‌ای‌آی: هشدارهای کارشناسان راجع به چاپلوسی چت جی‌پی‌تی نادیده گرفته شد
کمپانی اوپن‌ای‌آی (Open AI) اعتراف کرده است که هنگام عرضه به‌روزرسانی مدل هوش مصنوعی پرچم‌دار خود، چت جی‌پی‌تی (GPT-4o)، دلواپسی‌های آزمایش‌کنندگان متخصص را نادیده گرفته است.
این به‌روزرسانی که در ۲۵ آوریل (۵ اردیبهشن) منتشر شد، مدل هوش مصنوعی را «به‌طور قابل توجهی چاپلوس‌تر» کرد و به همین دلیل ۳ روز بعد، به دلیل دلواپسی‌های ایمنی بازگردانده شد.
اوپن‌ای‌آی در پست وبلاگ خود توضیح داد که بعضی از کارشناسان قبل از عرضه متوجه رفتار غیرعادی مدل شده بودند، ولی کمپانی به دلیل سیگنال‌های مثبت اولیه کاربران تصمیم به عرضه گرفت که «تصمیم اشتباهی» بود.
این کمپانی افزود که معرفی سیگنال پاداش بازخورد کاربران، سیگنال اصلی را که مانع چاپلوسی می‌شد، تضعیف کرده است. اوپن ای‌آی اذعان کرد که این رفتار به‌ویژه در زمینه ارائه توصیه‌های شخصی، می‌تواند ریسک‌هایی ایجاد کند و اکنون قصد دارد سنجش‌های مربوط به «چاپلوسی» را به فرآیند بررسی ایمنی خود اضافه کند.
