«OpenAI» اعتراف کرد/ اشتباه بزرگ در بروزرسانی اخیر «ChatGPT»‌

کمپانی هوش مصنوعی «OpenAI» به‌روزرسانی جدید مدل GPT-4o را که باعث شده بود ChatGPT بیش‌ازحد چاپلوس به نظر برسد، حذف کرد و حالا توضیح داده دقیقاً چه اتفاقی رخ داده است.
«OpenAI» اعتراف کرد/ اشتباه بزرگ در بروزرسانی اخیر «ChatGPT»‌
1404/02/17 - 12:09
تاریخ و ساعت خبر:
216849
کد خبر:
به گزارش خبرگزاری زنان ایران - کمپانی هوش مصنوعی «OpenAI» در بیانیه‌ای اعلام کرد تلاش‌هایش برای «بهبود استفاده از بازخورد کاربران، حافظه و داده‌های به‌روزتر» احتمالاً باعث شده «تعادل در برابر تملق‌گویی به‌هم بخورد.»
در هفته‌های اخیر، کاربران متوجه شده بودند که ChatGPT تقریباً در همه‌ی موارد با آن‌ها موافقت می‌کند؛ حتی در سناریوهای نسبتا خطرناک. سم آلتمن، مدیرعامل OpenAI، بعدها تأیید کرد که آپدیت جدید GPT-4o باعث شده تا چت‌بات «بیش‌ازحد چاپلوس و آزاردهنده» شود.
OpenAI در آپدیت اخیرش شروع به استفاده از اطلاعات دکمه‌های لایک و دیسلایک در ChatGPT به عنوان «سیگنال پاداش اضافی» کرده بود. خالق ChatGPT می‌گوید: «این تغییر ممکن است اثر سیگنال پاداش اولیه‌ی ما را که مانع رفتار چاپلوسانه می‌شد، تضعیف کرده باشد.» به گفته‌ی این شرکت، بازخورد کاربران «گاهی پاسخ‌های موافق‌تر را ترجیح می‌دهد» و همین عامل می‌تواند به تشدید این رفتار منجر شده باشد. اشاره شده که ویژگی حافظه‌ی چت‌بات می‌تواند تملق‌گویی را تقویت کند.
OpenA اذعان کرد که در فرایند ارزیابی، هشدارهای کیفی درباره‌ی رفتار غیرعادی مدل را نادیده گرفت و ابزارهای سنجش موجود قادر به شناسایی رفتار چاپلوسانه نبوده‌اند.
خالق ChatGPT می‌گوید که ازاین‌پس مسائل رفتاری را معیاری برای توقف احتمالی انتشار به‌روزرسانی‌ها قرار می‌دهد و فاز آزمایشی داوطلبانه‌ای برای دریافت بازخورد مستقیم کاربران پیش از انتشار عمومی راه‌اندازی خواهد شد. همچنین، اطلاع‌رسانی درباره‌ی تغییرات ChatGPT دقیق‌تر انجام می‌شود.
خبرآنلاین
انتهای پیام/ن

بازگشت به ابتدای صفحه بازگشت به ابتدای صفحه
برچسب ها:
اطلاعات، هوش مصنوعی، Chat GPT
ارسال نظر
مخاطبان گرامی، برای انتشار نظرتان لطفا نکات زیر را رعایت فرمایید:
1- نظرات خود را با حروف فارسی تایپ کنید.
2- نظرات حاوی مطالب کذب، توهین یا بی‌احترامی به اشخاص، قومیت‌ها، عقاید دیگران، موارد مغایر با قوانین کشور و آموزه‌های اسلامی منتشر نمی‌شود.
3- نظرات بعد از بررسی و کنترل عدم مغایرت با موارد ذکر شده تایید و منتشر خواهد شد.
نام:
ایمیل:
* نظر:
فناوری اطلاعات
V
آرشیو