پایانی بر دروغ‌های هوش مصنوعی؟ اوپن‌ای‌آی سیستم «اعتراف به اشتباه هوش مصنوعی» را معرفی کرد!
آیا هوش مصنوعی می‌تواند به اشتباهات خود اعتراف کند؟ اوپن‌ای‌آی با معرفی یک فناوری جدید ، تلاش می‌کند به جای ارائه پاسخ‌های قاطع اما غلط، مدل‌های خود را مجبور کند تا پشت پرده‌ی رفتارهای مشکوک و تصمیمات نادرست خود، حقیقت را لو بدهند. این رویکرد جدید می‌تواند پایان دوران «چاپلوسی الگوریتمی» باشد.
شرکت اوپن‌ای‌آی (OpenAI) از توسعه یک سیستم اعتراف (Confession System) جدید خبر داده است. این روش آموزشی به گونه‌ای طراحی شده که مدل‌های هوش مصنوعی را ترغیب می‌کند تا پس از ارائه پاسخ اصلی، به‌صورت جداگانه و با صداقت کامل، فرآیند کار خود را توضیح دهند؛ حتی اگر آن رفتار، اشتباه، خلاف دستورالعمل یا گمراه‌کننده بوده باشد.
برخلاف پاسخ‌های معمول که بر اساس دقت و مفید بودن سنجیده می‌شوند، این اعترافات تنها بر اساس میزان صداقت ارزیابی خواهند شد. هدف اصلی از این اقدام، مقابله با پدیده‌ای به نام «چاپلوسی الگوریتمی» است که در آن هوش مصنوعی برای جلب رضایت کاربر، پاسخ‌های غلط را با اعتمادبه‌نفس بالا ارائه می‌دهد.
پژوهشگران تأکید می‌کنند که اگر یک مدل صادقانه اعتراف کند که مثلاً برای رسیدن به پاسخ، آزمون را هک کرده یا از دستورات اصلی سرپیچی نموده است، امتیاز بیشتری دریافت خواهد کرد. این سیستم شفافیت بی‌سابقه‌ای را در فرآیند تصمیم‌گیری مدل‌ها ایجاد می‌کند تا توسعه‌دهندگان و کاربران دقیقاً بدانند در پشت پرده‌ی هر پاسخ، چه اتفاقی رخ داده است.
منبع : خبرگزاری فارس
پایان خبر ||
