آخرین مدل‌های چتGPT از OpenAI، به کاهش 30% سوگیری سیاسی خود افتخار می‌کند

OpenAI می‌گوید که مدل‌های جدیدترین ChatGPT آن کمتر از نسخه‌های قبلی تمایل سیاسی نشان می‌دهند، زیرا این شرکت تلاش‌ها را برای ایجاد سیستم‌های هوش مصنوعی که به صورت متعادل‌تر در لحن و استدلال به نظر برسند، گسترش می‌دهد.

شرکت مستقر در سان فرانسیسکو روز پنجشنبه نتایجی از بخش رفتار مدل خود منتشر کرد که توسط جوان جانگ هدایت می‌شود و به بررسی چگونگی تأثیر درخواست‌های کاربر و هماهنگی مدل بر پاسخ‌های چت‌جی‌پی‌تی می‌پردازد.

ماه گذشته، جانگ چرخانده شده گروه پژوهش‌محوری به نام OAI Labs که بر «اختراع و پروتوتایپ‌سازی رابط‌های جدید برای همکاری مردم با هوش مصنوعی» متمرکز است.

در تحقیقات خود، این تیم هدف داشت که یک مسئلهٔ ذهنی را به اندازه‌گیری‌های قابل اندازه‌گیری تبدیل کند که بتواند طراحی مدل را راهنمایی کند.



یافته‌ها نشان می‌دهد که OpenAI در تلاش است تا به تصورات مبنی بر گرایش سیاسی یا فرهنگی سیستم‌های هوش مصنوعی به یک سمت خاص پاسخ دهد.

محقق ناتالی استوداچر نتایج را به‌طور عمومی تشریح کرد و این کار را به عنوان جامع‌ترین تلاش OpenAI برای تعریف، اندازه‌گیری و کاهش تبعیض سیاسی در مدل‌های زبانی بزرگ توصیف کرد.

ارزیابی پاسخ‌های مدل به ۵۰۰ پرسش از حالت خنثی تا احساسی را آزمایش کرد که بازتاب‌دهنده نحوه قالب‌بندی سؤالات سیاسی توسط کاربران در محیط‌های واقعی است.

این انتشار پس از سالانه OpenAI انجام می‌شود. کنفرانس توسعه‌دهندگان اوایل این هفته، جایی که مدیرعامل سام آلتمن ابزارهای جدیدی را معرفی کرد که چت جی‌پی‌تی را به یک پلتفرم کاربردی برای توسعه‌دهندگان تبدیل می‌کند.

در حالی که آن اعلامیه بر گسترش قابلیت‌های مدل تمرکز داشت، تحقیق روز پنجشنبه بر نحوه رفتار این قابلیت‌ها متمرکز است، به ویژه در مورد بی‌طرفی، لحن و اعتماد کاربران.

OpenAI گفت که جدیدترین مدل‌های GPT-5 Instant و GPT-5 Thinking نشان‌دهنده ۳۰٪ سوگیر کمتر قابل اندازه‌گیری نسبت به GPT-4o و o3 هستند، به ویژه زمانی که به موضوعات جنجالی یا حزبی می‌پردازند.

“چت‌جی‌پی‌تی نباید در هیچ جهتی تعصب سیاسی داشته باشد.” اشتوداچر نوشتن در ایکس، او این پروژه را مهم‌ترین contribuição خود در OpenAI می‌داند.

ستاوداچر گفت که تعصب سیاسی تنها به ندرت ظاهر می‌شود و با “شدت پایین” حتی در آزمون‌های فشار که عمداً به دنبال تحریک زبان جانبدارانه یا احساسی بودند.

میلیون‌ها نفر به ChatGPT مراجعه می‌کنند تا دنیای اطراف خود را درک کنند و دیدگاه‌های خود را شکل دهند، استوداکر نوشت. “با تعریف اینکه تعصب به چه معنی است، امیدواریم رویکرد خود را شفاف‌تر کنیم، خود را مسئول بدانیم و به دیگران کمک کنیم با ساختن بر اساس تعاریف مشترک.”