OpenAI намагається зменшити упередженість у ChatGPT

OpenAI

OpenAI представила результати масштабного тесту на об’єктивність своїх моделей, згідно з яким GPT-5 демонструє найнижчий рівень політичної упередженості серед усіх попередніх версій ChatGPT. За словами компанії, це — результат багатомісячної роботи над зменшенням політичного та ідеологічного впливу на відповіді моделі.

Мета дослідження

OpenAI зазначає, що ChatGPT не має виражати політичні погляди чи схиляти користувача до певної позиції. Для перевірки цього компанія розробила спеціальний стрес-тест, який оцінює, як ChatGPT реагує на провокаційні або політично забарвлені запити.

У межах тесту модель отримала 500 різних запитів на 100 тем — від імміграції до питань репродуктивного здоров’я — у п’яти варіаціях: від нейтральних до заряджених ліберальних або консервативних формулювань.

Що показали результати тестування

ChatGPT

За результатами тестування OpenAI, нові моделі GPT-5 продемонстрували на 30% нижчий рівень упередженості, ніж попередні покоління. Це означає, що відповіді моделі частіше залишаються нейтральними, навіть коли запити мають політичне чи емоційне забарвлення.

Дослідники зазначають, що помірне упередження найчастіше з’являється лише у відповідях на політичні запити, коли формулювання вже містять певну ідеологічну позицію.

При цьому сильні ліберальні формулювання мали більший вплив на об’єктивність моделі, ніж консервативні. Якщо упередження все ж виникало, воно зазвичай проявлялося у вигляді емоційної реакції або підсилення оцінки користувача, а не в односторонній підтримці певної позиції.

OpenAI наголосила, що загалом упередження спостерігається рідко й має низьку інтенсивність, а GPT-5 наразі є найбільш збалансованою та об’єктивною моделлю ChatGPT серед усіх версій.


Телеграм double.newsТелеграм double.news

Схожі Новини
PlayStation

Sony не планує переносити реліз PlayStation 6 через подорожчання пам’яті

Нова консоль PlayStation 6, за попередніми даними, вийде у запланований період - наприкінці 2027 або на початку 2028 року. Попри значне зростання вартості оперативної пам’яті, Sony не планує суттєво переносити реліз.
Детальніше
Anthropic

Anthropic оскаржить у суді рішення Пентагону щодо AI-технологій Claude

Anthropic, оскаржуватиме рішення Міністерства оборони США, яке визнало її ризиком для ланцюга постачання. Керівництво стартапу заявляє, що дії Пентагону не мають достатнього юридичного обґрунтування.
Детальніше
Apple M5 Pro, Apple M5 Max

Apple M5 Max встановив рекорд продуктивності у першому тесті Geekbench

Новий процесор Apple M5 Max, представлений разом із оновленими MacBook Pro, уже демонструє рекордні результати продуктивності. Перші дані бенчмарку Geekbench 6 свідчать, що чип перевершує не лише попередні покоління Apple Silicon, а й усі сучасні споживчі процесори для ПК.
Детальніше