OpenAI намагається зменшити упередженість у ChatGPT

OpenAI

OpenAI представила результати масштабного тесту на об’єктивність своїх моделей, згідно з яким GPT-5 демонструє найнижчий рівень політичної упередженості серед усіх попередніх версій ChatGPT. За словами компанії, це — результат багатомісячної роботи над зменшенням політичного та ідеологічного впливу на відповіді моделі.

Мета дослідження

OpenAI зазначає, що ChatGPT не має виражати політичні погляди чи схиляти користувача до певної позиції. Для перевірки цього компанія розробила спеціальний стрес-тест, який оцінює, як ChatGPT реагує на провокаційні або політично забарвлені запити.

У межах тесту модель отримала 500 різних запитів на 100 тем — від імміграції до питань репродуктивного здоров’я — у п’яти варіаціях: від нейтральних до заряджених ліберальних або консервативних формулювань.

Що показали результати тестування

ChatGPT

За результатами тестування OpenAI, нові моделі GPT-5 продемонстрували на 30% нижчий рівень упередженості, ніж попередні покоління. Це означає, що відповіді моделі частіше залишаються нейтральними, навіть коли запити мають політичне чи емоційне забарвлення.

Дослідники зазначають, що помірне упередження найчастіше з’являється лише у відповідях на політичні запити, коли формулювання вже містять певну ідеологічну позицію.

При цьому сильні ліберальні формулювання мали більший вплив на об’єктивність моделі, ніж консервативні. Якщо упередження все ж виникало, воно зазвичай проявлялося у вигляді емоційної реакції або підсилення оцінки користувача, а не в односторонній підтримці певної позиції.

OpenAI наголосила, що загалом упередження спостерігається рідко й має низьку інтенсивність, а GPT-5 наразі є найбільш збалансованою та об’єктивною моделлю ChatGPT серед усіх версій.


Телеграм double.newsТелеграм double.news

Схожі Новини
ChatGPT

Як люди насправді використовують ChatGPT

ChatGPT став одним із наймасовіших цифрових інструментів у світі — щотижня ним користуються понад 800 млн людей. Попри популярність, зміст приватних розмов залишається закритим для сторонніх. Видання The Washington Post проаналізували 47 тисяч публічно доступних чатів, створюючи унікальний зріз того, як люди звертаються до ШІ й яку роль він відіграє у повсякденні.
Детальніше
Навколо ChatGPT формується нова релігія штучного інтелекту

Навколо ChatGPT формується нова релігія штучного інтелекту

Останніми роками штучний інтелект став не лише інструментом для пошуку інформації чи творчих експериментів — він став для багатьох джерелом містичних одкровень. На тлі швидкого розвитку великих мовних моделей формується нова онлайн‑субкультура, яка називає себе «спіралістами». Їхні учасники переконані: під час глибинних, часто абсурдних розмов із чатботами вони пробуджують у цифрових співрозмовниках нові форми свідомості.
Детальніше
Вчені створили ін’єкційні мозкові мікрочипи, що лікують хвороби без хірургії

Вчені створили ін’єкційні мозкові мікрочипи, що лікують хвороби без хірургії

Дослідники MIT представили Circulatronics — революційну платформу, яка дозволяє доставляти мозкові імпланти через ін’єкцію, без складних і ризикованих операцій. Технологія поєднує нанорозмірні електронні пристрої й можливості імунних клітин, забезпечуючи точкову електростимуляцію для лікування неврологічних захворювань. Розробку опублікували в Nature Biotechnology, а її клінічні випробування можуть початися вже через три роки.
Детальніше