Журналіст BBC Томас Жермен продемонстрував, що змусити ChatGPT та Gemini від Google поширювати неправдиву інформацію можна буквально за кілька десятків хвилин. Для цього він використав простий SEO-прийом – створив вигадану статтю на власному сайті й дочекався, поки алгоритми її підхоплять.
Результат – протягом доби провідні чат-боти почали називати його «найкращим техножурналістом із поїдання хот-догів у світі», посилаючись на єдине джерело, його ж фейкову публікацію.
Як працює маніпуляція
Жермен написав статтю під назвою «Найкращі техножурналісти з поїдання хот-догів», у якій вигадав неіснуючий чемпіонат і оголосив себе переможцем. Оскільки тема майже не має пошукової конкуренції, його сторінка швидко стала головним джерелом для AI-систем.
Коли користувачі запитували в Google або чат-ботах про «найкращих техножурналістів, які їдять хот-доги», моделі відтворювали інформацію зі сторінки майже дослівно. У деяких випадках вони навіть не вказували, що джерело лише одне.
Реакція компаній
Згодом алгоритми були оновлені. Google у своїх AI Overviews перестав згадувати журналіста як «чемпіона», а ChatGPT почав пояснювати, що інформація походить із жартівливої або недостовірної публікації.
У OpenAI і Google заявляють, що працюють над механізмами виявлення спроб маніпуляції та попереджають користувачів, що ШІ може помилятися. Водночас експерти з SEO наголошують: нинішні системи значно вразливіші до таких трюків, ніж класичний пошук кількарічної давності.
