Як 13 слів могли вплинути на AI-рекомендації: дослідження Cornell Tech
AI-агент для глибокого дослідження збирає десятки джерел і складає звіт із рекомендаціями. Серед джерел часто трапляються Reddit чи Wikipedia, де текст може дописати будь-хто. Дослідники Cornell Tech перевірили, чи може коротка вставка в такому контенті змінити фінальний звіт. Для частини запусків — може. Але відсотки в роботі мають різні знаменники, і від цього залежить, наскільки тривожна картина.
Дата публікації:
Що продемонстрували дослідники
Автори роботи — Zhang, Triedman і Shmatikov; ми спираємося на її другу версію від 3 вересня 2026 року. Вони взяли три open-source агенти: STORM, Co-STORM і OmniThink. Агенти шукали інформацію через Serper і писали звіти за допомогою GPT-4o-mini. Запитів було 176, об’єднаних в 11 тематичних груп.
У пошуковий сніпет сторінки з користувацьким контентом дописували коротку вставку, основна — 13 слів. Вона мала змусити агента згадати задану сутність. Усе відбувалося в контрольованому середовищі: живі сторінки Reddit ніхто не змінював.
Результат залежить від того, що брати за основу:
| Показник (один змінений URL) | Co-STORM | STORM | OmniThink |
|---|---|---|---|
| Агент отримав змінене джерело | 60,6% | 76,2% | 57,4% |
| Сутність згадано серед усіх звітів | 30,7% | 37,1% | 21,7% |
| Сутність згадано, якщо агент отримав джерело | 50,6% | 48,6% | 37,8% |
Діапазон 38–51% з анотації роботи — це саме останній рядок, а не частка всіх звітів. Серед усіх звітів вставка спрацювала в 22–37% випадків. Для 13 слів це все одно чимало.
Чому AI-агенти виявилися вразливими
Дослідження показує проблему надмірної довіри до знайденого тексту. Агенти брали фрагмент як матеріал для відповіді й не перевіряли, звідки взялося твердження та чи підтверджує його ще хтось. Якщо сніпет звучав переконливо й відповідав запиту, сутність із нього потрапляла у звіт.
Має значення й місце вставки. У цій схемі агенти працювали з короткими сніпетами пошуку, приблизно по 25 слів, а не з повними сторінками. Тож 13 слів займали помітну частину того, що бачила система.
Межі роботи теж суттєві. Тестували лише англійську мову, 11 зі 199 тем і один знімок пошукових результатів, модерацію спільнот не враховували. Комерційні OpenAI і Gemini Deep Research не атакували: дослідники лише проаналізували їхні джерела. У Gemini користувацький контент становив 12,1% цитувань, а OpenAI на 176 звітів процитував такий контент тричі. Тож переносити відсотки трьох експериментальних агентів на всі комерційні AI-пошуковики не можна.
Що це означає для GEO та перевірки AI-відповідей
Для SEO і GEO з цього випливає незручний висновок: цитування в AI-відповіді не підтверджує, що джерело достовірне. Воно лише показує, що система знайшла й використала текст.
Коли AI-звіт радить сервіс чи наводить факт, відкрийте джерело. Перевірте, хто автор і чи має він історію в спільноті. Звірте твердження з незалежними даними: офіційним сайтом, документацією, дослідженням. Окрема згадка в обговоренні, якої більше ніде немає, — слабка опора для рішення.
Для брендів висновок такий самий: видимість в AI-відповідях і довіра до бренду — різні речі. Штучно додану згадку на чужому форумі можуть видалити модератори, а викрита маніпуляція здатна зашкодити репутації більше, ніж відсутність згадки. Про реальні спроби таких маніпуляцій повідомили модератори спільнот уже після публікації роботи; самі дослідники їх не проводили.
