Osegi
ИИ·2 мин чтения

Отчёты с ИИ: что будет, если поставить ИИ проверять ИИ

Тимлид продуктового маркетинга собрал систему агентов для проверки гипотез и увидел, что ошибки ИИ становятся тоньше. Шесть типичных ошибок показывают, как это выглядит.

A person at a desk reviewing a long AI-generated research report on a monitor, with some lines highlighted for checking.
Фото: Хабр

Красивый отчёт не значит верный, а верный не значит полезный. Автор, тимлид продуктового маркетинга, пытается построить систему исследований с ИИ, которой можно доверять.

Отправная точка известная: Deloitte сдала правительству Австралии отчёт с несуществующими источниками, согласилась вернуть последний платёж, а министерство заявило, что рекомендации не изменились. Похожие истории с ИИ случались у Deloitte в Канаде, у EY и KPMG: выдуманные источники, ошибки в ссылках, материалы, которые не подтверждают написанное.

Свою систему автор назвал «Полигон гипотез». Приносишь идею и контекст, агенты раскладывают её на проверяемые утверждения, ищут основания и противоречия, предлагают, что отбросить, а что доработать. При необходимости собирают дополнительные материалы и проводят синтетические эксперименты. Но ошибки стали тоньше: источник настоящий, цитата дословная, а вывод из неё бред.

Шесть ошибок, которые заметны, пока видишь исходник

Автор сгруппировал то, с чем сталкивался сам:

  • «Большинство клиентов недовольны интеграцией». На деле недовольны двое из десяти, остальные её не пробовали.
  • «Спрос на мобильное приложение подтверждён: его упомянули четверо». Четверо сказали «было бы неплохо», шестеро не вспомнили. В брифе команды уже стояло «нам нужно приложение».
  • «Рынок растёт на 25% в год, подтверждают три агентства». Все три пересказывают один пресс-релиз производителя.
  • Подробный разбор, почему клиенты не покупают, хотя вопрос был про то, почему не продлевают подписку.
  • «Конкурентов нет» после двух запросов на английском, при том что местная компания эту функцию продаёт.
  • «Крупный банк снизил отток на 15%», хотя в материалах подтверждений нет.

Как система ловит такие ошибки?

К обобщениям автор требует список: кто именно так сказал и где его слова. Скрипт пересчитывает участников, отдельный агент проверяет, можно ли объединить ответы в одну группу. Утверждения из брифа тоже попали в проверку, а к каждому основному выводу нужен сильнейший довод против. Появился реестр источников, по которому считаются подтверждения, и поиск на опровержение: попробуй найти компанию, которая это уже делает. Агенты записывают, где искали и что не проверяли.

Для фактов агент обязан подготовить источник. Скрипт ищет цитату в указанном тексте и пересчитывает расчёты по формуле, а отдельный агент смотрит, подтверждает ли фрагмент вывод. Есть и обратная сторона: когда автор ужесточил правила, система стала осторожнее, а пользы стало меньше. Строгость и польза могут тянуть в разные стороны.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:ai researchai hallucinationsdeloitteai agentsproduct marketingfact checking

Ещё за этот день

Показать все →

Ещё в рубрике: ИИ

Показать все →