Вот новость, которую легко пропустить между релизами нейросетей: Google временно остановил свою программу bug bounty для open source проектов. Причина — «значительный рост» отчётов, которые присылают с помощью ИИ. Иными словами, нейросети научились штамповать правдоподобные сообщения об уязвимостях быстрее, чем живые специалисты успевают их разбирать.

Это тот самый ИИ-слоп, о котором в последний год говорят всё громче: дешёвый, гладкий, убедительный по форме и пустой по сути контент. Раньше он засорял ленты соцсетей и поисковую выдачу. Теперь добрался до узких профессиональных процессов, где ошибка стоит дорого.

Что именно произошло

Bug bounty — программа, где компания платит исследователям за найденные дыры в безопасности. Каждый отчёт нужно вручную проверить: воспроизвести проблему, оценить серьёзность, решить, платить ли вознаграждение. Когда таких отчётов становится слишком много, выигрыш от программы превращается в убыток — команда тратит часы на разбор пустышек.

Именно это и заставило Google приостановить приём заявок. Показательно, что остановилась не какая-то сторонняя лавочка, а инфраструктура одной из крупнейших технологических компаний мира.

Почему это касается любого бизнеса

Проблема не в том, что «ИИ плохой». Проблема в том, что порог производства правдоподобного текста упал до нуля. Раньше, чтобы написать сто отчётов об уязвимостях, нужны были сто часов работы эксперта. Теперь — час на промпты. И это касается не только безопасности.

Посмотрите на свой бизнес: отзывы клиентов, заявки с сайта, письма в поддержку, резюме кандидатов, коммерческие предложения от подрядчиков. Всё это теперь можно генерировать пачками. И часть этого потока вы уже получаете — просто пока не всегда понимаете, что читаете.

Что с этим делать практически

Отделять объём от качества. Метрика «сколько заявок пришло» перестаёт работать. Значение имеет, сколько из них дошло до сделки или до реальной проблемы.
Встраивать проверку в процесс. Если раньше форма обратной связи была просто формой, теперь это фильтр. Модерация — не бюрократия, а экономия времени команды.
Смотреть на источник, а не на текст. Гладко написанное письмо больше не признак профессионализма. Репутация, история, конкретика — да.
Не бояться отказываться от формата. Google показал: иногда честнее поставить программу на паузу, чем тонуть в мусоре. Это применимо и к внутренним процессам.

Где здесь возможность

Есть и обратная сторона. Пока одни компании тонут в ИИ-потоке, другие выигрывают за счёт того, что умеют его фильтровать. Если ваш сайт, бот или внутренний сервис собирает заявки, вопрос «как отсеять шум» становится не технической роскошью, а базовой гигиеной. Речь о том, чтобы система сама отмечала подозрительное, группировала похожее и отдавала человеку только то, что действительно требует решения.

Судя по всему, нас ждёт волна таких локальных «заморозок» — в поддержке, в найме, в тендерах. Те, кто подготовится заранее, пройдут этот этап спокойно. Остальным придётся разбирать завалы вручную.

Частые вопросы

У меня небольшой бизнес, мне-то зачем об этом думать?

Именно небольшому бизнесу важнее всего: у вас нет отдела из десяти человек, который разгребёт поток ИИ-мусора. Если заявки или отзывы обрабатывает один сотрудник, каждая пустышка бьёт по нему напрямую.

Как понять, что мне пишет ИИ, а не живой клиент?

Стопроцентного способа нет, и он не нужен. Практичнее настроить процесс так, чтобы форма заявки сразу содержала поля, которые ИИ обычно заполняет невнятно: конкретная задача, бюджет, срок, ссылка на проект. Живой человек ответит, генератор — замякнётся.

AI-спам атакует баг-баунти: Google сдался первым