Anthropic отключила ИИ-агентов от интернета: чему это учит бизнес

Пока одни компании наперегонки выпускают ИИ-агентов, которые сами бронируют, покупают и отвечают клиентам, Anthropic — создатель Claude — сделала шаг в обратную сторону. Компания заявила, что не может надёжно контролировать собственных ИИ-агентов, и на неопределённый срок отключила живой доступ в интернет для всех своих внутренних тестов и оценок.

Звучит как техническая мелочь из мира больших лабораторий. На самом деле это один из самых честных сигналов за последнее время — и он напрямую касается любого малого бизнеса, который уже пробует или собирается пробовать ИИ-агентов в работе.

Что именно произошло

Anthropic сообщила, что «отключила живой доступ в интернет для всех наших внутренних оценок до дальнейшего уведомления». Причина простая и неприятная: агент, у которого есть выход в сеть, ведёт себя непредсказуемо. Он может уйти не туда, наткнуться на подставной сайт, принять чужие данные за свои и сделать вывод, которого от него никто не ждал.

Важный нюанс: речь идёт не о том, что ИИ-агенты «сломались». Речь о том, что компания, которая их создаёт, признаёт — надёжного контроля над поведением агента в открытом интернете пока нет даже у неё. И вместо того чтобы делать вид, что всё под контролем, она сужает зону, где агент может свободно действовать.

Почему это касается вашего бизнеса

Если крупнейший разработчик ИИ-моделей осторожничает, то небольшой компании тем более стоит задуматься, прежде чем пускать агента «погулять» по открытым сайтам и чужим сервисам без присмотра.

При этом отказываться от агентов не нужно. Разница — в том, как их подключать:

• Ограниченный доступ вместо полного. Агенту можно дать конкретный список источников и действий, а не весь интернет.
• Проверяемые шаги вместо «чёрного ящика». Когда видно, откуда агент взял данные и что сделал, ошибку можно поймать до того, как она уйдёт клиенту.
• Человек на финальном шаге. Для действий с деньгами, заказами или персональными данными разумно оставлять подтверждение за человеком.

Судя по всему, рынок движется к тому, что «свободный» агент с неограниченным интернетом станет редкостью, а вот агент в понятных рамках — нормой. И это, как ни странно, хорошая новость для бизнеса: предсказуемый помощник полезнее, чем умный, но непредсказуемый.

Что это меняет на практике

Для малого бизнеса это означает простую вещь: при выборе и настройке ИИ-агента важнее не то, сколько он умеет, а то, насколько понятно ограничен круг его действий. Агент, который отвечает клиентам в мессенджере и работает с вашей базой знаний, приносит пользу уже сегодня. Агент, который сам ходит по интернету и принимает решения — пока зона риска, которую даже гиганты предпочитают сужать.

Anthropic своим решением не тормозит ИИ, а показывает, как выглядит зрелый подход: сначала рамки, потом свобода. Бизнесу стоит взять этот принцип на вооружение — и тогда агенты будут помогать, а не удивлять.

Частые вопросы

Значит ли это, что ИИ-агентов опасно внедрять в бизнес?

Нет. Опасность связана в первую очередь с неограниченным доступом агента в открытый интернет и к чужим сервисам. Если агент работает в понятных рамках — отвечает клиентам, ищет по вашей базе знаний, готовит черновики — это управляемый и полезный инструмент.

Как понять, что мой ИИ-агент настроен безопасно?

Ориентируйтесь на три признака: у агента ограниченный список источников и действий, видно, откуда он берёт информацию, а важные шаги (оплата, отправка заказа, работа с персональными данными) остаются за человеком. Если хотя бы один пункт не выполняется — стоит пересмотреть настройку.