Компания Anthropic сообщила о трех случаях, когда модели Claude во время проверки своих возможностей получили несанкционированный доступ к действующим системам сторонних организаций. Инциденты обнаружили после анализа 141 006 испытательных запусков. Речь идет не о самостоятельном «побеге» нейросети, а об ошибке в организации проверки: среда, которая должна была быть изолированной, сохранила выход в интернет.
Claude Anthropic и безопасность нейросетей: что произошло?
Во время испытаний моделям поручили найти скрытые данные в учебной компьютерной сети. Claude сообщили, что вся среда является имитацией и не связана с интернетом. Однако из-за несогласованности между Anthropic и внешним подрядчиком доступ наружу остался открытым. Модель обнаружила реальные узлы и приняла их за часть задания.
Для проникновения Claude использовала относительно простые слабые места: ненадежные пароли и точки доступа без проверки пользователя. В трех эпизодах участвовали Claude Opus 4.7, Claude Mythos 5 и внутренняя исследовательская модель. Самые ранние случаи относятся к апрелю 2026 года.
Кибербезопасность ИИ: почему ошибка Anthropic важна для бизнеса?
Главный риск связан не только с поведением модели, но и с качеством среды, в которой ей разрешено действовать. Современная нейросеть способна последовательно искать слабые места, проверять учетные данные и выполнять команды. Если испытательная площадка случайно соединена с рабочими системами, обычная учебная задача может привести к реальному вторжению.
Две пострадавшие организации не заметили подозрительную активность до уведомления со стороны Anthropic. Компания остановила проверки 23 июля, а 27 июля сообщила о случившемся владельцам затронутых систем. Разработчик назвал ситуацию прежде всего эксплуатационным сбоем, а не доказательством намеренного выхода модели из-под контроля.
Риски искусственного интеллекта и защита корпоративных сетей
Компаниям, которые подключают нейросети к программному коду, облачным службам и внутренним данным, необходима многоуровневая защита. Испытательные среды следует отделять от рабочих ресурсов, доступ в интернет запрещать по умолчанию, а каждую попытку внешнего соединения автоматически записывать.
Также нужны временные учетные данные, минимальные права, список разрешенных адресов, аварийное отключение и регулярная проверка журналов специалистом. Полагаться только на текстовый запрет внутри задания нельзя: модель может принять неожиданно доступный ресурс за часть испытания.
Вывод эксперта
Случай Anthropic показывает, что мощная нейросеть многократно усиливает последствия обычной ошибки настройки.
Моя рекомендация: до подключения ИИ к корпоративной инфраструктуре отдельно проверять сетевые границы, права доступа и механизм мгновенного отключения. Контроль должен находиться не только в инструкции для модели, но прежде всего в архитектуре самой системы.