США предложили Китаю создать механизм взаимного оповещения о серьезных происшествиях, связанных с искусственным интеллектом. Система должна использоваться в ситуациях, когда возможности нейросетей или последствия их применения затрагивают национальную безопасность. Инициатива обсуждалась 20 сентября во время переговоров представителей двух стран в Нью-Йорке. Пока стороны не объявили о заключении отдельного соглашения. Речь идет о формировании постоянного диалога, который позволит быстрее обмениваться информацией при возникновении особенно опасных ситуаций.
Повышение безопасности искусственного интеллекта
Предложенный формат получил название диалога США и Китая по искусственному интеллекту. По словам министра финансов США Скотта Бессента, его задача – сделать взаимодействие двух крупнейших центров разработки моделей нейросетей более прозрачным и определить общие угрозы.
Предполагается, что специальный канал связи будет задействован не при любой технической ошибке, а при происшествиях достаточно серьезного уровня, способных затронуть национальную безопасность. Точные критерии таких случаев пока публично не определены. Практическая ценность подобного механизма заключается в возможности быстро сообщить другой стороне о проблеме до того, как она перерастет в международный кризис.
Вопрос национальной безопасности
Развитие автономных систем постепенно расширяет перечень возможных рисков. Речь может идти о применении нейросетей для поиска уязвимостей, атак на цифровую инфраструктуру, вмешательства в работу важных информационных систем или других действий с трансграничными последствиями.
Именно поэтому прямой канал между государствами может работать как средство предотвращения ошибочной оценки происходящего. Если крупное происшествие будет обнаружено одной стороной, возможность быстро передать проверенную информацию другой стороне способна помочь понять масштаб события и его происхождение.
Сотрудничество США и Китая в сфере ИИ
Переговоры не означают, что технологическое соперничество между странами прекращается. США продолжают ограничивать поставки в Китай некоторых передовых вычислительных компонентов и оборудования для их производства. При этом экспортные ограничения не входили в обсуждение предлагаемого механизма уведомлений.
Поэтому новая инициатива скорее касается узкой области, где интересы двух стран могут совпадать независимо от конкуренции: предотвращения крупных происшествий, последствия которых способны затронуть обе стороны. Следующим важным этапом может стать определение конкретных условий обмена информацией – какие происшествия считать достаточно серьезными, насколько быстро необходимо передавать сведения и какие данные стороны готовы раскрывать друг другу.
Новый международный механизм
Если система предупреждений действительно будет создана, она станет одним из примеров прямого межгосударственного взаимодействия в области безопасности нейросетей. Однако эффективность такого формата будет зависеть не от самого существования канала связи, а от заранее согласованных правил его использования.
Экспертный вывод
Идея взаимных уведомлений выглядит прежде всего как практический инструмент управления крупными рисками, а не как попытка установить единые правила разработки нейросетей. Наиболее важным следующим шагом будет четко определить порог серьезности происшествия и порядок проверки информации.
Моя рекомендация: разработчикам крупных систем уже сейчас полезно выстраивать внутренние процедуры фиксации опасных действий, сохранения журналов событий и быстрой передачи сведений ответственным специалистам. Международный канал связи имеет смысл только тогда, когда источник происшествия можно быстро установить и подтвердить техническими данными.