Глава Anthropic Дарио Амодеи предложил не останавливать развитие искусственного интеллекта, а сознательно снизить скорость появления новых возможностей. Поводом стали два сигнала: недавние инциденты с автономными системами и резкое ускорение прогресса, особенно способность современных моделей помогать создавать следующее поколение ИИ. По мнению Амодеи, отрасли нужен дополнительный запас времени для усиления контроля и правил безопасности.
Замедление развития ИИ: три шага Anthropic
Первое предложение Anthropic – допустить независимых оценщиков внутрь компаний, создающих наиболее мощные модели. Они смогут проверять соблюдение обязательств по безопасности и фиксировать серьезные инциденты. Anthropic заявила, что готова внедрить такой подход у себя.
Второй шаг – общие стандарты безопасности для ведущих разработчиков в демократических странах и ограничения на бесконтрольное ускорение моделей. Амодеи считает, что государство может создать правовые условия для таких обсуждений, чтобы сотрудничество по безопасности не нарушало антимонопольные правила.
Третий уровень – международные договоренности. Речь идет хотя бы о запрете наиболее опасных применений искусственного интеллекта, например помощи в создании биологического оружия.
Идея получила поддержку Сэма Альтмана. Руководитель OpenAI заявил, что компания также готова привлечь внешних оценщиков. Это важный сигнал: крупнейшие разработчики начинают обсуждать не только рост возможностей моделей, но и независимую проверку их безопасности.
При этом план Anthropic вызывает споры. Критики опасаются, что новые правила способны укрепить позиции крупнейших компаний. Поэтому главный вопрос заключается не только в строгости ограничений, но и в том, кто будет контролировать их исполнение.
Развитие искусственного интеллекта и безопасность: что изменится?
Предложение Амодеи не означает остановку технологий. Скорее речь идет о новом порядке: сначала проверка рисков и прозрачные процедуры, затем очередное увеличение возможностей моделей. Если такой подход станет отраслевым стандартом, выпуск новых систем может сильнее зависеть от независимых испытаний, отчетности об инцидентах и согласованных правил.
Вывод эксперта
Снижение темпа имеет смысл только тогда, когда дополнительное время используется для конкретных мер: независимых проверок, контроля доступа и тестирования опасных сценариев.
Моя рекомендация: компаниям, которые внедряют ИИ уже сейчас, – не ждать глобальных соглашений, а заранее вводить собственные правила проверки моделей и ограничения для автономных функций.