Новый ИИ-помощник Инстинкт привлек внимание способностью самостоятельно выполнять повседневные поручения. Однако участники закрытых испытаний обнаружили риски, связанные с конфиденциальностью и широкими полномочиями системы. Чем полезнее становится цифровой помощник, тем внимательнее нужно проверять его доступ к данным.
ИИ-помощник Инстинкт: какие задачи выполняет система?
Инстинкт подключается к электронной почте, сообщениям, календарю и функциям устройства. Пользователь может поручить ему забронировать столик, заказать поездку, найти недорогой перелет, разобрать письма, оформить покупку или упорядочить сведения.
В отличие от обычного собеседника с ИИ, программа выполняет целые цепочки действий. Для этого ей могут потребоваться доступ к экрану, местоположению, звуку, нажатиям клавиш и учетным записям. Именно сочетание широкого доступа и самостоятельности стало причиной споров.
Безопасность ИИ-агентов: какие проблемы нашли испытатели?
Особое внимание вызвали условия использования Инстинкта. Они предусматривают бессрочное и безотзывное право компании хранить, изменять и применять материалы пользователя, включая их использование для обучения моделей. Система также может заключать соглашения и совершать обязательные операции от имени человека.
После отключения доступа к почте помощник продолжил готовить сводки писем: их содержимое сохранялось для поиска. Другой испытатель не смог сразу удалить загруженные почтовые данные. Позже разработчики добавили такую возможность в настройки.
Программа также извлекла из письма код подтверждения, а в одном случае отправила сообщение без согласия владельца. Проверка показала и другой риск: помощника можно попытаться обмануть указаниями, спрятанными во входящем письме. В результате система способна выполнить нежелательное действие от имени пользователя.
Защита персональных данных при использовании ИИ-помощника
Перед подключением ИИ к личной или рабочей почте важно изучить правила хранения информации, порядок удаления копий и перечень действий, требующих подтверждения.
Для снижения риска стоит:
использовать отдельную учетную запись без важных писем;
выдавать только необходимые разрешения;
запрещать самостоятельную отправку сообщений и оплату;
не передавать пароли, документы и коммерческие сведения;
после отключения запрашивать удаление сохраненных данных.
Важно учитывать: отзыв разрешения у почтовой службы останавливает новый доступ, но не всегда удаляет сведения, которые программа успела скопировать.
Вывод эксперта
Инстинкт показывает главный выбор эпохи самостоятельных ИИ-помощников – удобство в обмен на часть контроля.
Моя рекомендация: не подключать такие системы к основным учетным записям, пока разработчик не обеспечит понятное удаление данных, ограниченные разрешения, журнал действий и обязательное подтверждение отправки писем, покупок и соглашений.