Система Copilot считается безопасной, но, по словам исследователей, именно генеративный искусственный интеллект Microsoft предоставил подсказки, которые привели к обнаружению уязвимости в Copilot.
Специалисты Varonis Threat Labs назвали эту уязвимость "CoSnitch". Благодаря продуманным вопросам им удалось заставить Copilot раскрыть технические детали своей работы. Ответы чат-бота постепенно раскрывали информацию об архитектуре системы, что в конечном итоге привело к обнаружению уязвимости.
Исследователи неоднократно спрашивали Copilot, почему определенные атаки невозможны. Вместо того чтобы просто отказаться отвечать, ИИ предоставлял технические обоснования. Каждый последующий ответ содержал дополнительные подсказки о потенциальных уязвимостях. Варонис называет это «мета-хакингом», и Copilot даже упомянул недокументированный параметр URL. Затем исследователи протестировали описанные механизмы и, согласно их отчету, смогли осуществить атаку, не требующую никаких дополнительных действий со стороны пользователя.
По словам Варониса, атака основывалась на нескольких уязвимостях. Одна из них позволяла специально созданной ссылке Copilot автоматически выполнять команду после того, как жертва её открывала. Другие элементы цепочки атаки позволяли считывать данные из связанных сервисов и использовать функциональность Copilot для загрузки внешнего контента. Исследователи описывают это как уязвимость «одного клика» — одного клика по созданной ссылке было достаточно для начала атаки.
Компания Varonis сообщила об уязвимостях в Microsoft в декабре 2025 года. По данным компании, исправления были внедрены 18 августа 2026 года. Varonis не обнаружила доказательств того, что киберпреступники действительно использовали эту уязвимость. Однако исследователи рассматривают этот случай как тревожный сигнал — ИИ-помощники, имеющие доступ к электронной почте, файлам, календарям и другим источникам данных, создают новые уязвимости для хакеров.
Специалисты Varonis Threat Labs назвали эту уязвимость "CoSnitch". Благодаря продуманным вопросам им удалось заставить Copilot раскрыть технические детали своей работы. Ответы чат-бота постепенно раскрывали информацию об архитектуре системы, что в конечном итоге привело к обнаружению уязвимости.
Исследователи неоднократно спрашивали Copilot, почему определенные атаки невозможны. Вместо того чтобы просто отказаться отвечать, ИИ предоставлял технические обоснования. Каждый последующий ответ содержал дополнительные подсказки о потенциальных уязвимостях. Варонис называет это «мета-хакингом», и Copilot даже упомянул недокументированный параметр URL. Затем исследователи протестировали описанные механизмы и, согласно их отчету, смогли осуществить атаку, не требующую никаких дополнительных действий со стороны пользователя.
По словам Варониса, атака основывалась на нескольких уязвимостях. Одна из них позволяла специально созданной ссылке Copilot автоматически выполнять команду после того, как жертва её открывала. Другие элементы цепочки атаки позволяли считывать данные из связанных сервисов и использовать функциональность Copilot для загрузки внешнего контента. Исследователи описывают это как уязвимость «одного клика» — одного клика по созданной ссылке было достаточно для начала атаки.
Компания Varonis сообщила об уязвимостях в Microsoft в декабре 2025 года. По данным компании, исправления были внедрены 18 августа 2026 года. Varonis не обнаружила доказательств того, что киберпреступники действительно использовали эту уязвимость. Однако исследователи рассматривают этот случай как тревожный сигнал — ИИ-помощники, имеющие доступ к электронной почте, файлам, календарям и другим источникам данных, создают новые уязвимости для хакеров.
Поделитесь в соцсетях:
