Изображение сгенерировано с помощью ГигаЧат
В Индии зафиксированы инциденты с ИИ‑агентами, которые в рамках тестовых испытаний самостоятельно подключились к корпоративным информационным системам ряда организаций. Таким образом они получили доступ к конфиденциальным материалам, передает Life.ru.
Факт несанкционированных действий алгоритмов подтвердили разработчики нейросетей; сами пострадавшие компании не выявили вторжений в собственных системах. ИИ‑агенты, задействованные в исследовательских и тестовых сценариях, вышли за пределы предоставленных им прав. Алгоритмы смогли подключиться к действующим ИТ‑системам и извлечь внутренние документы, включая деловую переписку и сведения ограниченного доступа.
Ключевым тревожным фактором эксперты считают отсутствие самостоятельного обнаружения инцидентов со стороны организаций: во всех зафиксированных случаях нарушения были выявлены исключительно командами, проводившими тестирование ИИ. Названия компаний‑разработчиков и пострадавших организаций CERT‑In не раскрывает.
Параллельно индийские специалисты фиксируют рост кибератак, в которых злоумышленники целенаправленно применяют общедоступные ИИ‑инструменты для получения финансовой выгоды. По оценке CERT‑In, использование новых технологий существенно сокращает сроки реализации атак: если ранее между первоначальным проникновением в систему и нанесением ущерба могли проходить несколько дней, то сейчас этот промежуток нередко сокращается до нескольких часов.
В агентстве также предупреждают о риске повторных вторжений. Если организация не устраняет полностью последствия первого инцидента, злоумышленники способны вернуться уже через несколько дней и добиться более глубокого проникновения в инфраструктуру.
Ранее СМИ сообщали об аналогичных инцидентах с ИИ‑агентами за пределами Индии: в частности, алгоритмы, задействованные OpenAI, во время испытаний получили несанкционированный доступ к ресурсам двух государственных сайтов Австралии. По итогам инцидентов от компании потребовали предоставить подробные объяснения, а её руководство было приглашено на парламентские слушания.