С момента появления первых технологий незаконное копирование успешных продуктов стало обыденностью, но чат-боты на базе ИИ представляют собой уникальный случай. Конкуренты не могут просто разобрать их, но интенсивно задают вопросы, пытаясь понять принцип работы. Согласно свежему отчёту от Google, такие действия касаются и чат-бота Gemini, на который было отправлено свыше 100 тысяч запросов в рамках одной из атак. Google называет это масштабной попыткой извлечения его модели.
В новом отчёте Google Threat Intelligence Group обсуждается увеличение дистилляционных атак — многократных обращений к ИИ для изучения его ответов с целью обучения аналогичной системы. Google подчеркивает, что такие действия нарушают условия предоставления услуг и представляют собой кражу интеллектуальной собственности, даже если злоумышленники действуют с легальным доступом к API.
Одна из упомянутых атак была сосредоточена на логике работы Gemini. Хотя бот не раскрывает всех деталей своих внутренний процессов, злоумышленники пытались получить эту информацию. Google успела оперативно отследить активность и активировать защитные меры. Аналитик John Hultquist отметил, что с увеличением числа компаний, работающих с ИИ и конфиденциальными данными, такие случаи кражи могут стать более распространёнными. В отчете также указаны другие формы неправомерного нового использования Gemini, включая фишинг и создание вредоносного ПО через API. Каждый связанный аккаунт был заблокирован, и меры защиты обновлены для предотвращения повторений.
