Исследовательская группа из США обнаружила, что обычные надписи могут обмануть автономные системы с камерами. Беспилотные автомобили и дроны могут интерпретировать текст с дорожных знаков как команды, даже если они противоречат действительности. Это открытие демонстрирует перенос проблемы prompt injection из цифровой среды в реальный мир. Ранее подобные атаки часто проверяли на чат-ботах, однако теперь эта угроза охватывает устройства, принимающие решения на основе визуальных данных. Для успешного проведения атак использовались формулировки команд, оптимизированные ИИ, и эксперименты показали высокую вероятность их распознавания, даже на различных языках. В частности, системы повреждались в 81.8% случаев, когда в поле зрения находились манипулятивные надписи. Проведены тесты как в симуляторах, так и в реальных условиях, что подтверждает реальную угрозу. Команда исследователей во главе с профессором Альваро Карденасом планирует продолжить изучение этого явления и поиск методов защиты.
Понравилась статья? Поделиться с друзьями:
Вам также может быть интересно
В автобус до Крыма берут паспорт и билет, воду, лёгкую еду без резкого запаха,
Промокод на авиабилет вводят в специальное поле на сайте или в приложении продавца до
Для квартиры обычно хватает двери с наружным листом 1,2–1,5 мм, двумя замками разных типов
Для дачи и гаража обычно достаточно инвертора ручной дуговой сварки (ММА) с максимальным током
Диплом оформляют по ГОСТ 7.32-2017 «Отчёт о научно-исследовательской работе». Список литературы составляют по ГОСТ
Чтобы поступить в университет Турции, иностранец подаёт заявку напрямую в выбранный вуз или через
