Ученые разработали метод кражи ИИ без взлома

00:20, декабря 13, 2024 Группа исследователей продемонстрировала новый способ кражи моделей искусственного интеллекта (ИИ), который не требует взлома устройства, на котором работает модель. Это становится возможным даже при отсутствии предварительных знаний о программном обеспечении или архитектуре ИИ.Авторы работы из Университета штата Северная Каролина объясняют, что кража ИИ-моделей представляет серьезную угрозу, поскольку такие модели требуют значительных вычислительных ресурсов для создания, а их утечка делает их уязвимыми для атак. Это не только нарушает интеллектуальную собственность, но и может раскрывать чувствительные данные, встроенные в поведение модели. В исследовании использовалась коммерчески доступная микросхема Google Edge TPU, предназначенная для работы ИИ-моделей на устройствах, используемых конечными пользователями. Ученые применили метод мониторинга электромагнитных сигналов, установив датчик на чипе TPU, который предоставлял данные о поведении модели ИИ в реальном времени. Используя эти данные, исследователи смогли воспроизвести архитектуру модели и даже воссоздать ее с точностью 99,91%. Это подчеркивает уязвимость современных ИИ-систем, работающих на различных устройствах, и ставит перед разработчиками задачу создания эффективных мер защиты. Теперь, после демонстрации уязвимости, ученые планируют разработать контрмеры для защиты ИИ-моделей от подобных атак....

Источник: www.ferra.ru

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Наука и Технологии

Ученые MIT разработали новый метод навигации для роботов Ученые из Массачусетского технологического института (MIT) и лаборатории искусственного интеллекта MIT-IBM Watson разработали новый метод навигации д …

Наука и Технологии 21:14, июня 12, 2024 | ferra.ru

Ученые разработали новый метод восстановления клеток сердца Ученые из Детского научно-исследовательского института Стэнли Манна разработали новый метод регенерации сердца путем стимуляции потребления глюкозы к …

Наука 15:42, июня 11, 2024 | gazeta.ru

Российские ученые разработали метод, который упростит создание даже магнитного «холодильника» Команда исследователей из Института AIRI, занимающегося фундаментальными и прикладными исследованиями в области искусственного интеллекта, и МГУ пред …

Интересное 08:20, сентября 21, 2024 | incrussia.ru

В MIT разработали новый метод получения водородного топлива Исследователи Массачусетского технологического института (MIT) разработали новый метод получения водородного топлива с использованием алюминиевых бан …

Наука и Технологии 08:20, июля 29, 2024 | pravda.ru

В Казани разработали метод получения биоводорода из соломы Самая обычная солома, остающаяся на полях после уборки злаковых культур, может стать ценным ресурсом, необходимым для получения биоводорода. Технолог …

Наука и Технологии 08:20, июля 20, 2024 | api.follow.it

В России разработали метод редактирования генома черного винограда В пресс-службе Университета «Сириус» сообщили, что российские ученые разработали первый в мире подход к редактированию генома популярных сортов черно …

Наука и Технологии 16:20, сентября 23, 2024 | ferra.ru

Разработали метод увеличения емкости натрий-ионных аккумуляторов Исследователи разработали новую методику, позволяющую решить проблему увеличения емкости натрий-ионных аккумуляторов. Исследование в журнале Applied …

Hardware 08:20, июня 29, 2024 | android-robot.com

Российские физики разработали метод закручивания электронов для коллайдеров В пресс-службе Университета ИТМО сообщили, что ученые вуза представили метод закручивания электронов с помощью лазерного луча. …

Наука и Технологии 16:20, сентября 26, 2024 | news.rambler.ru