Главная Технологии Как украсть модель искусственного интеллекта без излома: новые исследования

Как украсть модель искусственного интеллекта без излома: новые исследования

Artificial Intelligence

Об этом сообщает ProIT

Ученые из Университета Северной Каролины обнаружили, что модели искусственного интеллекта могут быть похищены без традиционного взлома или утечки данных. Их исследование показало возможность использования электромагнитной подписи моделей, чтобы получить их параметры.

Технология зондирования для воровства ШИ

Для этого исследователям потребовался электромагнитный зонд, предварительно подготовленные модели с открытым исходным кодом и блок обработки тензоров Google Edge Tensor Processing Unit (TPU). Анализируя электромагнитное излучение, выделяемое при работе TPU, ученые смогли выяснить архитектуру моделей и их специфические параметры. Результаты показали, что точность копии достигла 99,91%.

Этот метод требует физического доступа к чипу для проведения зондирования и запуска моделей. Ученые сотрудничали с Google, чтобы исследовать уязвимость ее чипов к такой атаке.

Угрозы для устройств искусственного интеллекта

Этот подход к извлечению параметров через боковые каналы информации не нов, но сейчас он привлек внимание к аппаратному обеспечению ИИ, которое создает выводы в открытом тексте. Модели искусственного интеллекта, развернутые на физически незащищенных серверах, становятся уязвимыми. Также исследователи не исключают возможность угона моделей со смартфонов и других малых устройств, хотя их компактный дизайн усложняет этот процесс.

В будущем такие исследования могут повлиять на вопросы безопасности искусственного интеллекта и требуют внимания от разработчиков и компаний, занимающихся ИИ.

Читайте также

About Us

Soledad is the Best Newspaper and Magazine WordPress Theme with tons of options and demos ready to import. This theme is perfect for blogs and excellent for online stores, news, magazine or review sites. Buy Soledad now!

Latest Articles

© ProIT. Видання не несе жодної відповідальності за зміст і достовірність фактів, думок, поглядів, аргументів та висновків, які викладені у інформаційних матеріалах з посиланням на інші джерела інформації. Усі запити щодо такої інформації мають надсилатися виключно джерелам відповідної інформації.