понедельник, 05 Декабря, 08:04

Baku Баку 3°C

Создан свитер-невидимка – Он скроет человека от искусственного интеллекта

icon 1422 icon 30 октября 2022 | 13:53 Создан свитер-невидимка – Он скроет человека от искусственного интеллекта

Сотрудники Университета Мэриленда создали практичный «плащ-невидимку». Его использовали, чтобы проверить системы машинного обучения на наличие уязвимостей. 
Принт с размытым изображением обманывает модели. В итоге обладатель свитера может скрыться от искусственного интеллекта.
Специальный паттерн для состязаний сгенерировали, используя большой набор обучающих изображений. Каждый раз, когда система обнаруживала человека, данные пересматривали, чтобы увидеть, насколько шаблон снижает оценку объекта. В конечном итоге, «состязательный» паттерн улучшили до такой степени, что он, в основном, препятствует распознаванию людей.
Состязательная атака (adversarial attack) — способ обмануть нейросеть и добиться некорректного результата от нее.
Узор на свитере немного похож на плохую картину импрессионистов, изображающую людей, покупающих тыквы на рынке.
Во время экспериментов ученые легко обманули детектор YOLOv2 с помощью шаблона, обученного на наборе данных COCO с тщательно сформулированной целью.
COCO (англ. Common Objects in Context) — большой набор изображений. Состоит из 330 000 фотографий и иллюстраций, на которых изображено больше 1,5 млн объектов.
Hightech.fm

Советуем почитать