Фонд «Интеллект»

Forwarded from МГУ имени М.В.Ломоносова

В МГУ предложили новый метод для оценки защиты изображений от атак на метрики
#наука_мгу

Исследователи факультета ВМК МГУ разработали новый подход к оценке качества изображений, который помогает выявить их уязвимость к состязательным атакам на метрики качества – характеристики, которые помогают численно оценить насколько изображение или видео реалистично и соответствует заданным стандартам. В рамках работы был создан индекс устойчивости изображений и модель, способная предсказывать восприимчивость визуального контента к искусственным манипуляциям. Полученные результаты помогут повысить надежность современных алгоритмов обработки изображений.

Метрики качества широко используются при разработке методов обработки изображений и видео, а также компьютерного зрения. Современные метрики машинного обучения уязвимы к атакам, которые позволяют искусственно завышать их показатели. Это может привести к ситуациям, когда изображение кажется качественным для алгоритмов, но на самом деле выглядит плохо для человека. Такие атаки могут использоваться в фальсификации данных, мошеннической рекламе и других манипулятивных целях.

Ученые факультета ВМК МГУ предложили метод, который позволяет автоматически определять, насколько изображение устойчиво к подобным атакам. В основе их подхода лежит индекс устойчивости (IRI), который помогает понять, насколько легко можно обмануть метрику качества, изменяя изображение.

Подробнее – на сайте.

www.group-telegram.com/kr/foundation_intellect.com/1202

556 viewsMay 12 at 08:16

В МГУ предложили новый метод для оценки защиты изображений от атак на метрики
#наука_мгу

Исследователи факультета ВМК МГУ разработали новый подход к оценке качества изображений, который помогает выявить их уязвимость к состязательным атакам на метрики качества – характеристики, которые помогают численно оценить насколько изображение или видео реалистично и соответствует заданным стандартам. В рамках работы был создан индекс устойчивости изображений и модель, способная предсказывать восприимчивость визуального контента к искусственным манипуляциям. Полученные результаты помогут повысить надежность современных алгоритмов обработки изображений.

Метрики качества широко используются при разработке методов обработки изображений и видео, а также компьютерного зрения. Современные метрики машинного обучения уязвимы к атакам, которые позволяют искусственно завышать их показатели. Это может привести к ситуациям, когда изображение кажется качественным для алгоритмов, но на самом деле выглядит плохо для человека. Такие атаки могут использоваться в фальсификации данных, мошеннической рекламе и других манипулятивных целях.

Ученые факультета ВМК МГУ предложили метод, который позволяет автоматически определять, насколько изображение устойчиво к подобным атакам. В основе их подхода лежит индекс устойчивости (IRI), который помогает понять, насколько легко можно обмануть метрику качества, изменяя изображение.

Подробнее – на сайте.

BY Фонд «Интеллект»