В МГУ предложили новый метод для оценки защиты изображений от атак на метрики #наука_мгу
Исследователи факультета ВМК МГУ разработали новый подход к оценке качества изображений, который помогает выявить их уязвимость к состязательным атакам на метрики качества – характеристики, которые помогают численно оценить насколько изображение или видео реалистично и соответствует заданным стандартам. В рамках работы был создан индекс устойчивости изображений и модель, способная предсказывать восприимчивость визуального контента к искусственным манипуляциям. Полученные результаты помогут повысить надежность современных алгоритмов обработки изображений.
Метрики качества широко используются при разработке методов обработки изображений и видео, а также компьютерного зрения. Современные метрики машинного обучения уязвимы к атакам, которые позволяют искусственно завышать их показатели. Это может привести к ситуациям, когда изображение кажется качественным для алгоритмов, но на самом деле выглядит плохо для человека. Такие атаки могут использоваться в фальсификации данных, мошеннической рекламе и других манипулятивных целях.
Ученые факультета ВМК МГУ предложили метод, который позволяет автоматически определять, насколько изображение устойчиво к подобным атакам. В основе их подхода лежит индекс устойчивости (IRI), который помогает понять, насколько легко можно обмануть метрику качества, изменяя изображение.
В МГУ предложили новый метод для оценки защиты изображений от атак на метрики #наука_мгу
Исследователи факультета ВМК МГУ разработали новый подход к оценке качества изображений, который помогает выявить их уязвимость к состязательным атакам на метрики качества – характеристики, которые помогают численно оценить насколько изображение или видео реалистично и соответствует заданным стандартам. В рамках работы был создан индекс устойчивости изображений и модель, способная предсказывать восприимчивость визуального контента к искусственным манипуляциям. Полученные результаты помогут повысить надежность современных алгоритмов обработки изображений.
Метрики качества широко используются при разработке методов обработки изображений и видео, а также компьютерного зрения. Современные метрики машинного обучения уязвимы к атакам, которые позволяют искусственно завышать их показатели. Это может привести к ситуациям, когда изображение кажется качественным для алгоритмов, но на самом деле выглядит плохо для человека. Такие атаки могут использоваться в фальсификации данных, мошеннической рекламе и других манипулятивных целях.
Ученые факультета ВМК МГУ предложили метод, который позволяет автоматически определять, насколько изображение устойчиво к подобным атакам. В основе их подхода лежит индекс устойчивости (IRI), который помогает понять, насколько легко можно обмануть метрику качества, изменяя изображение.
Meanwhile, a completely redesigned attachment menu appears when sending multiple photos or vides. Users can tap "X selected" (X being the number of items) at the top of the panel to preview how the album will look in the chat when it's sent, as well as rearrange or remove selected media. Right now the digital security needs of Russians and Ukrainians are very different, and they lead to very different caveats about how to mitigate the risks associated with using Telegram. For Ukrainians in Ukraine, whose physical safety is at risk because they are in a war zone, digital security is probably not their highest priority. They may value access to news and communication with their loved ones over making sure that all of their communications are encrypted in such a manner that they are indecipherable to Telegram, its employees, or governments with court orders. In the United States, Telegram's lower public profile has helped it mostly avoid high level scrutiny from Congress, but it has not gone unnoticed. The company maintains that it cannot act against individual or group chats, which are “private amongst their participants,” but it will respond to requests in relation to sticker sets, channels and bots which are publicly available. During the invasion of Ukraine, Pavel Durov has wrestled with this issue a lot more prominently than he has before. Channels like Donbass Insider and Bellum Acta, as reported by Foreign Policy, started pumping out pro-Russian propaganda as the invasion began. So much so that the Ukrainian National Security and Defense Council issued a statement labeling which accounts are Russian-backed. Ukrainian officials, in potential violation of the Geneva Convention, have shared imagery of dead and captured Russian soldiers on the platform. In a message on his Telegram channel recently recounting the episode, Durov wrote: "I lost my company and my home, but would do it again – without hesitation."
from br
