Школа МИБ

🔤7️⃣Заявление группы экспертов G7 об ИИ и кибербезопасности в финансовой системе

22 сентября Группа экспертов G7 по кибербезопасности (Cyber Expert Group), консультирующая министров финансов и руководителей центральных банков стран «большой семерки», представила заявление о взаимосвязи ИИ и кибербезопасности в финансовой системе.

🤖В документе подчеркивается, что ИИ стал последним в ряду технологических инноваций, способных преобразовать финансовый сектор. ИИ широко используется для аналитики, управления рисками и операционной деятельности, придавая этим процессам новые масштабы и уровень сложности. В то же время растет и его значение как потенциального источника угроз, особенно из-за использования генеративных и агентных моделей.

🛡Отмечается, что технологии ИИ открывают значительные возможности для повышения киберустойчивости финансовых организаций:
- анализ больших массивов данных и выявление аномалий;
- предотвращение мошенничества и распознование дипфейков;
- прогнозирование уязвимостей и ускоренное внедрение «заплат»;
- оптимизация работы центров мониторинга и реагирования на инциденты.

💻Те же технологии могут быть использованы и во вред, усиливая киберугрозы:
- создание персонализированных фишинговых атак и дипфейков;
- автоматизация поиска эксплойтов и уязвимостей;
- разработка самоадаптирующегося вредоносного ПО, усложняющего защиту.

🤯Особое внимание уделено уязвимостям, присущим самим системам ИИ:
- отравление данных, влияющее на работу моделей;
- утечки информации при использовании публичных инструментов;
- манипуляции через атаки на системные промпты.
Эти факторы способны не только подорвать эффективность отдельных моделей, но и затронуть целые цепочки поставок, создавая дополнительные риски для сектора в целом.

🏦Среди ключевых вызовов финансовой системы названы:
- сбои и утечки данных;
- недостаточный человеческий контроль;
- непредсказуемое поведение плохо обученных моделей;
- зависимость от сторонних поставщиков технологий;
- дефицит специалистов и низкий уровень «ИИ-грамотности».

💡Документ направлен на повышение осведомленности участников рынка. Группа экспертов также призывает финансовые институты, регуляторов, разработчиков технологий и академическое сообщество к совместной работе над формированием стратегий, которые позволят "использовать потенциал ИИ в интересах устойчивости, одновременно снижая риски его злонамеренного применения".

#ШколаМИБ #новости_ИИ #G7 #кибербезопасность #ИИ #FinTech

Please open Telegram to view this post

VIEW IN TELEGRAM

✍5⚡3👍1👏1

www.group-telegram.com/de/iis_mib_school.com/985

403 viewsedited  Sep 25 at 05:20

🔤7️⃣Заявление группы экспертов G7 об ИИ и кибербезопасности в финансовой системе

22 сентября Группа экспертов G7 по кибербезопасности (Cyber Expert Group), консультирующая министров финансов и руководителей центральных банков стран «большой семерки», представила заявление о взаимосвязи ИИ и кибербезопасности в финансовой системе.

🤖В документе подчеркивается, что ИИ стал последним в ряду технологических инноваций, способных преобразовать финансовый сектор. ИИ широко используется для аналитики, управления рисками и операционной деятельности, придавая этим процессам новые масштабы и уровень сложности. В то же время растет и его значение как потенциального источника угроз, особенно из-за использования генеративных и агентных моделей.

🛡Отмечается, что технологии ИИ открывают значительные возможности для повышения киберустойчивости финансовых организаций:
- анализ больших массивов данных и выявление аномалий;
- предотвращение мошенничества и распознование дипфейков;
- прогнозирование уязвимостей и ускоренное внедрение «заплат»;
- оптимизация работы центров мониторинга и реагирования на инциденты.

💻Те же технологии могут быть использованы и во вред, усиливая киберугрозы:
- создание персонализированных фишинговых атак и дипфейков;
- автоматизация поиска эксплойтов и уязвимостей;
- разработка самоадаптирующегося вредоносного ПО, усложняющего защиту.

🤯Особое внимание уделено уязвимостям, присущим самим системам ИИ:
- отравление данных, влияющее на работу моделей;
- утечки информации при использовании публичных инструментов;
- манипуляции через атаки на системные промпты.
Эти факторы способны не только подорвать эффективность отдельных моделей, но и затронуть целые цепочки поставок, создавая дополнительные риски для сектора в целом.

🏦Среди ключевых вызовов финансовой системы названы:
- сбои и утечки данных;
- недостаточный человеческий контроль;
- непредсказуемое поведение плохо обученных моделей;
- зависимость от сторонних поставщиков технологий;
- дефицит специалистов и низкий уровень «ИИ-грамотности».

💡Документ направлен на повышение осведомленности участников рынка. Группа экспертов также призывает финансовые институты, регуляторов, разработчиков технологий и академическое сообщество к совместной работе над формированием стратегий, которые позволят "использовать потенциал ИИ в интересах устойчивости, одновременно снижая риски его злонамеренного применения".

#ШколаМИБ #новости_ИИ #G7 #кибербезопасность #ИИ #FinTech