📈 ТехноТренды: Технологии, Тренды, IT

Интересные инсайты о рисках и страхах компаний перед возможными негативными последствиями внедрения ИИ, о которых говорится в той же 4-й главе стэнфордского отчета.

Что же внушает опасения руководителям предприятий?

🔺 Низкая окупаемость инвестиций (опасения выросли на +38 процентных пунктов по сравнению с предыдущими годами).
• Например, компании боятся, что неэффективное внедрение ИИ может привести к убыткам из-за высоких затрат на разработку и обучение сотрудников.
• Здесь же — страх перед растущей сложностью моделей (+14 п.п.). 63% компаний сталкиваются с проблемой несоответствия навыков сотрудников требованиям ИИ, что требует вложений в программы повышения квалификации.

🔺Регуляторные и правовые риски. 63% компаний обеспокоены рисками нарушения норм, таких как GDPR или новые законы о регулировании ИИ (например, EU AI Act), что может привести к штрафам.

🔺Проблемы конфиденциальности и безопасности (+15 п.п.).
• Беспокойство растет по мере роста объемов данных, обрабатываемых ИИ. 66% организаций указали кибербезопасность как один из главных рисков (например, взлом ИИ-систем или кража интеллектуальной собственности).
• При этом статистика показывает, что вложения в безопасность, хотя и кратно выросли, всё же на порядок уступают инвестициям в инфраструктуру ИИ и управление данными (см. график).

🔺Несоответствие ожиданиям от использования ИИ (+14 п.п.). Технология далека от совершенства, модели продолжают ошибаться и галлюцинировать. Около 30% организаций отметили риски неточных выводов или генерации ложной информации, например, в маркетинге или юридических документах.

🔺Отсюда потеря доверия к инструментам ИИ (+16 п.п.).
• 12% компаний указали на опасения, связанные с утратой доверия потребителей или снижением рыночной доли из-за проблем с ИИ, таких как ошибки в рекомендациях или предвзятые алгоритмы.
• 30% компаний столкнулись с фактами чрезмерной зависимости сотрудников от ИИ (например, игнорирование человеческой экспертизы). Особенно беспокоят медицинские ошибки из-за некритичного использования ИИ-диагностики.

Есть и позитивные тенденции:

🔻Снизился страх компаний перед массовыми увольнениями персонала из-за внедрения ИИ (причины мы отметили в предыдущем посте).

🔻Также уменьшилось беспокойство в отношении этических и социальных рисков. Хотя 34% организаций отмечают случаи предвзятости алгоритмов (например, в найме или кредитовании), уровень опасений снизился на 7 п.п.

Выводы и тренды

Внедрение новых технологий всегда порождает новые проблемы, заставляет искать баланс между инновациями и безопасностью. И регулирующие нормы не всегда успевают за этим процессом — проблема активно обсуждается бизнес-сообществом, а кое-где даже что-то делается.

Чтобы минимизировать риски и максимизировать выгоды, компаниям и правительствам придется инвестировать в обучение сотрудников и кибербезопасность, внедрять проверку моделей на устойчивость и следить за развитием нормативной базы, чтобы не попадать на штрафы. Эти вопросы еще долго будут сохранять актуальность.

А что внушает опасения вам? Пишите в комментариях!

#AI #экономика #тренды #аналитика #кибербезопасность #AI_index_report_2025

🚀 ©ТехноТренды

www.group-telegram.com/cn/technologies_trends.com/291

122 viewsMay 23 at 09:12

Интересные инсайты о рисках и страхах компаний перед возможными негативными последствиями внедрения ИИ, о которых говорится в той же 4-й главе стэнфордского отчета.

Что же внушает опасения руководителям предприятий?

🔺 Низкая окупаемость инвестиций (опасения выросли на +38 процентных пунктов по сравнению с предыдущими годами).
• Например, компании боятся, что неэффективное внедрение ИИ может привести к убыткам из-за высоких затрат на разработку и обучение сотрудников.
• Здесь же — страх перед растущей сложностью моделей (+14 п.п.). 63% компаний сталкиваются с проблемой несоответствия навыков сотрудников требованиям ИИ, что требует вложений в программы повышения квалификации.

🔺Регуляторные и правовые риски. 63% компаний обеспокоены рисками нарушения норм, таких как GDPR или новые законы о регулировании ИИ (например, EU AI Act), что может привести к штрафам.

🔺Проблемы конфиденциальности и безопасности (+15 п.п.).
• Беспокойство растет по мере роста объемов данных, обрабатываемых ИИ. 66% организаций указали кибербезопасность как один из главных рисков (например, взлом ИИ-систем или кража интеллектуальной собственности).
• При этом статистика показывает, что вложения в безопасность, хотя и кратно выросли, всё же на порядок уступают инвестициям в инфраструктуру ИИ и управление данными (см. график).

🔺Несоответствие ожиданиям от использования ИИ (+14 п.п.). Технология далека от совершенства, модели продолжают ошибаться и галлюцинировать. Около 30% организаций отметили риски неточных выводов или генерации ложной информации, например, в маркетинге или юридических документах.

🔺Отсюда потеря доверия к инструментам ИИ (+16 п.п.).
• 12% компаний указали на опасения, связанные с утратой доверия потребителей или снижением рыночной доли из-за проблем с ИИ, таких как ошибки в рекомендациях или предвзятые алгоритмы.
• 30% компаний столкнулись с фактами чрезмерной зависимости сотрудников от ИИ (например, игнорирование человеческой экспертизы). Особенно беспокоят медицинские ошибки из-за некритичного использования ИИ-диагностики.

Есть и позитивные тенденции:

🔻Снизился страх компаний перед массовыми увольнениями персонала из-за внедрения ИИ (причины мы отметили в предыдущем посте).

🔻Также уменьшилось беспокойство в отношении этических и социальных рисков. Хотя 34% организаций отмечают случаи предвзятости алгоритмов (например, в найме или кредитовании), уровень опасений снизился на 7 п.п.

Выводы и тренды

Внедрение новых технологий всегда порождает новые проблемы, заставляет искать баланс между инновациями и безопасностью. И регулирующие нормы не всегда успевают за этим процессом — проблема активно обсуждается бизнес-сообществом, а кое-где даже что-то делается.

Чтобы минимизировать риски и максимизировать выгоды, компаниям и правительствам придется инвестировать в обучение сотрудников и кибербезопасность, внедрять проверку моделей на устойчивость и следить за развитием нормативной базы, чтобы не попадать на штрафы. Эти вопросы еще долго будут сохранять актуальность.

А что внушает опасения вам? Пишите в комментариях!

#AI #экономика #тренды #аналитика #кибербезопасность #AI_index_report_2025

🚀 ©ТехноТренды

BY 📈 ТехноТренды: Технологии, Тренды, IT