group-telegram.com/anrlab/852
Last Update:
ИИ цифровизация шагает по Европе
В последние 20 лет все больше ученых занимаются темой цифровизации. И, наверное, один из главных вопросов в этом поле: а как люди воспринимают цифровизацию в госуправлении? Велико желание сказать, что люди больше доверяют ИИ и алгоритмам, ведь они лишены человеческого фактора, так что более точны в реализации тех или иных практик. Но лучше не принимать желаемое за действительное! Авторы проекта алгоритмического управления (algorithmic governance) из Университета Хельсинки полагают, что граждане, наоборот, склоны признавать менее легитимным алгоритмическое управление по сравнению с управлением, в котором участвуют люди. Именно поэтому они решили сделать проект по изучению восприятия легитимности в алгоритмическом управлении, используя в качестве примера Европейскую систему информации и авторизации путешествий (ETIAS). Руководит проектом доктор Дарья Гриценко, доцент Университета Хельсинки.
Методология проекта включает пять рабочих пакетов (Work Packages, WPs), объединяющих концептуальные и эмпирические исследования для разработки модели легитимации на основе эвристик (Legitimation Heuristic Model). Эта концептуальная модель объясняет, как люди формируют суждения о легитимности алгоритмических систем, таких как системы принятия решений на основе искусственного интеллекта. Согласно этой модели, оценка легитимности происходит не на основе объективных критериев или глубокого анализа работы системы, а через эвристические сигналы — упрощённые подсказки или правила, которые помогают быстро принимать решения, такими сигналами могут быть:
• Прозрачность системы: насколько открыто система показывает свои процессы и решения.
• Участие пользователей: вовлечённость людей в разработку или использование системы.
• Репутация разработчиков: доверие к тем, кто создал систему.
В рамках модели утверждается, что люди склонны судить о легитимности алгоритмических систем, полагаясь на эти простые сигналы, вместо того чтобы вникать в сложные технические детали или объективные характеристики. Например, если система кажется прозрачной и разработана известной компанией, её скорее сочтут легитимной, даже без глубокого понимания её работы.
Если вас интересно восприятие ИИшного управления, то советуем почитать небольшой отрывок из книги от нашей коллеги Анны Карташовой на эту тему про городское пространство. Если ищете схожие проекты, то рекомендуем посмотреть Governance.ai и AlgorithmWatch. Governance.ai больше ориентирован на разработку политики, цель проекта в понимании и формировании управления искусственным интеллектом в интересах человечества, в то время как AlgorithmWatch занимается мониторингом и анализом влияния алгоритмов и автоматизированных систем на общество, с акцентом на прозрачность, подотчётность и защиту прав человека.
BY Nodes and Links
Share with your friend now:
group-telegram.com/anrlab/852