Ирина Филатова

⚡️На состоявшейся в рамках ПМЭФ сессии «Искусственный интеллект в здравоохранении: от технологического прорыва к системным изменениям» выступила с докладом, посвященном этико-правовым коллизиям в этой сфере.

❗️Чем шире ИИ применяется в здравоохранении, тем больше возникает вопросов и конфликтов.

Среди них ➡️

📌 Объяснимость.

При выдаче результатов система не всегда может объяснить, на каком основании она приняла решение.

📌 Предвзятость алгоритмов.

Системы ИИ хороши настолько, насколько хороши данные, на которых они обучаются. Если эти данные неполны или плохо интерпретированы, конечный результат может быть катастрофическим.

📌 Влияние на врачебную практику.

ИИ может изменить роль врачей, сделав их больше консультантами, чем диагностами, что может привести к потере навыков и утрате доверия. 

📌 Использование данных без согласия пациента.

Использование биометрических и персональных данных для целей, не связанных с лечением, может привести к злоупотреблениям.

📌 Риск утечки персональных данных.

ПД представляют колоссальный интерес для кибермошенников, которые могут нанести существенный вред гражданам.

📌 Ответственность за ошибки ИИ.

Если система ошибается, кто должен нести ответственность — врач, использующий ее, разработчики, создавшие ее, или владельцы? 

Главнейший принцип защиты персональных данных — концепция минимизации: данные не должны храниться дольше, чем требуется для достижения целей их обработки. Однако главным фактором успеха в работе ИИ является максимизация данных. Возникает конфликт интересов.

❗️Задача государства — соблюсти интересы всех сторон- граждан, бизнеса и государства.

📌 Владение данными.

Они могут быть собраны без явного согласия или даже понимания пациентов.

Пробелы в информационной безопасности ИИ-систем чреваты еще и прямыми угрозами жизни и здоровью. Один из примеров — удаленный взлом кардиостимулятора. В критическом случае это может привести к массовым убийствам. 

❗️Методы решения этических проблем➡️

➖разработка стандартов и правил,

➖ подготовка специалистов,

➖информирование пациентов.

❗️Разработка этических регламентов в медицине — задача чрезвычайной сложности.

С одной стороны, нужно обеспечить развитие инновационных технологий, способных повысить точность диагностики и доступность помощи, оптимизировать ресурсы. С другой — сохранить человеческое измерение медицины, где каждый пациент не просто объект анализа, а субъект с правами, страхами и ожиданиями.

 

Please open Telegram to view this post

VIEW IN TELEGRAM

🔥75❤21👍17💯17👏14🤔13👎6🤝1

www.group-telegram.com/us/ifilato.com/2216

2.66K viewsJun 18 at 08:35

⚡️На состоявшейся в рамках ПМЭФ сессии «Искусственный интеллект в здравоохранении: от технологического прорыва к системным изменениям» выступила с докладом, посвященном этико-правовым коллизиям в этой сфере.

❗️Чем шире ИИ применяется в здравоохранении, тем больше возникает вопросов и конфликтов.

Среди них ➡️

📌 Объяснимость.

При выдаче результатов система не всегда может объяснить, на каком основании она приняла решение.

📌 Предвзятость алгоритмов.

Системы ИИ хороши настолько, насколько хороши данные, на которых они обучаются. Если эти данные неполны или плохо интерпретированы, конечный результат может быть катастрофическим.

📌 Влияние на врачебную практику.

ИИ может изменить роль врачей, сделав их больше консультантами, чем диагностами, что может привести к потере навыков и утрате доверия. 

📌 Использование данных без согласия пациента.

Использование биометрических и персональных данных для целей, не связанных с лечением, может привести к злоупотреблениям.

📌 Риск утечки персональных данных.

ПД представляют колоссальный интерес для кибермошенников, которые могут нанести существенный вред гражданам.

📌 Ответственность за ошибки ИИ.

Если система ошибается, кто должен нести ответственность — врач, использующий ее, разработчики, создавшие ее, или владельцы? 

Главнейший принцип защиты персональных данных — концепция минимизации: данные не должны храниться дольше, чем требуется для достижения целей их обработки. Однако главным фактором успеха в работе ИИ является максимизация данных. Возникает конфликт интересов.

❗️Задача государства — соблюсти интересы всех сторон- граждан, бизнеса и государства.

📌 Владение данными.

Они могут быть собраны без явного согласия или даже понимания пациентов.

Пробелы в информационной безопасности ИИ-систем чреваты еще и прямыми угрозами жизни и здоровью. Один из примеров — удаленный взлом кардиостимулятора. В критическом случае это может привести к массовым убийствам. 

❗️Методы решения этических проблем➡️

➖разработка стандартов и правил,

➖ подготовка специалистов,

➖информирование пациентов.

❗️Разработка этических регламентов в медицине — задача чрезвычайной сложности.

С одной стороны, нужно обеспечить развитие инновационных технологий, способных повысить точность диагностики и доступность помощи, оптимизировать ресурсы. С другой — сохранить человеческое измерение медицины, где каждый пациент не просто объект анализа, а субъект с правами, страхами и ожиданиями.