soloveev: жизнь на марсе 👩‍🎤

0:08

This media is not supported in your browser

VIEW IN TELEGRAM

Синтетические мускулы

Исследователи, использующие LLM, заметили особенность людей воспринимать инсайты с исследования, предоставляемые людьми, как яркие и верные, а такие же при выдачи из LLM как не заслуживающие внимания.

Несколько медицинских исследований (ссылка 1, ссылка 2, ссылка 3) показали парадоксальный результат:

➡️ LLM диагностировал точнее врачей, которые использовали ИИ как помощника. Врачи игнорировали рекомендации искусственного интеллекта, особенно когда они противоречили их собственным выводам. Вместо комплексного анализа истории болезни врачи использовали ИИ как обычный поисковик, задавая узкие вопросы для подтверждения их первоначальных оценок. Причина — чрезмерная уверенность врачей в собственной компетентности и непонимание диагностических возможностей ИИ.

Синтетические мускулы — это навык использовать данные LLM как ценные и важные и улучшать с помощью них качество своей работы.

Прокачивать их нужно вместе с эпистимологической бдительностью и пониманием как ИИ создает знание.

Но это пока.

Метафора синтетических мускулов подразумевает, что ИИ — это инструмент, расширение, дополнение. Это ограничивающая метафора. ИИ становится полноценным агентом в нашем мире и относиться к нему нужно именно как к агенту.

Please open Telegram to view this post

VIEW IN TELEGRAM

www.group-telegram.com/us/dsoloveev.com/583

1.5K viewsedited  Jun 4 at 08:46

Синтетические мускулы

Исследователи, использующие LLM, заметили особенность людей воспринимать инсайты с исследования, предоставляемые людьми, как яркие и верные, а такие же при выдачи из LLM как не заслуживающие внимания.

Несколько медицинских исследований (ссылка 1, ссылка 2, ссылка 3) показали парадоксальный результат:

➡️ LLM диагностировал точнее врачей, которые использовали ИИ как помощника. Врачи игнорировали рекомендации искусственного интеллекта, особенно когда они противоречили их собственным выводам. Вместо комплексного анализа истории болезни врачи использовали ИИ как обычный поисковик, задавая узкие вопросы для подтверждения их первоначальных оценок. Причина — чрезмерная уверенность врачей в собственной компетентности и непонимание диагностических возможностей ИИ.

Синтетические мускулы — это навык использовать данные LLM как ценные и важные и улучшать с помощью них качество своей работы.

Прокачивать их нужно вместе с эпистимологической бдительностью и пониманием как ИИ создает знание.

Но это пока.

Метафора синтетических мускулов подразумевает, что ИИ — это инструмент, расширение, дополнение. Это ограничивающая метафора. ИИ становится полноценным агентом в нашем мире и относиться к нему нужно именно как к агенту.