group-telegram.com/theworldisnoteasy/1904
Last Update:
Не только мир - иллюзия, но и мы сами.
Переворот в научном понимании активного воплощенного разума людей и не только.
В рамках классического и квантового формализмов математически доказано (теорема и 4 следствия), что «самопознание» в основе своей конфабуляторно *), как у людей, так и у других интеллектуальных систем (биологических и нет). Это доказательство будет иметь решающее значение для пересмотра этических и правовых теорий ответственности и намерений людей и ИИ-агентов, а также для понимания нейробиологии политических идеологий и даже для фундаментальных вопросов личностной идентичности и «смысла жизни».
*) Термин "конфабуляторный" (confabulatory) происходит от слова "конфабуляция" (confabulation), которое в медицинском и психологическом контексте означает процесс заполнения пробелов в памяти выдуманными историями или фактами, которые человек считает правдивыми, даже если они не соответствуют действительности. Это не обязательно сознательный процесс, и человек, создающий конфабуляции, может искренне верить в их правдивость. В данном контексте, утверждение о том, что самопознание "фундаментально конфабуляторно", подразумевает, что процессы, посредством которых субъекты (люди и иные агенты) приходят к пониманию себя, в значительной степени основаны на создании историй или объяснений, которые могут не полностью соответствовать объективной реальности. Это может указывать на то, что наше самопознание и понимание собственного внутреннего мира часто строятся на неполных данных, предположениях и интерпретациях, склонных к ошибкам и искажениям.
Работа Криса Филдса, Джеймса Ф. Глейзбрука и Майкла Левина «Принципиальные ограничения на саморепрезентацию общих физических систем» [1] дает ответ на важнейший для понимания осознающего себя разума вопрос
✔️ в какой степени автономные агенты могут считаться «самосознательными» в своих действиях?
Ответ авторов однозначен и математически обоснован:
• добавление компоненту системы на метауровне возможностей наблюдения, репрезентации или управления не может, даже в принципе, вести к полной метауровневой репрезентации системы в целом;
• т.о. саморепрезентация, в лучшем случае, может быть эвристической, а модель самой себя, в принципе, не может быть эмпирически проверена системой, которая её реализует.
Результаты работы могут рассматриваться, как расширение Закона необходимого разнообразия Эшби. Расширение доказывает, что модели «себя» — по сути, аналогичны моделям «других» и подвержены тем же ограничениям, что и модели окружающей среды.
В основе такого расширения лежит объединение двух теоретических фреймворков, о перспективности которого я пишу уже 4 года:
• Фреймворк теории активного вывода на основе принципа свободной энергии Карла Фристона, обеспечивающий общее описание интеллектуальных систем в рамках классического или квантового формализма [2]
• Фреймворк Майкла Левина на основе концепции когнитивного светового конуса CLC (определяющего пространственные и временные ограничения на размер целей, которые может ставить и преследовать агент) и концепции Technological Approach to Mind Everywhere (описывающей, как отдельные компетентные субъединицы - от клеток до людей и машин - могут объединяться в коллективы (сети), которые могут преследовать гораздо более крупные цели в новых проблемных пространствах, тем самым увеличивая их CLC) [3]
Три фундаментальных вывода.
1. Люди и LLM так и останутся «черными ящиками" для самих себя, лишь частично растворяя интроспективное самопознание заменой его на эвристику самомоделирования и конфабуляции.
2. Проблема «галлюцинаций» ИИ моделей в принципе неизбежна и неустранима.
3. Неопределенность и воплощенность - 2 важнейших компонента интеллекта и осознанности, без которых невозможно полное пониманию того, что значит быть активным воплощенным разумом.
#ВоплощенныйИнтеллект #Разум
Рис https://telegra.ph/file/d6414c368d8a9d84c8159.png
1 https://www.mdpi.com/1099-4300/26/3/194
2 https://www.group-telegram.com/kr/theworldisnoteasy.com/1122
3 https://www.group-telegram.com/kr/theworldisnoteasy.com/1173
BY Малоизвестное интересное
Share with your friend now:
group-telegram.com/theworldisnoteasy/1904