Данила Медведев о пути к Сингулярности

Как набраться понимания про понимание? Как мыслить про мышление? Где взять знания про знания?

Пишу об этом снова, потому что на ЦИПР сегодня была секция "Набраться ума", где опять обсуждали, как же внедрять ИИшечку и как ей доверять.

Мне уже скучно искать новые пути объяснить, что к чему. Но я попробую на кубиках и эмодзи. Обозначим мышление как ➡️, понимание как 💡, знания как 📚.

➡️ Есть процесс мышления (когнитивный), который включает обработку прочитанного, осмысление, размышление и т. д. Для мышления о мышлении вам нужны мета-когниции. Кстати, ещё для мышления вам нужен интеллект (если его нет, то беда). Добавим его в схему как 🧠. Про мышление хорошего написано мало, но кое-что есть (наводки я раньше давал).
💡 В процессе мышления образуется понимание. Понимание — это графовая схема, связывающая разные понятия (концепты, идеи, убеждения) связями в систему. У некоторых исключительных людей (теоретики-педагоги и когнитивщики высшего класса) есть хорошее понимание понимания. То есть схема, описывающая как формируются схемы. Мета-понимание. Опять мета. Чтобы не запутаться в мете, нужно шарить про автореферентность. Те, кто пытались это понять (Кантор, Гедель, Тьюринг, Гротендик и др.), сходили с ума или выпиливались (см. 📘Когда мы перестали понимать мир и др.)
📚 Если зафиксировать (экстернализировать, записать) понимание, то оно формирует знание, которым можно делиться. У нас есть знания о знаниях, знания о мышлении, знания о мета-когнициях, знания о понимании. Все эти знания есть в книжках вроде 📙Knowing What We Know, 📗The Map of Knowledge и пр.

Получается сложная схема, где нам нужен интеллект, чтобы мы могли мыслить для обработки знаний, чтобы сформировать понимание, чтобы у нас появилось полезное знание. И ко всем этим четырём компонентам нам надо ещё применять их самих.

📸 Задание на понимание. Нарисуйте схему этой ситуации на листочке, сфоткайте и киньте в комменты.

Сегодня всё усложняется тем, что знания загружены в LLM-ки, так что кажется, что понимание можно получить одним запросом к чатботу. При этом собственного интеллекта людям и организациям не хватает, так что думать о том, что им ответил чатбот, у них не получается.

Топ-менеджеры и руководители (теперь везде уже есть директора по ИИ) должны что-то понимать, но они не могут, не хотят, плюс не готовы признавать, что они не понимают (см. схему). Если углубиться и почитать аналитику всяких консультантов, например, Делойта, то увидим, что никакой глубины там нет. Есть пафосные, но пустые обращения первых лиц (CEO Делойта), есть отсылки к Ликлайдеру и Энгельбарту, есть много отдельных фрагментов, основанных на текущих новостях. Но нигде нет полноценной системной картины страниц на 5-10, которую можно было бы прочитать и понять, как именно ИИ связан со знаниями, мышлением, пониманием, где это всё есть в организациях и что с этим делать.

А у нас она есть (апробирована на интенсиве для "Абсолюта" и других мероприятиях), но никто не хочет про неё слушать. 😢 Все хотят кейсы успешного внедрения ИИ, даже те самые консультанты Big3/4, которые признают (в личных беседах), что не понимают ничего, но не видят выгоды в том, чтобы понимать.

www.group-telegram.com/sg/danilamedvedev.com/907

1.0K viewsJun 2 at 12:06

Как набраться понимания про понимание? Как мыслить про мышление? Где взять знания про знания?

Пишу об этом снова, потому что на ЦИПР сегодня была секция "Набраться ума", где опять обсуждали, как же внедрять ИИшечку и как ей доверять.

Мне уже скучно искать новые пути объяснить, что к чему. Но я попробую на кубиках и эмодзи. Обозначим мышление как ➡️, понимание как 💡, знания как 📚.

➡️ Есть процесс мышления (когнитивный), который включает обработку прочитанного, осмысление, размышление и т. д. Для мышления о мышлении вам нужны мета-когниции. Кстати, ещё для мышления вам нужен интеллект (если его нет, то беда). Добавим его в схему как 🧠. Про мышление хорошего написано мало, но кое-что есть (наводки я раньше давал).
💡 В процессе мышления образуется понимание. Понимание — это графовая схема, связывающая разные понятия (концепты, идеи, убеждения) связями в систему. У некоторых исключительных людей (теоретики-педагоги и когнитивщики высшего класса) есть хорошее понимание понимания. То есть схема, описывающая как формируются схемы. Мета-понимание. Опять мета. Чтобы не запутаться в мете, нужно шарить про автореферентность. Те, кто пытались это понять (Кантор, Гедель, Тьюринг, Гротендик и др.), сходили с ума или выпиливались (см. 📘Когда мы перестали понимать мир и др.)
📚 Если зафиксировать (экстернализировать, записать) понимание, то оно формирует знание, которым можно делиться. У нас есть знания о знаниях, знания о мышлении, знания о мета-когнициях, знания о понимании. Все эти знания есть в книжках вроде 📙Knowing What We Know, 📗The Map of Knowledge и пр.

Получается сложная схема, где нам нужен интеллект, чтобы мы могли мыслить для обработки знаний, чтобы сформировать понимание, чтобы у нас появилось полезное знание. И ко всем этим четырём компонентам нам надо ещё применять их самих.

📸 Задание на понимание. Нарисуйте схему этой ситуации на листочке, сфоткайте и киньте в комменты.

Сегодня всё усложняется тем, что знания загружены в LLM-ки, так что кажется, что понимание можно получить одним запросом к чатботу. При этом собственного интеллекта людям и организациям не хватает, так что думать о том, что им ответил чатбот, у них не получается.

Топ-менеджеры и руководители (теперь везде уже есть директора по ИИ) должны что-то понимать, но они не могут, не хотят, плюс не готовы признавать, что они не понимают (см. схему). Если углубиться и почитать аналитику всяких консультантов, например, Делойта, то увидим, что никакой глубины там нет. Есть пафосные, но пустые обращения первых лиц (CEO Делойта), есть отсылки к Ликлайдеру и Энгельбарту, есть много отдельных фрагментов, основанных на текущих новостях. Но нигде нет полноценной системной картины страниц на 5-10, которую можно было бы прочитать и понять, как именно ИИ связан со знаниями, мышлением, пониманием, где это всё есть в организациях и что с этим делать.

А у нас она есть (апробирована на интенсиве для "Абсолюта" и других мероприятиях), но никто не хочет про неё слушать. 😢 Все хотят кейсы успешного внедрения ИИ, даже те самые консультанты Big3/4, которые признают (в личных беседах), что не понимают ничего, но не видят выгоды в том, чтобы понимать.

BY Данила Медведев о пути к Сингулярности