LawCoder

Заблуждение о математических способностях

Особое внимание в своих видео Карпати уделяет заблуждению о математических способностях LLM. Популярнейший мем, который он разбирает - неспособность некоторых моделей правильно сравнить числа 9.11 и 9.9. Модели довольно часто ошибочно отвечают, что 9.11 больше 9.9, что кажется абсурдным.

Карпати объясняет, что эта ошибка возникает из-за того, что модель обнаруживает корреляцию с библейскими стихами, где 9:11 действительно следует после 9:9 в порядке нумерации. Это демонстрирует, как LLM полагаются на статистические паттерны из обучающих данных, а не на логическое понимание арифметики.

Одним из возможных решением этой проблемы по мнению Карпати является просьба к модели использовать программный код для вычислений вместо "ментальной арифметики".

Поэтому и я тоже не советую вам пихать свои таблички в чат жипити с просьбой что-то посчитать. Он сделает и без проверки будет казаться, что все очень круто, но с вероятностью 99% там будет все очень печально. Не подставляйтесь так, лучше попросите его написать вам скрипт на GAS, запустив который все будет посчитано как надо, с помощью надежных алгоритмов, а не галлюцинаций ИИ.

Это серия постов с заблуждениями об ЛЛМ. Предыдущие здесь, здесь и здесь.

LawCoder

www.group-telegram.com/it/law_coder.com/197

453 viewsВладимир Глебовец, Jun 7 at 08:02

Заблуждение о математических способностях

Особое внимание в своих видео Карпати уделяет заблуждению о математических способностях LLM. Популярнейший мем, который он разбирает - неспособность некоторых моделей правильно сравнить числа 9.11 и 9.9. Модели довольно часто ошибочно отвечают, что 9.11 больше 9.9, что кажется абсурдным.

Карпати объясняет, что эта ошибка возникает из-за того, что модель обнаруживает корреляцию с библейскими стихами, где 9:11 действительно следует после 9:9 в порядке нумерации. Это демонстрирует, как LLM полагаются на статистические паттерны из обучающих данных, а не на логическое понимание арифметики.

Одним из возможных решением этой проблемы по мнению Карпати является просьба к модели использовать программный код для вычислений вместо "ментальной арифметики".

Поэтому и я тоже не советую вам пихать свои таблички в чат жипити с просьбой что-то посчитать. Он сделает и без проверки будет казаться, что все очень круто, но с вероятностью 99% там будет все очень печально. Не подставляйтесь так, лучше попросите его написать вам скрипт на GAS, запустив который все будет посчитано как надо, с помощью надежных алгоритмов, а не галлюцинаций ИИ.

Это серия постов с заблуждениями об ЛЛМ. Предыдущие здесь, здесь и здесь.

LawCoder

BY LawCoder