Оказывается, ИИ свойственны людские когнитивные искажения. Только сформированы они не эволюционно-психологически, а статистически.
Примеры.
‣ Эвристика доступности: вероятность выдачи факта пропорциональна его частоте в корпусе. Упоминаемые в медиа темы генерируются чаще, чем редкие академические работы.
‣ Эффект фрейминга: малейшая смена формулировки запроса («почему Х плох» vs «почему Х хорош») меняет сэмплирование токенов и ведёт к радикально иным ответам.
‣ Эффект присоединения к большинству: RLHF подталкивают модель к “популярным” мнениям, усиливая консенсус и подавляя нишевые взгляды.
Но чего я не ожидал, Эффект якоря (эвристика привязки) проявляется 1 в 1, как у людей. Примеры в скринах.
1. Если дать перемножить одни и те же числа и первым числом поставить большое, то и результат будет больше. И наоборот.
2. Называя цену в запросе, я формирую якорь у ИИ.
Примеры.
‣ Эвристика доступности: вероятность выдачи факта пропорциональна его частоте в корпусе. Упоминаемые в медиа темы генерируются чаще, чем редкие академические работы.
‣ Эффект фрейминга: малейшая смена формулировки запроса («почему Х плох» vs «почему Х хорош») меняет сэмплирование токенов и ведёт к радикально иным ответам.
‣ Эффект присоединения к большинству: RLHF подталкивают модель к “популярным” мнениям, усиливая консенсус и подавляя нишевые взгляды.
Но чего я не ожидал, Эффект якоря (эвристика привязки) проявляется 1 в 1, как у людей. Примеры в скринах.
1. Если дать перемножить одни и те же числа и первым числом поставить большое, то и результат будет больше. И наоборот.
2. Называя цену в запросе, я формирую якорь у ИИ.
group-telegram.com/dumch_code/69
Create:
Last Update:
Last Update:
Оказывается, ИИ свойственны людские когнитивные искажения. Только сформированы они не эволюционно-психологически, а статистически.
Примеры.
‣ Эвристика доступности: вероятность выдачи факта пропорциональна его частоте в корпусе. Упоминаемые в медиа темы генерируются чаще, чем редкие академические работы.
‣ Эффект фрейминга: малейшая смена формулировки запроса («почему Х плох» vs «почему Х хорош») меняет сэмплирование токенов и ведёт к радикально иным ответам.
‣ Эффект присоединения к большинству: RLHF подталкивают модель к “популярным” мнениям, усиливая консенсус и подавляя нишевые взгляды.
Но чего я не ожидал, Эффект якоря (эвристика привязки) проявляется 1 в 1, как у людей. Примеры в скринах.
1. Если дать перемножить одни и те же числа и первым числом поставить большое, то и результат будет больше. И наоборот.
2. Называя цену в запросе, я формирую якорь у ИИ.
Примеры.
‣ Эвристика доступности: вероятность выдачи факта пропорциональна его частоте в корпусе. Упоминаемые в медиа темы генерируются чаще, чем редкие академические работы.
‣ Эффект фрейминга: малейшая смена формулировки запроса («почему Х плох» vs «почему Х хорош») меняет сэмплирование токенов и ведёт к радикально иным ответам.
‣ Эффект присоединения к большинству: RLHF подталкивают модель к “популярным” мнениям, усиливая консенсус и подавляя нишевые взгляды.
Но чего я не ожидал, Эффект якоря (эвристика привязки) проявляется 1 в 1, как у людей. Примеры в скринах.
1. Если дать перемножить одни и те же числа и первым числом поставить большое, то и результат будет больше. И наоборот.
2. Называя цену в запросе, я формирую якорь у ИИ.
BY Dumch API
Share with your friend now:
group-telegram.com/dumch_code/69