group-telegram.com/obrazpublic/904
Last Update:
Один комментарий заставил задуматься.
Его автор использовал ЧатДЖПТ (по его словам) для анализа моего поста.
Анализ получился очень типа критическим — с указанием на логические ошибки и искажения.
Но!
Прикол в том, что их в посте нет ))
Я не знаю, какой был промпт, но это интересное явление.
Казалось бы, ИИ должен помогать людям исправлять ошибки.
А не тут-то было.
Это ведь, по сути, те же алгоритмы, которые действуют как увеличительное стекло человека.
Смотря как попросишь.
Смотря что накопилось в чате о тебе.
От этого и зависит, что он тебе ответит.
ИИ работает по принципу рассказа Азимова «Лжец!» (одного из моих любимых). Очень советую прочесть.
В той истории робот умел читать мысли,
но из-за запрета на причинение вреда — не мог говорить людям неприятную правду.
Поэтому он врал.
Говорил то, что они хотели услышать.
В итоге всех это разрушило.
Сегодня ИИ уже не боится нас ранить —
но по-прежнему говорит то, что мы «просим» услышать.
Даже если это красиво упакованная ошибка.
Так можно и «оправдать» войну
Потому что ИИ может ублажать, ошибаться и галлюцинировать, как любой человек.
А теперь вопрос.
Много ли защитников войны просят ИИ быть максимально критичными к самим себе, и по три раза перепроверять факты, чтобы говорить именно правду?
И ещё интересно:
А что было бы, если бы каждый зетник просил ИИ отвечать так,
словно тот — ИИсус?
Было бы тогда больно?
Или крестик они давно сняли…
BY Obraz
Share with your friend now:
group-telegram.com/obrazpublic/904