Obraz

Один комментарий заставил задуматься.
Его автор использовал ЧатДЖПТ (по его словам) для анализа моего поста.

Анализ получился очень типа критическим — с указанием на логические ошибки и искажения.

Но!
Прикол в том, что их в посте нет ))

Я не знаю, какой был промпт, но это интересное явление.
Казалось бы, ИИ должен помогать людям исправлять ошибки.
А не тут-то было.

Это ведь, по сути, те же алгоритмы, которые действуют как увеличительное стекло человека.

Смотря как попросишь.
Смотря что накопилось в чате о тебе.
От этого и зависит, что он тебе ответит.

ИИ работает по принципу рассказа Азимова «Лжец!» (одного из моих любимых). Очень советую прочесть.

В той истории робот умел читать мысли,
но из-за запрета на причинение вреда — не мог говорить людям неприятную правду.
Поэтому он врал.
Говорил то, что они хотели услышать.
В итоге всех это разрушило.

Сегодня ИИ уже не боится нас ранить —
но по-прежнему говорит то, что мы «просим» услышать.
Даже если это красиво упакованная ошибка.

Так можно и «оправдать» войну

Потому что ИИ может ублажать, ошибаться и галлюцинировать, как любой человек.

А теперь вопрос.
Много ли защитников войны просят ИИ быть максимально критичными к самим себе, и по три раза перепроверять факты, чтобы говорить именно правду?

И ещё интересно:
А что было бы, если бы каждый зетник просил ИИ отвечать так,
словно тот — ИИсус?

Было бы тогда больно?
Или крестик они давно сняли…

www.group-telegram.com/ca/obrazpublic.com/904

4.0K viewsMar 25 at 13:27

Один комментарий заставил задуматься.
Его автор использовал ЧатДЖПТ (по его словам) для анализа моего поста.

Анализ получился очень типа критическим — с указанием на логические ошибки и искажения.

Но!
Прикол в том, что их в посте нет ))

Я не знаю, какой был промпт, но это интересное явление.
Казалось бы, ИИ должен помогать людям исправлять ошибки.
А не тут-то было.

Это ведь, по сути, те же алгоритмы, которые действуют как увеличительное стекло человека.

Смотря как попросишь.
Смотря что накопилось в чате о тебе.
От этого и зависит, что он тебе ответит.

ИИ работает по принципу рассказа Азимова «Лжец!» (одного из моих любимых). Очень советую прочесть.

В той истории робот умел читать мысли,
но из-за запрета на причинение вреда — не мог говорить людям неприятную правду.
Поэтому он врал.
Говорил то, что они хотели услышать.
В итоге всех это разрушило.

Сегодня ИИ уже не боится нас ранить —
но по-прежнему говорит то, что мы «просим» услышать.
Даже если это красиво упакованная ошибка.

Так можно и «оправдать» войну

Потому что ИИ может ублажать, ошибаться и галлюцинировать, как любой человек.

А теперь вопрос.
Много ли защитников войны просят ИИ быть максимально критичными к самим себе, и по три раза перепроверять факты, чтобы говорить именно правду?

И ещё интересно:
А что было бы, если бы каждый зетник просил ИИ отвечать так,
словно тот — ИИсус?

Было бы тогда больно?
Или крестик они давно сняли…

BY Obraz