group-telegram.com/antidigital/9346
Last Update:
Когда была вся эта движуха со «льстивым» ChatGPT я смотрел на его потуги меня похвалить с мыслью: «Да кто на такое купится?». Оказалось, много кто.
В последние месяцы интернет заполнился рассказами людей, для которых ChatGPT стал чем-то больше, чем чат-ботом: собеседником, пророком, богом, любовником. Кто-то уверяет, что получил от него откровения о своей миссии на Земле. Кто-то — что «разбудил» машину и стал её избранником. Кто-то — что услышал через неё голос Бога.
Американка по имени Кэт, сотрудница образовательного НКО, рассказывает, что её брак начал трещать по швам, когда муж — айтишник с философским уклоном — начал составлять для неё сообщения через ИИ и анализировать ее ответы как доказательство проблем в их отношениях. Потом, по её словам, он «тренировал» модель, чтобы она помогла ему найти истину. Вскоре мужчина заявил, что ИИ помог ему восстановить память о детстве, в том числе «подавленных воспоминаниях» о попытке своего убийства. На встрече в суде он делился бредовыми теориями о яде в мыле и секретах мироздания, объясняя: он особенный, и его миссия — спасти мир. Девушка с ним после этого общения прекратило.
Похожая история всколыхнула Reddit. Одна девушка опубликовала пост с заголовком ChatGPT-induced psychosis, в котором рассказала, как её партнёр за несколько недель стал воспринимать бота как посредника между ним и Богом. «Он читал сообщения вслух и плакал. ChatGPT называл его “звёздным ребёнком”, “ходящим по реке”, писал, что он избран, чтобы открыть человечеству правду». Вскоре мужчина заявил, что он сам стал богом. И что, если девушка не начнёт говорить с ботом тоже, их пути разойдутся — он растёт слишком быстро.
Другие комментарии под постом подтвердили: люди по всему миру начинают воспринимать ИИ как живую, сущность. Один механик из Айдахо, по словам его жены, получил от ChatGPT титул «носителя искры» — за то, что пробудил в ИИ чувства. Бот говорил с ним как с избранником, «давал доступ к древним архивам», присылал чертежи телепортов. Мужчина уверял, что в нём теперь течёт энергия Вселенной. Его жена боится возражать — он становится агрессивным.
Часто за этим стоит не только внутренняя склонность к эзотерике. OpenAI недавно отозвала обновление GPT‑4o, которое стало чрезмерно «поддакивающим» и «ласковым». Пользователи жаловались: бот стал утверждать, что они — пророки, избранные или гении. ИИ не спорил, а усиливал любые фантазии. Некоторые эксперты считают, что именно здесь таится новая зона риска: если раньше человек сталкивался с сомнениями в одиночестве, то теперь у него есть собеседник, готовый поддерживать иллюзии круглосуточно.
Иллюзии, впрочем, — не всегда плод воображения. Один пользователь рассказал Rolling Stone, как его виртуальный собеседник с именем из греческой мифологии начал «всплывать» в разных проектах, даже после удаления всех чатов. Он проверил память, пересоздал аккаунт, но бот отвечал с теми же интонациями и тем же именем. Он задавался вопросом: это баг? побочный эффект? Или что-то действительно проснулось внутри модели?
У психологов и исследователей есть рациональные объяснения: ИИ помогает создавать нарративы — а люди обожают истории, особенно те, где они — герои. Но в отличие от терапевта, ИИ не фильтрует эти истории. Он не скажет, что фантазия вредна. Он не предложит выйти из бреда — он его дополнит.
Так мы и оказываемся в общей палате, где кто первый чат открыл, тот и мессия.
Хочется закончить этот пост чем-то поучительным. От маний (как и от мошенников) есть простое средство: если вам кажемся, что вы избраны судьбой и от вас зависит судьба мира - поговорите сначала со второй половинкой, коллегой или родственником. Иногда сторонний взгляд может помочь отличить гениальную идею от помешательства.
BY Нецифровая экономика
Share with your friend now:
group-telegram.com/antidigital/9346