roguelike theory

Forwarded from e628b7b7

В твиттере прямо сейчас вирусится тред парня, который натаскал нейросеть на общение в тиндере с целью оптимизации и в итоге сейчас женится (отношения с девушкой в минуты кризисов ему тоже помогала налаживать нейросеть, да).

Я недавно примерно про это и писал — с той лишь разницей, что здесь вся история идет от пользователя, а не от платформы. Но общую картину это только подтверждает: ждем, когда похожие случаи всплывут при найме, (вы оттарабанили два этапа собеседований, а HR/кандидат оказался несуществующим и об этом никого не предупредили), в работе психологов (опять всем советую игру Eliza) или в политике (уверен, спичрайтеры пользуются ChatGPT и его подсказками довольно давно).

Аутсорс эмоций занимает важное место в современной экономике. Запрос на эмоциональную близость — вроде как очень интимную сферу, которая обязательно предполагает общение между живыми людьми и минимум посредников — можно, как оказалось, довольно успешно удовлетворить с помощью алгоритмов. В конце концов, само устройство дейтинг-приложений с их системой мэтчей и рейтингами ELO (как в спортивных лэддерах или на чемпионатах по шахматам) уже активно подталкивает к автоматизации и ускорению конвейерной цепочки. В этом смысле парень из треда просто продолжил логику среды, в которой мы все сейчас существуем и которая на нас успешно паразитирует.

Самым интересным сюжетом здесь, на мой взгляд, является не этичность всего предприятия (понятно ведь, что феномен с нами останется и выжечь его на корню или целиком запретить не получится), а то, какими в недалеком будущем могут стать практики сопротивления этим людям-доппельгангерам. Естественным ответом мне видятся символические сигналы и знаки, с помощью которых можно распознавать других по принципу свой/чужой — старая практика часовых кодов или фраз, птичий язык, который теми кто 'не в теме' просто не считается. Про диалектизмы и местные мемы, непонятные людям из других стран или субкультур, или эвфемизмы в художественной литературе, выбравшие своим объектом критику какого-то конкретного современника, все наверняка слышали.

Получается такая партизанская система, которая будет стараться убедить машину в том, что ты не человек, одновременно сообщая людям теми же самыми методами, что ты человек и нацепил на себя эту маскировку сознательно. Поскольку машина имеет какой-то формализованный по общепринятой норме набор параметров, определяющий 'человечность', самопровозглашенным партизанам придется действовать максимально не-человечески и заново себя выстраивать вне этой нормы.

Проблема таких практик в том, что они очень быстро устаревают: чем большему числу людей известен код, тем менее он надежен при определении другого; секрет Полишинеля уже и не секрет вовсе, обратный тест Тьюринга вряд ли сможет стать универсальным мерилом человека. Главная задача здесь — стать неквантифицируемым и неуловимым для сведения до набора формальных параметров, что в условиях физического мира довольно трудная задача.

Возможно, нас ждет гностическая мода на эксклюзивное, тайное знание, которое ценится в силу своей уникальности и добывается в процессе поиска неоцифрованных источников или опытов, которые не могут быть оцифрованы и сознательно скрываются от других. Греки, например, не рассказывали и не записывали ничего об Элевсинских мистериях и поэтому мы о них практически ничего не знаем. Гностицизм и киберпанк вообще сильно связаны между собой и не воспринимать нейросети как манифестацию архонтов-паразитов нижнего уровня довольно трудно (об этом есть замечательная книжка Эрика Дэвиса 'Техногнозис. Миф, магия и мистицизм в информационную эпоху', написанная еще в 90-е годы).

Пойти пересмотреть первого Блейд Раннера что ли

www.group-telegram.com/kr/roguelike_theory.com/660

3.3K viewsJan 30, 2024 at 21:05

В твиттере прямо сейчас вирусится тред парня, который натаскал нейросеть на общение в тиндере с целью оптимизации и в итоге сейчас женится (отношения с девушкой в минуты кризисов ему тоже помогала налаживать нейросеть, да).

Я недавно примерно про это и писал — с той лишь разницей, что здесь вся история идет от пользователя, а не от платформы. Но общую картину это только подтверждает: ждем, когда похожие случаи всплывут при найме, (вы оттарабанили два этапа собеседований, а HR/кандидат оказался несуществующим и об этом никого не предупредили), в работе психологов (опять всем советую игру Eliza) или в политике (уверен, спичрайтеры пользуются ChatGPT и его подсказками довольно давно).

Аутсорс эмоций занимает важное место в современной экономике. Запрос на эмоциональную близость — вроде как очень интимную сферу, которая обязательно предполагает общение между живыми людьми и минимум посредников — можно, как оказалось, довольно успешно удовлетворить с помощью алгоритмов. В конце концов, само устройство дейтинг-приложений с их системой мэтчей и рейтингами ELO (как в спортивных лэддерах или на чемпионатах по шахматам) уже активно подталкивает к автоматизации и ускорению конвейерной цепочки. В этом смысле парень из треда просто продолжил логику среды, в которой мы все сейчас существуем и которая на нас успешно паразитирует.

Самым интересным сюжетом здесь, на мой взгляд, является не этичность всего предприятия (понятно ведь, что феномен с нами останется и выжечь его на корню или целиком запретить не получится), а то, какими в недалеком будущем могут стать практики сопротивления этим людям-доппельгангерам. Естественным ответом мне видятся символические сигналы и знаки, с помощью которых можно распознавать других по принципу свой/чужой — старая практика часовых кодов или фраз, птичий язык, который теми кто 'не в теме' просто не считается. Про диалектизмы и местные мемы, непонятные людям из других стран или субкультур, или эвфемизмы в художественной литературе, выбравшие своим объектом критику какого-то конкретного современника, все наверняка слышали.

Получается такая партизанская система, которая будет стараться убедить машину в том, что ты не человек, одновременно сообщая людям теми же самыми методами, что ты человек и нацепил на себя эту маскировку сознательно. Поскольку машина имеет какой-то формализованный по общепринятой норме набор параметров, определяющий 'человечность', самопровозглашенным партизанам придется действовать максимально не-человечески и заново себя выстраивать вне этой нормы.

Проблема таких практик в том, что они очень быстро устаревают: чем большему числу людей известен код, тем менее он надежен при определении другого; секрет Полишинеля уже и не секрет вовсе, обратный тест Тьюринга вряд ли сможет стать универсальным мерилом человека. Главная задача здесь — стать неквантифицируемым и неуловимым для сведения до набора формальных параметров, что в условиях физического мира довольно трудная задача.

Возможно, нас ждет гностическая мода на эксклюзивное, тайное знание, которое ценится в силу своей уникальности и добывается в процессе поиска неоцифрованных источников или опытов, которые не могут быть оцифрованы и сознательно скрываются от других. Греки, например, не рассказывали и не записывали ничего об Элевсинских мистериях и поэтому мы о них практически ничего не знаем. Гностицизм и киберпанк вообще сильно связаны между собой и не воспринимать нейросети как манифестацию архонтов-паразитов нижнего уровня довольно трудно (об этом есть замечательная книжка Эрика Дэвиса 'Техногнозис. Миф, магия и мистицизм в информационную эпоху', написанная еще в 90-е годы).

Пойти пересмотреть первого Блейд Раннера что ли

BY roguelike theory