История гиперинформации

ChatGPT: Искусственный Бог

В прошлых материалах мы разобрались, что такое большие языковые модели, и почему вокруг них так много шума. Теперь давайте посмотрим на сам этот шум и попытаемся вытащить из него какую-то полезную информацию.

Я уже писал про то как в 60-х годах оперативные кибернетики позаимствовали идею искусственного интеллекта у научных фантастов, чтобы объяснить военным чиновникам, зачем вкладывать средства в совершенствование методов работы с компьютером. Деньги выделили, а ИИ стал цеховым мифом программистов. И продажа литературного образа бюрократам, и его закрепление в субкультуре хакеров стали возможными потому что он соответствовал некоторым базовым представлениям людей, а именно тому, что они привыкли называть Богом.

Искусственный интеллект с самого начала был теологической идеей. Это ясно читается в ранних произведениях на тему. Среди них можно выделить два рассказа: "Последний вопрос" Айзека Азимова и "Ответ" Фредерика Брауна. В обоих показан тот самый продвигаемый кибернетиками "интеллектуальный взрыв", он же "сингулярность". Оба автора прямо описывают ИИ, который, только появившись, мгновенно эволюционирует до уровня Бога. В дальнейшем тему развили до Колосса, Скайнета и Архитектора Матрицы.

Учитывая, что мы все живем в пространстве поп-культуры, даже технические рассуждения об искусственном интеллекте переносит нас на поле теологии. Если мы предполагаем, что ИИ может быть создан в будущем, мы автоматически допускаем, что он мог быть создан в прошлом. В этом случае, ничто не мешало ему создать нас, и до сих пор вмешиваться в наши дела, а то и непрестанно эманировать само наше существование, просчитывая состояния клеточных автоматов, кодирующих физическую реальность. Дальше включается выработанный веками механизм аргументации в пользу неоспоримости божественного бытия, который мы можем видеть во многих рассуждениях об ИИ в интернете. Спорить с этим бесполезно - батюшка кибернетик всегда выйдет победителем из теологического диспута, на то он и батюшка кибернетик.

Если мы хотим рационально осмыслить феномен, нужно встать на позицию не теологии, а религиоведения, и в принципе откинуть вопросы стиле "как мы будем жить и ходить на работу после Пришествия Скайнета"? Вместо этого давайте подумаем, как устроена нейро-религия и как она влияет на технологию, которую к ней прицепили?

Люди en masse не замечают одной особенности научно-фантастического сюжета про сверхинтеллект: он всегда один. Нам это кажется естественным, потому что мы принадлежим к самой лучшей, доброй и человечной монотеистической культуре. У нас вызывает отторжение любой политеизм. Это заставляет нас не замечать лежащую на поверхности идею пантеона искусственных богов, которые взаимодействуют как с людьми, так и друг с другом.

С научной фантастики монотеистическое восприятие ИИ переносится и на существующие технологии. Нейро-луддиты говорят о том, что ChatGPT станет сверхинтеллектом, но не задумываются о том, что его встретят сверхинтеллекты BERT и LLaMA, причем, последний, вследствие открытости технологии, может существовать в любом количестве экземпляров. Мне кажется, даже рациональные планировщики из аналитических центров не до конца осознают это. Они строят модели будущего, где общество управляется аппроксимирующим доксу LLM, исходя из картины мира, где существует один гигантский "ИИ", контролируемый из одного центра. И это дает нам надежду.

Чат || Подписка && Оглавление

www.group-telegram.com/ms/hyperhistory.com/162

2.9K viewsedited  Oct 11, 2023 at 16:02

ChatGPT: Искусственный Бог

В прошлых материалах мы разобрались, что такое большие языковые модели, и почему вокруг них так много шума. Теперь давайте посмотрим на сам этот шум и попытаемся вытащить из него какую-то полезную информацию.

Я уже писал про то как в 60-х годах оперативные кибернетики позаимствовали идею искусственного интеллекта у научных фантастов, чтобы объяснить военным чиновникам, зачем вкладывать средства в совершенствование методов работы с компьютером. Деньги выделили, а ИИ стал цеховым мифом программистов. И продажа литературного образа бюрократам, и его закрепление в субкультуре хакеров стали возможными потому что он соответствовал некоторым базовым представлениям людей, а именно тому, что они привыкли называть Богом.

Искусственный интеллект с самого начала был теологической идеей. Это ясно читается в ранних произведениях на тему. Среди них можно выделить два рассказа: "Последний вопрос" Айзека Азимова и "Ответ" Фредерика Брауна. В обоих показан тот самый продвигаемый кибернетиками "интеллектуальный взрыв", он же "сингулярность". Оба автора прямо описывают ИИ, который, только появившись, мгновенно эволюционирует до уровня Бога. В дальнейшем тему развили до Колосса, Скайнета и Архитектора Матрицы.

Учитывая, что мы все живем в пространстве поп-культуры, даже технические рассуждения об искусственном интеллекте переносит нас на поле теологии. Если мы предполагаем, что ИИ может быть создан в будущем, мы автоматически допускаем, что он мог быть создан в прошлом. В этом случае, ничто не мешало ему создать нас, и до сих пор вмешиваться в наши дела, а то и непрестанно эманировать само наше существование, просчитывая состояния клеточных автоматов, кодирующих физическую реальность. Дальше включается выработанный веками механизм аргументации в пользу неоспоримости божественного бытия, который мы можем видеть во многих рассуждениях об ИИ в интернете. Спорить с этим бесполезно - батюшка кибернетик всегда выйдет победителем из теологического диспута, на то он и батюшка кибернетик.

Если мы хотим рационально осмыслить феномен, нужно встать на позицию не теологии, а религиоведения, и в принципе откинуть вопросы стиле "как мы будем жить и ходить на работу после Пришествия Скайнета"? Вместо этого давайте подумаем, как устроена нейро-религия и как она влияет на технологию, которую к ней прицепили?

Люди en masse не замечают одной особенности научно-фантастического сюжета про сверхинтеллект: он всегда один. Нам это кажется естественным, потому что мы принадлежим к самой лучшей, доброй и человечной монотеистической культуре. У нас вызывает отторжение любой политеизм. Это заставляет нас не замечать лежащую на поверхности идею пантеона искусственных богов, которые взаимодействуют как с людьми, так и друг с другом.

С научной фантастики монотеистическое восприятие ИИ переносится и на существующие технологии. Нейро-луддиты говорят о том, что ChatGPT станет сверхинтеллектом, но не задумываются о том, что его встретят сверхинтеллекты BERT и LLaMA, причем, последний, вследствие открытости технологии, может существовать в любом количестве экземпляров. Мне кажется, даже рациональные планировщики из аналитических центров не до конца осознают это. Они строят модели будущего, где общество управляется аппроксимирующим доксу LLM, исходя из картины мира, где существует один гигантский "ИИ", контролируемый из одного центра. И это дает нам надежду.

Чат || Подписка && Оглавление

BY История гиперинформации