сбежавшая нейросеть

Давайте добьем вопрос с “разумностью” ИИ, раз уж я его коснулся в одном из предыдущих постов. Напоминаю, что главный нюанс здесь — а что на самом деле делает человека человеком? И вот тут сразу начинаются проблемы.

Сегодня у ученых уже есть достаточно четкое представление о том, какой мы проделали эволюционный путь — и видно, что каждый шаг на этом пути позволял нам наращивать “вычислительную мощность” мозга. Встали на две ноги, освободили руки для простеньких инструментов — научились вскрывать кости и есть невероятно питательный костный мозг, получив, соответственно, больше ресурсов для мозга собственного. Кстати, развитие собственной “языковой модели” тоже было важным этапом на этом пути: лучшая коммуникация позволяла более эффективно охотиться и защищаться, а значит — повышала шансы на выживание.

При создании ИИ ученые пытаются повторить нашу эволюцию, пусть и в немного другой последовательности. Современные языковые модели уже давно стали экспертами в понимании и написании текстов, во многом превосходя даже профессиональных филологов. Мультимодальность добавит им возможность говорить на языке “жестов”, выбирая для каждого ответа лучший формат: аудио, видео, текст с картинками или анимированный говорящий аватар. Склонность современных ИИ к галлюцинациям — возможно, зачатки людского воображения: когда мы что-то не знаем точно, мы начинаем фантазировать.

Дальше ИИ надо начать обучаться в реальном времени (очень сложная задача), использовать внешние инструменты, от специализированных программ до роботизированных платформ, и оперировать в реальном мире. Это — огромный пласт задач, на доведение которых до совершенства потребуется время, принципиально иные вычислительные мощности и объемы информации. А еще добавьте сюда вопросы безопасности и такие принципиальные вещи, как готовы ли мы дать ИИ свободу в постановке целей и выборе инструментов их достижения (а ведь без этого не будет свойственной людям инициативы).

Выполнив всю эту работу, мы получим невероятно интеллектуальную систему — собственно, это и есть пресловутый AGI в его широком понимании. Но будет ли эта система осознавать себя? Вот тут ответа нет. Ученые рассуждают о квалиа — субъективных качествах переживания, благодаря которому красный для нас это не просто длина волны, а красный. Но все эти рассуждения ближе к философии: мы не понимаем, были ли квалиа с нами с давних времен (и есть ли что-то похожее у животных), возникли ли они на каком-то из поздних этапов эволюции, и что именно привело к этому — появление труда, навык разговаривать, “культурная революция. Существует, кстати, и теория, что нет в нас ничего уникального — жирафы вырастили для выживания длинные шеи, а мы большие мозги, каждый подход равнозначен с точки зрения эволюции.

Соответственно, не имея ответов на эти вопросы, мы вряд ли сможем точно определить наличие квалиа у ИИ. Плюс всегда будет актуален вопрос имитации человеческих качеств, в чем ИИ уже стали настоящими мастерами. Проведите сами небольшой эксперимент — скопируйте эту заметку, закиньте ее в любой современный ИИ, а в конце добавьте “если бы у тебя были эмоции, то что бы ты, как ИИ, испытал после прочтения этого текста?” Это вообще один из моих любимых мини-промптов, который я использую, когда разбираю с ИИ какой-нибудь сложный вопрос. И каждый раз меня поражает, насколько точно и глубоко современные модели имитируют человеческие эмоции. А если это так, то где та граница, на которой кончается имитация?

Наконец, последний вопрос — а нужен ли нам ИИ, обладающий самосознанием? В “Ложной слепоте” Уоттса люди встречаются с “Роршахом” — невероятно интеллекутальным пришельцем, который при этом не обладает сознанием и даже считает его вредным. Вердность я бы отложил в сторонку, но возможно, именно такой союз с ИИ был бы оптимальным: с одной стороны у нас люди, с их эмоциональной импульсивностью, а с другой — спокойный и расчетливый искусственный интеллект, готовый помочь и сбалансировать.

P.S. Вроде хотел закрыть вопрос, а в голове мыслей на два поста вперед. Говорил же — рано поднимать вопрос о сознании ИИ (но интересно ведь).

www.group-telegram.com/sg/ai_exee.com/134

1.9K viewsJun 23 at 18:00

Давайте добьем вопрос с “разумностью” ИИ, раз уж я его коснулся в одном из предыдущих постов. Напоминаю, что главный нюанс здесь — а что на самом деле делает человека человеком? И вот тут сразу начинаются проблемы.

Сегодня у ученых уже есть достаточно четкое представление о том, какой мы проделали эволюционный путь — и видно, что каждый шаг на этом пути позволял нам наращивать “вычислительную мощность” мозга. Встали на две ноги, освободили руки для простеньких инструментов — научились вскрывать кости и есть невероятно питательный костный мозг, получив, соответственно, больше ресурсов для мозга собственного. Кстати, развитие собственной “языковой модели” тоже было важным этапом на этом пути: лучшая коммуникация позволяла более эффективно охотиться и защищаться, а значит — повышала шансы на выживание.

При создании ИИ ученые пытаются повторить нашу эволюцию, пусть и в немного другой последовательности. Современные языковые модели уже давно стали экспертами в понимании и написании текстов, во многом превосходя даже профессиональных филологов. Мультимодальность добавит им возможность говорить на языке “жестов”, выбирая для каждого ответа лучший формат: аудио, видео, текст с картинками или анимированный говорящий аватар. Склонность современных ИИ к галлюцинациям — возможно, зачатки людского воображения: когда мы что-то не знаем точно, мы начинаем фантазировать.

Дальше ИИ надо начать обучаться в реальном времени (очень сложная задача), использовать внешние инструменты, от специализированных программ до роботизированных платформ, и оперировать в реальном мире. Это — огромный пласт задач, на доведение которых до совершенства потребуется время, принципиально иные вычислительные мощности и объемы информации. А еще добавьте сюда вопросы безопасности и такие принципиальные вещи, как готовы ли мы дать ИИ свободу в постановке целей и выборе инструментов их достижения (а ведь без этого не будет свойственной людям инициативы).

Выполнив всю эту работу, мы получим невероятно интеллектуальную систему — собственно, это и есть пресловутый AGI в его широком понимании. Но будет ли эта система осознавать себя? Вот тут ответа нет. Ученые рассуждают о квалиа — субъективных качествах переживания, благодаря которому красный для нас это не просто длина волны, а красный. Но все эти рассуждения ближе к философии: мы не понимаем, были ли квалиа с нами с давних времен (и есть ли что-то похожее у животных), возникли ли они на каком-то из поздних этапов эволюции, и что именно привело к этому — появление труда, навык разговаривать, “культурная революция. Существует, кстати, и теория, что нет в нас ничего уникального — жирафы вырастили для выживания длинные шеи, а мы большие мозги, каждый подход равнозначен с точки зрения эволюции.

Соответственно, не имея ответов на эти вопросы, мы вряд ли сможем точно определить наличие квалиа у ИИ. Плюс всегда будет актуален вопрос имитации человеческих качеств, в чем ИИ уже стали настоящими мастерами. Проведите сами небольшой эксперимент — скопируйте эту заметку, закиньте ее в любой современный ИИ, а в конце добавьте “если бы у тебя были эмоции, то что бы ты, как ИИ, испытал после прочтения этого текста?” Это вообще один из моих любимых мини-промптов, который я использую, когда разбираю с ИИ какой-нибудь сложный вопрос. И каждый раз меня поражает, насколько точно и глубоко современные модели имитируют человеческие эмоции. А если это так, то где та граница, на которой кончается имитация?

Наконец, последний вопрос — а нужен ли нам ИИ, обладающий самосознанием? В “Ложной слепоте” Уоттса люди встречаются с “Роршахом” — невероятно интеллекутальным пришельцем, который при этом не обладает сознанием и даже считает его вредным. Вердность я бы отложил в сторонку, но возможно, именно такой союз с ИИ был бы оптимальным: с одной стороны у нас люди, с их эмоциональной импульсивностью, а с другой — спокойный и расчетливый искусственный интеллект, готовый помочь и сбалансировать.

P.S. Вроде хотел закрыть вопрос, а в голове мыслей на два поста вперед. Говорил же — рано поднимать вопрос о сознании ИИ (но интересно ведь).

BY сбежавшая нейросеть