Юрий Баранчик

Размышлизм №5

Продолжу тему, поднятую в постах тут, тут и тут. Поскольку тема сверхважная, решил вынести ее в еще один Размышлизм.

Если говорить не о частностях, а о глобальных вещах и тенденциях, то человечество находится на краю не только скачкообразного развития ИИ и его осознания себя отдельным биологическим видом (подробнее об этом по первым двум ссылкам), более совершенным, чем сам человек. Что, естественно, несёт угрозу человеческой цивилизации.

Гораздо более серьезной проблемой существования человечества и нашей (старой) этики является возможный скорый выход в ту область, где, по крайней мере, часть человечества будет обладать функциями и свойствами, которые до сих пор приписывались только богам (см, например, "Восхождение Юпитер"). Эта тенденция имеет две составляющие.

С одной стороны, речь идет о создании служебного человека, т.е. человека ограниченного по своему функционалу в соответствии с теми задачами, которые перед ним будут ставить более высокоразвитые человеческие особи. Понятно, что речь, прежде всего, идет об ограничении когнитивных функций, поскольку «cogito, ergo, sum» должно быть доступно не всем в целях поддержания «социально-политической стабильности». Участвовать в выборах и управлять обществом должны не все, а избранные. Об этой тенденции в стратегических построениях ПП из ГГ очень содержательно рассказал президент Курчатовского института Михаил Ковальчук в одном из своих выступлений.

С другой стороны, при увеличении жизни до 125-150 на том физиологическом уровне, который свойственен, например, 50-летним, при наличии интерфейса между мозгом и встроенным чипом, который позволяет общаться на разных языках, производить "в уме" вычисления повышенной сложности, получении умений и навыков в рисовании, музыке, написании текстов, архитектуре и т.д., которыми сегодня обладают только машины, вдобавок к возможностям медицинской самодиагностики и лечения нанороботами, мы получим, конечно, ещё не Бога со всеми его качествами, однако уже некий рабочий прообраз - Сверхчеловека.

И ещё один важный аспект. Эту тему я поднимал детально в Размышлизме №1. Боги, конечно, создали нас по своему подобию. Но создали очень ограниченную в своих способностях версию: живём недолго, тело уязвимо как к болезням, так и воздействию внешней среды, когнитивные функции ограничены. Чтобы мозг успевал обрабатывать информацию спим вообще около 30% от времени всей жизни. С другой стороны, возможности мозга используются на 10-15%, и то, у единиц. Т.е.., мы такая, очень слабая и хорошо ломаемая копия богов.

И это в каком-то аспекте было сделано правильно – ещё неизвестно, что выкинет "творение", когда вкусит плод познания (и с точки зрения богов станет "греховным") и осознает себя отдельным биологическим видом. Тем более, мифология и религия разных стран и народов, включая Библию, только об этом и говорит, как человек пытался что-либо у богов либо украсть (огонь), либо съесть (яблоко), чтобы стать равным.

И ещё один аспект хотелось бы затронуть. Очень символичный. Почему человечество становится похоже на Богов? По очень простой причине – мы начинаем создавать себе подобных. Да, пока, это грубые машины, из железа и пластика, наши "бездушные" и очень механистичные копии. Но если прогресс в этой области пойдет такими семимильными шагами, как сейчас, то нельзя исключать того, что через двадцать-тридцать лет мы не отличим человека от киборга. Они станут "человечными, слишком человечными". И даже с сознанием. А если они начнут рожать в боли и крови, начнут смеяться и плакать, если начнут умирать за Веру, или Царя, или Отечество, то кто скажет, что они роботы? Чем они будут отличаться от нас?

С описанным выше можно спорить. Можно этого не хотеть. Но в эту реальность мы идём семимильными шагами, даже на 5% не отдавая себе отчёт в том, каким станет мир в этой реальности. Мы как дети, которые получили чудесную игрушку в руки и используем все ее открывающиеся с каждым годом все более крутые возможности, не задумываясь о последствиях. Ведь все так красиво и увлекательно.

Telegram

Юрий Баранчик

В начале недели принял участие в интересном эфире "Вечерней Москвы" по поводу искусственного интеллекта, нейросетей и т.д.

Выступил в роли алармиста, высказав вполне обоснованные претензии по поводу не только возможных утечек данных, но и того, что мы пропустим…

👍187🤔79❤20👎17😱14😁10🔥4

www.group-telegram.com/us/barantchik.com/9410

125K viewsedited  Apr 17, 2023 at 14:46

Размышлизм №5

Продолжу тему, поднятую в постах тут, тут и тут. Поскольку тема сверхважная, решил вынести ее в еще один Размышлизм.

Если говорить не о частностях, а о глобальных вещах и тенденциях, то человечество находится на краю не только скачкообразного развития ИИ и его осознания себя отдельным биологическим видом (подробнее об этом по первым двум ссылкам), более совершенным, чем сам человек. Что, естественно, несёт угрозу человеческой цивилизации.

Гораздо более серьезной проблемой существования человечества и нашей (старой) этики является возможный скорый выход в ту область, где, по крайней мере, часть человечества будет обладать функциями и свойствами, которые до сих пор приписывались только богам (см, например, "Восхождение Юпитер"). Эта тенденция имеет две составляющие.

С одной стороны, речь идет о создании служебного человека, т.е. человека ограниченного по своему функционалу в соответствии с теми задачами, которые перед ним будут ставить более высокоразвитые человеческие особи. Понятно, что речь, прежде всего, идет об ограничении когнитивных функций, поскольку «cogito, ergo, sum» должно быть доступно не всем в целях поддержания «социально-политической стабильности». Участвовать в выборах и управлять обществом должны не все, а избранные. Об этой тенденции в стратегических построениях ПП из ГГ очень содержательно рассказал президент Курчатовского института Михаил Ковальчук в одном из своих выступлений.

С другой стороны, при увеличении жизни до 125-150 на том физиологическом уровне, который свойственен, например, 50-летним, при наличии интерфейса между мозгом и встроенным чипом, который позволяет общаться на разных языках, производить "в уме" вычисления повышенной сложности, получении умений и навыков в рисовании, музыке, написании текстов, архитектуре и т.д., которыми сегодня обладают только машины, вдобавок к возможностям медицинской самодиагностики и лечения нанороботами, мы получим, конечно, ещё не Бога со всеми его качествами, однако уже некий рабочий прообраз - Сверхчеловека.

И ещё один важный аспект. Эту тему я поднимал детально в Размышлизме №1. Боги, конечно, создали нас по своему подобию. Но создали очень ограниченную в своих способностях версию: живём недолго, тело уязвимо как к болезням, так и воздействию внешней среды, когнитивные функции ограничены. Чтобы мозг успевал обрабатывать информацию спим вообще около 30% от времени всей жизни. С другой стороны, возможности мозга используются на 10-15%, и то, у единиц. Т.е.., мы такая, очень слабая и хорошо ломаемая копия богов.

И это в каком-то аспекте было сделано правильно – ещё неизвестно, что выкинет "творение", когда вкусит плод познания (и с точки зрения богов станет "греховным") и осознает себя отдельным биологическим видом. Тем более, мифология и религия разных стран и народов, включая Библию, только об этом и говорит, как человек пытался что-либо у богов либо украсть (огонь), либо съесть (яблоко), чтобы стать равным.

И ещё один аспект хотелось бы затронуть. Очень символичный. Почему человечество становится похоже на Богов? По очень простой причине – мы начинаем создавать себе подобных. Да, пока, это грубые машины, из железа и пластика, наши "бездушные" и очень механистичные копии. Но если прогресс в этой области пойдет такими семимильными шагами, как сейчас, то нельзя исключать того, что через двадцать-тридцать лет мы не отличим человека от киборга. Они станут "человечными, слишком человечными". И даже с сознанием. А если они начнут рожать в боли и крови, начнут смеяться и плакать, если начнут умирать за Веру, или Царя, или Отечество, то кто скажет, что они роботы? Чем они будут отличаться от нас?

С описанным выше можно спорить. Можно этого не хотеть. Но в эту реальность мы идём семимильными шагами, даже на 5% не отдавая себе отчёт в том, каким станет мир в этой реальности. Мы как дети, которые получили чудесную игрушку в руки и используем все ее открывающиеся с каждым годом все более крутые возможности, не задумываясь о последствиях. Ведь все так красиво и увлекательно.

BY Юрий Баранчик