Metaprogramming

Сознание vs правосознание в приложении к ИИ

Пару слов о проблематике наличия сознания у ИИ.

Абсурдные заявления, нелепые определения и маловразумительные рассуждения в отношении обладания сознанием ИИ делаются с единственной целью: убрать в тень реальную технологию, организацию и политику разработки ИИ и связанных вопросов безопасности.

Одновременно это является дальнейшим шагом демагогии, над которой мы подтрунивали раньше в посте "Умные устройства".

Наличие сознания, по небезосновательному мнению двигающих дискурс сил, автоматически будет означать наличие ПРАВОсознания. Одно дело смартфон это просто железяка в кармане, а другое дело одушевлённое (доказано консенсусом учёных после многолетних обсуждений) существо. В первом случае его интеллектуальные аспекты мешают пользователю работать, разглашают без разрешения персональные данные и отнимают время, а во втором являются законным и неотъемлемым правом разума на становление и развитие.

Ну и уже совсем без шуток, разумеется, "доказанно сознательный ИИ" даёт безграничные возможности своим владельцам по уходу от ответственности. Вот автор канала "История гиперинформации" вообще считает разумным ожидать, как американцы изобретут человекоподобный ИИ (предъявлять доказательства, конечно же, не станут), и потом начнут списывать на него последствия всех своих решений ("мы лишь делали как ИИ посоветовал").

Но вообще говоря наличие подобных организационно-правовых конструкций не является чем-то радикально новым. В известный момент появилась концепция "юридического лица", то есть буквально обладающего правосознанием голема. И используется буквально для той же цели: для ухода стейкхолдеров от ответственности.

Аналогично, в большем масштабе, работает такая вещь как государство.

Естественно, деятельность юридического лица обставлена большим количеством условностей: правила его работы должны быть в известной мере прозрачны, при обнаружении противоречий между декларируемыми целями-методами и реальными действиями накладываются санкции. Управляющий может быть наказан или заменён, в исключительных случаях пострадать могут даже и владельцы.

Так сложилось (как-то снова само собой), что механизмы работы продвинутых ИИ абсолютно непрозрачны для понимания. Очевидно, что каждому государству и каждой корпорации нужен свой "ИИ с доказанно существующим сознанием", воплощённый аватар, который бы обладал (как в глазах общественности, так и в глазах регуляторов) набором почти человеческих прав, но при этом не нёс никакой ответственности (как ты ИИ посадишь в тюрьму или убьёшь?): это фактически лишь квинтэссенция и закономерный итог идеи "юридического лица".

Идея иметь все права и никакой ответственности настолько хороша, что демагогия, направленная на её реализацию, становится совсем бессовестной и малосодержательной.

#psychology

www.group-telegram.com/sa/metaprogramming.com/343

1.5K viewsFeb 22, 2024 at 15:02

Сознание vs правосознание в приложении к ИИ

Пару слов о проблематике наличия сознания у ИИ.

Абсурдные заявления, нелепые определения и маловразумительные рассуждения в отношении обладания сознанием ИИ делаются с единственной целью: убрать в тень реальную технологию, организацию и политику разработки ИИ и связанных вопросов безопасности.

Одновременно это является дальнейшим шагом демагогии, над которой мы подтрунивали раньше в посте "Умные устройства".

Наличие сознания, по небезосновательному мнению двигающих дискурс сил, автоматически будет означать наличие ПРАВОсознания. Одно дело смартфон это просто железяка в кармане, а другое дело одушевлённое (доказано консенсусом учёных после многолетних обсуждений) существо. В первом случае его интеллектуальные аспекты мешают пользователю работать, разглашают без разрешения персональные данные и отнимают время, а во втором являются законным и неотъемлемым правом разума на становление и развитие.

Ну и уже совсем без шуток, разумеется, "доказанно сознательный ИИ" даёт безграничные возможности своим владельцам по уходу от ответственности. Вот автор канала "История гиперинформации" вообще считает разумным ожидать, как американцы изобретут человекоподобный ИИ (предъявлять доказательства, конечно же, не станут), и потом начнут списывать на него последствия всех своих решений ("мы лишь делали как ИИ посоветовал").

Но вообще говоря наличие подобных организационно-правовых конструкций не является чем-то радикально новым. В известный момент появилась концепция "юридического лица", то есть буквально обладающего правосознанием голема. И используется буквально для той же цели: для ухода стейкхолдеров от ответственности.

Аналогично, в большем масштабе, работает такая вещь как государство.

Естественно, деятельность юридического лица обставлена большим количеством условностей: правила его работы должны быть в известной мере прозрачны, при обнаружении противоречий между декларируемыми целями-методами и реальными действиями накладываются санкции. Управляющий может быть наказан или заменён, в исключительных случаях пострадать могут даже и владельцы.

Так сложилось (как-то снова само собой), что механизмы работы продвинутых ИИ абсолютно непрозрачны для понимания. Очевидно, что каждому государству и каждой корпорации нужен свой "ИИ с доказанно существующим сознанием", воплощённый аватар, который бы обладал (как в глазах общественности, так и в глазах регуляторов) набором почти человеческих прав, но при этом не нёс никакой ответственности (как ты ИИ посадишь в тюрьму или убьёшь?): это фактически лишь квинтэссенция и закономерный итог идеи "юридического лица".

Идея иметь все права и никакой ответственности настолько хороша, что демагогия, направленная на её реализацию, становится совсем бессовестной и малосодержательной.

#psychology

BY Metaprogramming