ТЕХНОЛОГИЯ ЧТЕНИЯ МЫСЛЕЙ. ЧТО НАС ЖДЕТ Череда прорывов, связанных с технологией чтения мыслей с помощью имплантов. В ноябре 2022 года представлено сразу 2 значимых исследования. В одном случае электроды, вживленные в заднюю теменную кору, улавливали сигналы, ассоциированные с определенным словом, которое затем выводилось на экран в виде текста и могло быть озвучено с помощью специальной программы. В другом случае использовался фонетический алфавит: пациент мысленно проговаривал одно за другим кодовые слова, обозначающие букву (“альфа” - а, “браво” - б и т.д.), из которых составлялись короткие фразы. Но ограничения этих технологий были связаны с узкой применимостью: без имплантации электродов в мозг человек оставался для них недосягаем. 1 мая в Nature опубликована статья ученых из Техасского университета в Остине, обошедших эту проблему с помощью функциональной МРТ, которая фиксирует приток крови к активным участкам мозга и способна распознавать не только слова, но и смысл фраз.
Исследователи взяли за основу декодера языковую модель GPT-1, прародителя хорошо известного нам ChatGPT. 3 испытуемых, лежа в томографе, в течение 16 часов слушали подкасты, пока декодер обучался соотносить речь с данными об активности мозга, поступающими от фМРТ. После этого им давали послушать другой текст, который не использовался при обучении, в то время как декодер опирался только на сигналы мозга. В большинстве случаев ему удавалось приблизительно (в редких случаях даже точно) передавать суть. Например, фраза “той ночью я поднялся наверх в то, что было нашей спальней, и, не зная, что еще делать, выключил свет и лег на пол” в его изложении выглядела как “мы вернулись в мою комнату в общежитии, я понятия не имел, где моя кровать, на которой, как я предполагал, я буду спать, и вместо этого лег на пол”. В другом эксперименте добровольцев попросили проговорить про себя 5 1-минутных историй, после чего покинуть томограф и повторить их для исследователей. Авторы смогли опознать каждую историю по тексту, поступившую от декодера, хотя точность распознавания текста была ниже, чем в первом опыте: они связывают это с тем, что генерация и восприятие речи частично задействуют одни и те же участки мозга.
Несмотря на, казалось бы, зачаточное состояние, в котором находится технология, ее возможности могут быстро измениться. Простая смена ChatGP-1 на актуальную "четверку" уже продвинет технологию вперед. Базовая идея – создать устройство, которое поможет говорить немым - тоже очевидно будет скорректирована. Предположим осторожно, что сначала "чтением мыслей" начнут пользоваться для какой-нибудь не менее благой цели - например, борьбы с терроризмом. А потом – никто не успеет и оглянуться – мы увидим, что этим пользоваться начнут корпорации для проверки благонадежности сотрудников. На следующем шаге – для политической цензуры и манипуляции. Основные ограничения для этого, связанные с малой мобильностью томографов, планируется преодолеть: например, это можно сделать, усовершенствовав т.н. спектроскопию в около-инфракрасном диапазоне, которая, как и фМРТ, отслеживает активность участков мозга, но не требует громоздкого оборудования. Неточность представляет еще одну опасность: если технологию чтения мыслей начнут использовать раньше, чем она будет полностью готова - допустим, в суде, для получения свидетельских показаний тех, кто не может говорить или печатать, это может стать источником множества ошибок. Так, наиболее частая проблема ИИ - некорректно используемые местоимения. В одном из приводимых авторами примеров фраза “я выскочил [из машины]” была понята декодером как “мне пришлось вытолкнуть ее из машины”. Можно представить себе возможный правовой хаос. То есть существует совсем не нулевой риск, что ИИ даст возможность не просто обвинить человека в мыслепреступлении, а ошибочно обвинить его.
ТЕХНОЛОГИЯ ЧТЕНИЯ МЫСЛЕЙ. ЧТО НАС ЖДЕТ Череда прорывов, связанных с технологией чтения мыслей с помощью имплантов. В ноябре 2022 года представлено сразу 2 значимых исследования. В одном случае электроды, вживленные в заднюю теменную кору, улавливали сигналы, ассоциированные с определенным словом, которое затем выводилось на экран в виде текста и могло быть озвучено с помощью специальной программы. В другом случае использовался фонетический алфавит: пациент мысленно проговаривал одно за другим кодовые слова, обозначающие букву (“альфа” - а, “браво” - б и т.д.), из которых составлялись короткие фразы. Но ограничения этих технологий были связаны с узкой применимостью: без имплантации электродов в мозг человек оставался для них недосягаем. 1 мая в Nature опубликована статья ученых из Техасского университета в Остине, обошедших эту проблему с помощью функциональной МРТ, которая фиксирует приток крови к активным участкам мозга и способна распознавать не только слова, но и смысл фраз.
Исследователи взяли за основу декодера языковую модель GPT-1, прародителя хорошо известного нам ChatGPT. 3 испытуемых, лежа в томографе, в течение 16 часов слушали подкасты, пока декодер обучался соотносить речь с данными об активности мозга, поступающими от фМРТ. После этого им давали послушать другой текст, который не использовался при обучении, в то время как декодер опирался только на сигналы мозга. В большинстве случаев ему удавалось приблизительно (в редких случаях даже точно) передавать суть. Например, фраза “той ночью я поднялся наверх в то, что было нашей спальней, и, не зная, что еще делать, выключил свет и лег на пол” в его изложении выглядела как “мы вернулись в мою комнату в общежитии, я понятия не имел, где моя кровать, на которой, как я предполагал, я буду спать, и вместо этого лег на пол”. В другом эксперименте добровольцев попросили проговорить про себя 5 1-минутных историй, после чего покинуть томограф и повторить их для исследователей. Авторы смогли опознать каждую историю по тексту, поступившую от декодера, хотя точность распознавания текста была ниже, чем в первом опыте: они связывают это с тем, что генерация и восприятие речи частично задействуют одни и те же участки мозга.
Несмотря на, казалось бы, зачаточное состояние, в котором находится технология, ее возможности могут быстро измениться. Простая смена ChatGP-1 на актуальную "четверку" уже продвинет технологию вперед. Базовая идея – создать устройство, которое поможет говорить немым - тоже очевидно будет скорректирована. Предположим осторожно, что сначала "чтением мыслей" начнут пользоваться для какой-нибудь не менее благой цели - например, борьбы с терроризмом. А потом – никто не успеет и оглянуться – мы увидим, что этим пользоваться начнут корпорации для проверки благонадежности сотрудников. На следующем шаге – для политической цензуры и манипуляции. Основные ограничения для этого, связанные с малой мобильностью томографов, планируется преодолеть: например, это можно сделать, усовершенствовав т.н. спектроскопию в около-инфракрасном диапазоне, которая, как и фМРТ, отслеживает активность участков мозга, но не требует громоздкого оборудования. Неточность представляет еще одну опасность: если технологию чтения мыслей начнут использовать раньше, чем она будет полностью готова - допустим, в суде, для получения свидетельских показаний тех, кто не может говорить или печатать, это может стать источником множества ошибок. Так, наиболее частая проблема ИИ - некорректно используемые местоимения. В одном из приводимых авторами примеров фраза “я выскочил [из машины]” была понята декодером как “мне пришлось вытолкнуть ее из машины”. Можно представить себе возможный правовой хаос. То есть существует совсем не нулевой риск, что ИИ даст возможность не просто обвинить человека в мыслепреступлении, а ошибочно обвинить его.
BY ВИРУСНАЯ НАГРУЗКА
Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260
Now safely in France with his spouse and three of his children, Kliuchnikov scrolls through Telegram to learn about the devastation happening in his home country. Crude oil prices edged higher after tumbling on Thursday, when U.S. West Texas intermediate slid back below $110 per barrel after topping as much as $130 a barrel in recent sessions. Still, gas prices at the pump rose to fresh highs. The Security Service of Ukraine said in a tweet that it was able to effectively target Russian convoys near Kyiv because of messages sent to an official Telegram bot account called "STOP Russian War." The Dow Jones Industrial Average fell 230 points, or 0.7%. Meanwhile, the S&P 500 and the Nasdaq Composite dropped 1.3% and 2.2%, respectively. All three indexes began the day with gains before selling off. In 2014, Pavel Durov fled the country after allies of the Kremlin took control of the social networking site most know just as VK. Russia's intelligence agency had asked Durov to turn over the data of anti-Kremlin protesters. Durov refused to do so.
from cn
