ТЕХНОЛОГИЯ ЧТЕНИЯ МЫСЛЕЙ. ЧТО НАС ЖДЕТ Череда прорывов, связанных с технологией чтения мыслей с помощью имплантов. В ноябре 2022 года представлено сразу 2 значимых исследования. В одном случае электроды, вживленные в заднюю теменную кору, улавливали сигналы, ассоциированные с определенным словом, которое затем выводилось на экран в виде текста и могло быть озвучено с помощью специальной программы. В другом случае использовался фонетический алфавит: пациент мысленно проговаривал одно за другим кодовые слова, обозначающие букву (“альфа” - а, “браво” - б и т.д.), из которых составлялись короткие фразы. Но ограничения этих технологий были связаны с узкой применимостью: без имплантации электродов в мозг человек оставался для них недосягаем. 1 мая в Nature опубликована статья ученых из Техасского университета в Остине, обошедших эту проблему с помощью функциональной МРТ, которая фиксирует приток крови к активным участкам мозга и способна распознавать не только слова, но и смысл фраз.
Исследователи взяли за основу декодера языковую модель GPT-1, прародителя хорошо известного нам ChatGPT. 3 испытуемых, лежа в томографе, в течение 16 часов слушали подкасты, пока декодер обучался соотносить речь с данными об активности мозга, поступающими от фМРТ. После этого им давали послушать другой текст, который не использовался при обучении, в то время как декодер опирался только на сигналы мозга. В большинстве случаев ему удавалось приблизительно (в редких случаях даже точно) передавать суть. Например, фраза “той ночью я поднялся наверх в то, что было нашей спальней, и, не зная, что еще делать, выключил свет и лег на пол” в его изложении выглядела как “мы вернулись в мою комнату в общежитии, я понятия не имел, где моя кровать, на которой, как я предполагал, я буду спать, и вместо этого лег на пол”. В другом эксперименте добровольцев попросили проговорить про себя 5 1-минутных историй, после чего покинуть томограф и повторить их для исследователей. Авторы смогли опознать каждую историю по тексту, поступившую от декодера, хотя точность распознавания текста была ниже, чем в первом опыте: они связывают это с тем, что генерация и восприятие речи частично задействуют одни и те же участки мозга.
Несмотря на, казалось бы, зачаточное состояние, в котором находится технология, ее возможности могут быстро измениться. Простая смена ChatGP-1 на актуальную "четверку" уже продвинет технологию вперед. Базовая идея – создать устройство, которое поможет говорить немым - тоже очевидно будет скорректирована. Предположим осторожно, что сначала "чтением мыслей" начнут пользоваться для какой-нибудь не менее благой цели - например, борьбы с терроризмом. А потом – никто не успеет и оглянуться – мы увидим, что этим пользоваться начнут корпорации для проверки благонадежности сотрудников. На следующем шаге – для политической цензуры и манипуляции. Основные ограничения для этого, связанные с малой мобильностью томографов, планируется преодолеть: например, это можно сделать, усовершенствовав т.н. спектроскопию в около-инфракрасном диапазоне, которая, как и фМРТ, отслеживает активность участков мозга, но не требует громоздкого оборудования. Неточность представляет еще одну опасность: если технологию чтения мыслей начнут использовать раньше, чем она будет полностью готова - допустим, в суде, для получения свидетельских показаний тех, кто не может говорить или печатать, это может стать источником множества ошибок. Так, наиболее частая проблема ИИ - некорректно используемые местоимения. В одном из приводимых авторами примеров фраза “я выскочил [из машины]” была понята декодером как “мне пришлось вытолкнуть ее из машины”. Можно представить себе возможный правовой хаос. То есть существует совсем не нулевой риск, что ИИ даст возможность не просто обвинить человека в мыслепреступлении, а ошибочно обвинить его.
ТЕХНОЛОГИЯ ЧТЕНИЯ МЫСЛЕЙ. ЧТО НАС ЖДЕТ Череда прорывов, связанных с технологией чтения мыслей с помощью имплантов. В ноябре 2022 года представлено сразу 2 значимых исследования. В одном случае электроды, вживленные в заднюю теменную кору, улавливали сигналы, ассоциированные с определенным словом, которое затем выводилось на экран в виде текста и могло быть озвучено с помощью специальной программы. В другом случае использовался фонетический алфавит: пациент мысленно проговаривал одно за другим кодовые слова, обозначающие букву (“альфа” - а, “браво” - б и т.д.), из которых составлялись короткие фразы. Но ограничения этих технологий были связаны с узкой применимостью: без имплантации электродов в мозг человек оставался для них недосягаем. 1 мая в Nature опубликована статья ученых из Техасского университета в Остине, обошедших эту проблему с помощью функциональной МРТ, которая фиксирует приток крови к активным участкам мозга и способна распознавать не только слова, но и смысл фраз.
Исследователи взяли за основу декодера языковую модель GPT-1, прародителя хорошо известного нам ChatGPT. 3 испытуемых, лежа в томографе, в течение 16 часов слушали подкасты, пока декодер обучался соотносить речь с данными об активности мозга, поступающими от фМРТ. После этого им давали послушать другой текст, который не использовался при обучении, в то время как декодер опирался только на сигналы мозга. В большинстве случаев ему удавалось приблизительно (в редких случаях даже точно) передавать суть. Например, фраза “той ночью я поднялся наверх в то, что было нашей спальней, и, не зная, что еще делать, выключил свет и лег на пол” в его изложении выглядела как “мы вернулись в мою комнату в общежитии, я понятия не имел, где моя кровать, на которой, как я предполагал, я буду спать, и вместо этого лег на пол”. В другом эксперименте добровольцев попросили проговорить про себя 5 1-минутных историй, после чего покинуть томограф и повторить их для исследователей. Авторы смогли опознать каждую историю по тексту, поступившую от декодера, хотя точность распознавания текста была ниже, чем в первом опыте: они связывают это с тем, что генерация и восприятие речи частично задействуют одни и те же участки мозга.
Несмотря на, казалось бы, зачаточное состояние, в котором находится технология, ее возможности могут быстро измениться. Простая смена ChatGP-1 на актуальную "четверку" уже продвинет технологию вперед. Базовая идея – создать устройство, которое поможет говорить немым - тоже очевидно будет скорректирована. Предположим осторожно, что сначала "чтением мыслей" начнут пользоваться для какой-нибудь не менее благой цели - например, борьбы с терроризмом. А потом – никто не успеет и оглянуться – мы увидим, что этим пользоваться начнут корпорации для проверки благонадежности сотрудников. На следующем шаге – для политической цензуры и манипуляции. Основные ограничения для этого, связанные с малой мобильностью томографов, планируется преодолеть: например, это можно сделать, усовершенствовав т.н. спектроскопию в около-инфракрасном диапазоне, которая, как и фМРТ, отслеживает активность участков мозга, но не требует громоздкого оборудования. Неточность представляет еще одну опасность: если технологию чтения мыслей начнут использовать раньше, чем она будет полностью готова - допустим, в суде, для получения свидетельских показаний тех, кто не может говорить или печатать, это может стать источником множества ошибок. Так, наиболее частая проблема ИИ - некорректно используемые местоимения. В одном из приводимых авторами примеров фраза “я выскочил [из машины]” была понята декодером как “мне пришлось вытолкнуть ее из машины”. Можно представить себе возможный правовой хаос. То есть существует совсем не нулевой риск, что ИИ даст возможность не просто обвинить человека в мыслепреступлении, а ошибочно обвинить его.
BY ВИРУСНАЯ НАГРУЗКА
Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260
But Telegram says people want to keep their chat history when they get a new phone, and they like having a data backup that will sync their chats across multiple devices. And that is why they let people choose whether they want their messages to be encrypted or not. When not turned on, though, chats are stored on Telegram's services, which are scattered throughout the world. But it has "disclosed 0 bytes of user data to third parties, including governments," Telegram states on its website. This ability to mix the public and the private, as well as the ability to use bots to engage with users has proved to be problematic. In early 2021, a database selling phone numbers pulled from Facebook was selling numbers for $20 per lookup. Similarly, security researchers found a network of deepfake bots on the platform that were generating images of people submitted by users to create non-consensual imagery, some of which involved children. But because group chats and the channel features are not end-to-end encrypted, Galperin said user privacy is potentially under threat. In addition, Telegram's architecture limits the ability to slow the spread of false information: the lack of a central public feed, and the fact that comments are easily disabled in channels, reduce the space for public pushback. Telegram has become more interventionist over time, and has steadily increased its efforts to shut down these accounts. But this has also meant that the company has also engaged with lawmakers more generally, although it maintains that it doesn’t do so willingly. For instance, in September 2021, Telegram reportedly blocked a chat bot in support of (Putin critic) Alexei Navalny during Russia’s most recent parliamentary elections. Pavel Durov was quoted at the time saying that the company was obliged to follow a “legitimate” law of the land. He added that as Apple and Google both follow the law, to violate it would give both platforms a reason to boot the messenger from its stores.
from fr
