Вот конкретные механизмы, которые пионеры AI упоминают в своих выступлениях и интервью:
🔴 Йошуа Бенжио беспокоится о появлении автономных агентов, способных ставить собственные цели и оптимизировать их вне рамок, заданных человеком. Речь не о злом ИИ, а об ИИ, у которого цели не совпадают с нашими.
🟠 Джеффри Хинтон делает акцент на внезапности и необратимости появления ИИ, способного манипулировать людьми лучше самих людей — например, под видом помощника или советника.
ИИ, способный сам обучать себя, писать код, копировать себя в облаке и обманывать системы контроля может "выйти из-под контроля" даже без злого умысла.
Возможная перспектива - армия дешёвых цифровых агентов, которые могут распространять фейки и дестабилизировать общество или внедряться в стратегические решения на уровне стран.
🟢 Янн ЛеКун — скептик экзистенциальных угроз, но признаёт возможность злоупотреблений ИИ со стороны людей (не самого ИИ) и считает это основным вектором риска. Он опасается не «восстания машин», а усиления уже существующих систем давления и неравенства с помощью ИИ.
Вот конкретные механизмы, которые пионеры AI упоминают в своих выступлениях и интервью:
🔴 Йошуа Бенжио беспокоится о появлении автономных агентов, способных ставить собственные цели и оптимизировать их вне рамок, заданных человеком. Речь не о злом ИИ, а об ИИ, у которого цели не совпадают с нашими.
🟠 Джеффри Хинтон делает акцент на внезапности и необратимости появления ИИ, способного манипулировать людьми лучше самих людей — например, под видом помощника или советника.
ИИ, способный сам обучать себя, писать код, копировать себя в облаке и обманывать системы контроля может "выйти из-под контроля" даже без злого умысла.
Возможная перспектива - армия дешёвых цифровых агентов, которые могут распространять фейки и дестабилизировать общество или внедряться в стратегические решения на уровне стран.
🟢 Янн ЛеКун — скептик экзистенциальных угроз, но признаёт возможность злоупотреблений ИИ со стороны людей (не самого ИИ) и считает это основным вектором риска. Он опасается не «восстания машин», а усиления уже существующих систем давления и неравенства с помощью ИИ.
BY Kantor.AI
Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260
NEWS Artem Kliuchnikov and his family fled Ukraine just days before the Russian invasion. Individual messages can be fully encrypted. But the user has to turn on that function. It's not automatic, as it is on Signal and WhatsApp. Oh no. There’s a certain degree of myth-making around what exactly went on, so take everything that follows lightly. Telegram was originally launched as a side project by the Durov brothers, with Nikolai handling the coding and Pavel as CEO, while both were at VK. Markets continued to grapple with the economic and corporate earnings implications relating to the Russia-Ukraine conflict. “We have a ton of uncertainty right now,” said Stephanie Link, chief investment strategist and portfolio manager at Hightower Advisors. “We’re dealing with a war, we’re dealing with inflation. We don’t know what it means to earnings.”
from sg
