ИИ-агенты — горячая тема уже давно, начиная от генерации кода до создания текстов и изображений, они обещают революцию.
Но за хайпом стоит серьезная проблема, о которой говорят эксперты вроде Андрея Карпати, со-основателя OpenAI, и Баладжи Сринивасана в недавних обсуждениях на X.
Проблема в том, что ИИ отлично справляется с быстрой генерацией контента, но проверка результатов — настоящий камень преткновения.
Пользователи отмечают, что до 90% времени работы с ИИ уходит на проверку его выводов.
Люди тратят больше времени на проверку кода, созданного ИИ, чем на промпты. 90% работы с ИИ-агентами — это проверка результатов, говорят пользователи.
Почему генерация легкая?
- Изображения можно быстро оценить визуально. - Простой код проверяется по шаблонам. - Модели опираются на паттерны из огромных обучающих данных.
Почему верификация сложная?
1. Требует глубокого понимания предметной области, например, медицина, финансы, наука. 2. Нужны логические рассуждения, а не только распознавание паттернов. 3. Текущие модели, вроде трансформеров, оптимизированы для предсказания, а не для проверки фактов или логики. 4. Верификация требует более сложных моделей, способных к рассуждению, а не только к генерации. 5. В критических областях нет надежных эталонных данных для автоматической верификации.
Карпати называет это "verification gap" — новым узким местом ИИ после решения проблемы скорости генерации. Без надежной верификации ИИ-агенты остаются инструментами, требующими постоянного надзора, особенно в медицине, финансах и научных исследованиях.
Исследователи работают над решениями:
- Обучение с обратной связью (RLHF) для улучшения проверки. - Специализированные модели для факт-чекинга и дебаггинга кода. - Интеграция с внешними инструментами, такими как симуляторы или базы данных.
Пока verification gap не закрыт, ИИ-агенты — это мощный, но не автономный инструмент. Хайп вокруг них оправдан, но реальность требует трезвого взгляда.
ИИ-агенты — горячая тема уже давно, начиная от генерации кода до создания текстов и изображений, они обещают революцию.
Но за хайпом стоит серьезная проблема, о которой говорят эксперты вроде Андрея Карпати, со-основателя OpenAI, и Баладжи Сринивасана в недавних обсуждениях на X.
Проблема в том, что ИИ отлично справляется с быстрой генерацией контента, но проверка результатов — настоящий камень преткновения.
Пользователи отмечают, что до 90% времени работы с ИИ уходит на проверку его выводов.
Люди тратят больше времени на проверку кода, созданного ИИ, чем на промпты. 90% работы с ИИ-агентами — это проверка результатов, говорят пользователи.
Почему генерация легкая?
- Изображения можно быстро оценить визуально. - Простой код проверяется по шаблонам. - Модели опираются на паттерны из огромных обучающих данных.
Почему верификация сложная?
1. Требует глубокого понимания предметной области, например, медицина, финансы, наука. 2. Нужны логические рассуждения, а не только распознавание паттернов. 3. Текущие модели, вроде трансформеров, оптимизированы для предсказания, а не для проверки фактов или логики. 4. Верификация требует более сложных моделей, способных к рассуждению, а не только к генерации. 5. В критических областях нет надежных эталонных данных для автоматической верификации.
Карпати называет это "verification gap" — новым узким местом ИИ после решения проблемы скорости генерации. Без надежной верификации ИИ-агенты остаются инструментами, требующими постоянного надзора, особенно в медицине, финансах и научных исследованиях.
Исследователи работают над решениями:
- Обучение с обратной связью (RLHF) для улучшения проверки. - Специализированные модели для факт-чекинга и дебаггинга кода. - Интеграция с внешними инструментами, такими как симуляторы или базы данных.
Пока verification gap не закрыт, ИИ-агенты — это мощный, но не автономный инструмент. Хайп вокруг них оправдан, но реальность требует трезвого взгляда.
BY AGIRussia.news
Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260
In addition, Telegram now supports the use of third-party streaming tools like OBS Studio and XSplit to broadcast live video, allowing users to add overlays and multi-screen layouts for a more professional look. If you initiate a Secret Chat, however, then these communications are end-to-end encrypted and are tied to the device you are using. That means it’s less convenient to access them across multiple platforms, but you are at far less risk of snooping. Back in the day, Secret Chats received some praise from the EFF, but the fact that its standard system isn’t as secure earned it some criticism. If you’re looking for something that is considered more reliable by privacy advocates, then Signal is the EFF’s preferred platform, although that too is not without some caveats. These entities are reportedly operating nine Telegram channels with more than five million subscribers to whom they were making recommendations on selected listed scrips. Such recommendations induced the investors to deal in the said scrips, thereby creating artificial volume and price rise. But Telegram says people want to keep their chat history when they get a new phone, and they like having a data backup that will sync their chats across multiple devices. And that is why they let people choose whether they want their messages to be encrypted or not. When not turned on, though, chats are stored on Telegram's services, which are scattered throughout the world. But it has "disclosed 0 bytes of user data to third parties, including governments," Telegram states on its website. The company maintains that it cannot act against individual or group chats, which are “private amongst their participants,” but it will respond to requests in relation to sticker sets, channels and bots which are publicly available. During the invasion of Ukraine, Pavel Durov has wrestled with this issue a lot more prominently than he has before. Channels like Donbass Insider and Bellum Acta, as reported by Foreign Policy, started pumping out pro-Russian propaganda as the invasion began. So much so that the Ukrainian National Security and Defense Council issued a statement labeling which accounts are Russian-backed. Ukrainian officials, in potential violation of the Geneva Convention, have shared imagery of dead and captured Russian soldiers on the platform.
from ar
