GPT-5 и проблема «нейро-мусора»: почему новые модели глупеют?
Эксперты и пользователи отмечают, что тексты новой нейросети кажутся менее качественными по сравнению с предыдущими версиями. Одна из ключевых гипотез — загрязнение обучающих данных.
GPT-5 учился на свежих интернет-данных, где уже тонны «нейро-мусора» — плохих текстов от более ранних и слабых моделей. Те галлюцинировали и выдавали бессмыслицу.
Новые модели активно поглощают все с платформ вроде Reddit, где генерируются тысячи постов. Но у ИИ нет инструмента, чтобы отличить, написан ли текст человеком или ботом. В итоге в последнюю версию чат-бота попало много низкокачественного контента, созданного самими же нейросетями.
Это ключевой вызов для Machine Learning: как отфильтровать «нейро-помойку»? Пока решения нет — модели кормятся всем подряд.
GPT-5 и проблема «нейро-мусора»: почему новые модели глупеют?
Эксперты и пользователи отмечают, что тексты новой нейросети кажутся менее качественными по сравнению с предыдущими версиями. Одна из ключевых гипотез — загрязнение обучающих данных.
GPT-5 учился на свежих интернет-данных, где уже тонны «нейро-мусора» — плохих текстов от более ранних и слабых моделей. Те галлюцинировали и выдавали бессмыслицу.
Новые модели активно поглощают все с платформ вроде Reddit, где генерируются тысячи постов. Но у ИИ нет инструмента, чтобы отличить, написан ли текст человеком или ботом. В итоге в последнюю версию чат-бота попало много низкокачественного контента, созданного самими же нейросетями.
Это ключевой вызов для Machine Learning: как отфильтровать «нейро-помойку»? Пока решения нет — модели кормятся всем подряд.
The company maintains that it cannot act against individual or group chats, which are “private amongst their participants,” but it will respond to requests in relation to sticker sets, channels and bots which are publicly available. During the invasion of Ukraine, Pavel Durov has wrestled with this issue a lot more prominently than he has before. Channels like Donbass Insider and Bellum Acta, as reported by Foreign Policy, started pumping out pro-Russian propaganda as the invasion began. So much so that the Ukrainian National Security and Defense Council issued a statement labeling which accounts are Russian-backed. Ukrainian officials, in potential violation of the Geneva Convention, have shared imagery of dead and captured Russian soldiers on the platform. Under the Sebi Act, the regulator has the power to carry out search and seizure of books, registers, documents including electronics and digital devices from any person associated with the securities market. Groups are also not fully encrypted, end-to-end. This includes private groups. Private groups cannot be seen by other Telegram users, but Telegram itself can see the groups and all of the communications that you have in them. All of the same risks and warnings about channels can be applied to groups. As a result, the pandemic saw many newcomers to Telegram, including prominent anti-vaccine activists who used the app's hands-off approach to share false information on shots, a study from the Institute for Strategic Dialogue shows. Pavel Durov, a billionaire who embraces an all-black wardrobe and is often compared to the character Neo from "the Matrix," funds Telegram through his personal wealth and debt financing. And despite being one of the world's most popular tech companies, Telegram reportedly has only about 30 employees who defer to Durov for most major decisions about the platform.
from us
