group-telegram.com/moneyandpolarfox/10897
Last Update:
Garbage in - garbage out, или Почему ИИ рисует людям лишние пальцы или кривые ноги?
Почему нейросети создают картинки, на которых у человека семь на руке шесть или восемь пальцев, или вдруг появляется третья рука? Должно быть каждый, кто создавал иллюстрации с помощью нейросетей, сталкивался с этим.
В статье «When A.I.’s Output Is a Threat to A.I. Itself» («Когда результаты работы ИИ представляют угрозу самому ИИ») – физик и научный обозреватель The New York Times Аатиша Бхатия объясняет, почему это происходит - для улучшения моделей нужно много данных (контента, иллюстраций), который создатели нейросетей выкачивают из интернета. Но проблема в том, что в интернете становится всё больше контента, который уже сгенерирован нейросетями.
И оказывается, что нейросети, обученные на таком сгенерированном контенте, с каждой итерацией начинают выдавать всё большее количество ошибок –
так же как копия копии может отдаляться от оригинала, когда генеративный ИИ обучается на собственном контенте, его выходные данные также могут отдаляться от реальности, все дальше отдаляясь от исходных данных, которые он должен был имитировать
, пишет Бхатия.
Мы попросили нашего уважаемого читателя , который много лет работает в соответствующей отрасли, сделать комментарий по этому поводу – и вот наш диалог
Это абсолютная правда. Нужен или
(1) качественный скачок в алгоритмах; или
(2) более качественная ручная подготовка входных данных; или
(3) надёжные методы определения контента, который создан с помощью ИИ.
Но (2) и (3), по сути, тупик. Дело в том, что нынешние модели обучались, поглощая в течение недели и месяцев всю информацию, которая накапливалась десятилетиями, имея по сути мультипликатор к скорости обучения.
Сейчас эта информация или исчерпана, или «отравлена» сгенерированным алгоритмами содержимым. Так что даже если удастся создать 100% надёжную методику для определения контента, созданного ИИ, при «количественном» подходе скорость прогресса замедлится до скорости, с которой человечество может создавать аутентичный авторский контент и новизну.
То есть искусственный интеллект «затормозит», пока человек не возьмёт новый рубеж в творчестве, и не даст машине «новую книжку с картинками» (как раскраску ребёнку)?
По сути, да (при текущем подходе к обучению). Или появится новый алгоритм ИИ (как в своё время появилась архитектура "трансформер", которая и легла в основу существующих LLM)…
На видео ⬆️ размывание цифр, демонстрирует этот коллапс ИИ. Когда выход ИИ был оторван от человеческого ввода, упало качество (цифры стали размытыми) и уменьшилось разнообразие (цифры стали похожими).
(Особая благодарность аналитику данных и эксперту по инфографике Алексею Смагину, обратившему наше внимание на статью «When A.I.’s Output Is a Threat to A.I. Itself»)
BY Деньги и песец
Share with your friend now:
group-telegram.com/moneyandpolarfox/10897