ИИ-классификатор вопросов В одном из проектов по внедрению образовательного ИИ-ассистента возникла задача: если пользователь просит контакты для связи, нужно выдать конкретные ФИО и номер телефона.
Подход в лоб — добавить в промпт, что если пользователь просит контакты, нужно выдать вот это. Такой вариант не дает 100% уверенности в точности и полноте. Он ведет себя особенно плохо, если контекст переписки с учеником уже объемный, и конкретная инструкция про контакты может «потеряться».
К тому же, если, например, в системе есть дополнительный слой безопасности на основе LLM для отсечения вопросов не по теме образовательного курса, то вопрос по контактам может быть просто не пропущен этим слоем безопасности.
Поэтому альтернативный подход — добавить отдельный слой на основе легкой LLM для классификации видов вопросов по курсу. Легкая ЛЛМ очень точно может по сути вопроса классифицировать, это вопрос по теории, по практике, по ДЗ, запрос на контакты или что-то еще!
Далее в случае классификации вопроса LLM как «запрос контактов», уже детерминировано отдаем контакты, избегая всевозможных галлюцинаций.
Да, в обоих случаях галлюцинации на запрос контактов возможны. Но вероятность ошибки LLM во втором случае сильно меньше.
ИИ-классификатор вопросов В одном из проектов по внедрению образовательного ИИ-ассистента возникла задача: если пользователь просит контакты для связи, нужно выдать конкретные ФИО и номер телефона.
Подход в лоб — добавить в промпт, что если пользователь просит контакты, нужно выдать вот это. Такой вариант не дает 100% уверенности в точности и полноте. Он ведет себя особенно плохо, если контекст переписки с учеником уже объемный, и конкретная инструкция про контакты может «потеряться».
К тому же, если, например, в системе есть дополнительный слой безопасности на основе LLM для отсечения вопросов не по теме образовательного курса, то вопрос по контактам может быть просто не пропущен этим слоем безопасности.
Поэтому альтернативный подход — добавить отдельный слой на основе легкой LLM для классификации видов вопросов по курсу. Легкая ЛЛМ очень точно может по сути вопроса классифицировать, это вопрос по теории, по практике, по ДЗ, запрос на контакты или что-то еще!
Далее в случае классификации вопроса LLM как «запрос контактов», уже детерминировано отдаем контакты, избегая всевозможных галлюцинаций.
Да, в обоих случаях галлюцинации на запрос контактов возможны. Но вероятность ошибки LLM во втором случае сильно меньше.
BY Эксперименты с ИИ
Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260
At the start of 2018, the company attempted to launch an Initial Coin Offering (ICO) which would enable it to enable payments (and earn the cash that comes from doing so). The initial signals were promising, especially given Telegram’s user base is already fairly crypto-savvy. It raised an initial tranche of cash – worth more than a billion dollars – to help develop the coin before opening sales to the public. Unfortunately, third-party sales of coins bought in those initial fundraising rounds raised the ire of the SEC, which brought the hammer down on the whole operation. In 2020, officials ordered Telegram to pay a fine of $18.5 million and hand back much of the cash that it had raised. For example, WhatsApp restricted the number of times a user could forward something, and developed automated systems that detect and flag objectionable content. "He has to start being more proactive and to find a real solution to this situation, not stay in standby without interfering. It's a very irresponsible position from the owner of Telegram," she said. The S&P 500 fell 1.3% to 4,204.36, and the Dow Jones Industrial Average was down 0.7% to 32,943.33. The Dow posted a fifth straight weekly loss — its longest losing streak since 2019. The Nasdaq Composite tumbled 2.2% to 12,843.81. Though all three indexes opened in the green, stocks took a turn after a new report showed U.S. consumer sentiment deteriorated more than expected in early March as consumers' inflation expectations soared to the highest since 1981. He adds: "Telegram has become my primary news source."
from ye
