ИИ-классификатор вопросов В одном из проектов по внедрению образовательного ИИ-ассистента возникла задача: если пользователь просит контакты для связи, нужно выдать конкретные ФИО и номер телефона.
Подход в лоб — добавить в промпт, что если пользователь просит контакты, нужно выдать вот это. Такой вариант не дает 100% уверенности в точности и полноте. Он ведет себя особенно плохо, если контекст переписки с учеником уже объемный, и конкретная инструкция про контакты может «потеряться».
К тому же, если, например, в системе есть дополнительный слой безопасности на основе LLM для отсечения вопросов не по теме образовательного курса, то вопрос по контактам может быть просто не пропущен этим слоем безопасности.
Поэтому альтернативный подход — добавить отдельный слой на основе легкой LLM для классификации видов вопросов по курсу. Легкая ЛЛМ очень точно может по сути вопроса классифицировать, это вопрос по теории, по практике, по ДЗ, запрос на контакты или что-то еще!
Далее в случае классификации вопроса LLM как «запрос контактов», уже детерминировано отдаем контакты, избегая всевозможных галлюцинаций.
Да, в обоих случаях галлюцинации на запрос контактов возможны. Но вероятность ошибки LLM во втором случае сильно меньше.
ИИ-классификатор вопросов В одном из проектов по внедрению образовательного ИИ-ассистента возникла задача: если пользователь просит контакты для связи, нужно выдать конкретные ФИО и номер телефона.
Подход в лоб — добавить в промпт, что если пользователь просит контакты, нужно выдать вот это. Такой вариант не дает 100% уверенности в точности и полноте. Он ведет себя особенно плохо, если контекст переписки с учеником уже объемный, и конкретная инструкция про контакты может «потеряться».
К тому же, если, например, в системе есть дополнительный слой безопасности на основе LLM для отсечения вопросов не по теме образовательного курса, то вопрос по контактам может быть просто не пропущен этим слоем безопасности.
Поэтому альтернативный подход — добавить отдельный слой на основе легкой LLM для классификации видов вопросов по курсу. Легкая ЛЛМ очень точно может по сути вопроса классифицировать, это вопрос по теории, по практике, по ДЗ, запрос на контакты или что-то еще!
Далее в случае классификации вопроса LLM как «запрос контактов», уже детерминировано отдаем контакты, избегая всевозможных галлюцинаций.
Да, в обоих случаях галлюцинации на запрос контактов возможны. Но вероятность ошибки LLM во втором случае сильно меньше.
BY Эксперименты с ИИ
Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260
Telegram, which does little policing of its content, has also became a hub for Russian propaganda and misinformation. Many pro-Kremlin channels have become popular, alongside accounts of journalists and other independent observers. If you initiate a Secret Chat, however, then these communications are end-to-end encrypted and are tied to the device you are using. That means it’s less convenient to access them across multiple platforms, but you are at far less risk of snooping. Back in the day, Secret Chats received some praise from the EFF, but the fact that its standard system isn’t as secure earned it some criticism. If you’re looking for something that is considered more reliable by privacy advocates, then Signal is the EFF’s preferred platform, although that too is not without some caveats. The SC urges the public to refer to the SC’s I nvestor Alert List before investing. The list contains details of unauthorised websites, investment products, companies and individuals. Members of the public who suspect that they have been approached by unauthorised firms or individuals offering schemes that promise unrealistic returns Now safely in France with his spouse and three of his children, Kliuchnikov scrolls through Telegram to learn about the devastation happening in his home country. After fleeing Russia, the brothers founded Telegram as a way to communicate outside the Kremlin's orbit. They now run it from Dubai, and Pavel Durov says it has more than 500 million monthly active users.
from hk
