Эксперименты с ИИ

ИИ-классификатор вопросов
В одном из проектов по внедрению образовательного ИИ-ассистента возникла задача: если пользователь просит контакты для связи, нужно выдать конкретные ФИО и номер телефона.

Подход в лоб — добавить в промпт, что если пользователь просит контакты, нужно выдать вот это. Такой вариант не дает 100% уверенности в точности и полноте. Он ведет себя особенно плохо, если контекст переписки с учеником уже объемный, и конкретная инструкция про контакты может «потеряться».

К тому же, если, например, в системе есть дополнительный слой безопасности на основе LLM для отсечения вопросов не по теме образовательного курса, то вопрос по контактам может быть просто не пропущен этим слоем безопасности.

Поэтому альтернативный подход — добавить отдельный слой на основе легкой LLM для классификации видов вопросов по курсу. Легкая ЛЛМ очень точно может по сути вопроса классифицировать, это вопрос по теории, по практике, по ДЗ, запрос на контакты или что-то еще!

Далее в случае классификации вопроса LLM как «запрос контактов», уже детерминировано отдаем контакты, избегая всевозможных галлюцинаций.

Да, в обоих случаях галлюцинации на запрос контактов возможны. Но вероятность ошибки LLM во втором случае сильно меньше.

www.group-telegram.com/sg/experiment_ai.com/90

330 viewsedited  May 26 at 19:13

ИИ-классификатор вопросов
В одном из проектов по внедрению образовательного ИИ-ассистента возникла задача: если пользователь просит контакты для связи, нужно выдать конкретные ФИО и номер телефона.

Подход в лоб — добавить в промпт, что если пользователь просит контакты, нужно выдать вот это. Такой вариант не дает 100% уверенности в точности и полноте. Он ведет себя особенно плохо, если контекст переписки с учеником уже объемный, и конкретная инструкция про контакты может «потеряться».

К тому же, если, например, в системе есть дополнительный слой безопасности на основе LLM для отсечения вопросов не по теме образовательного курса, то вопрос по контактам может быть просто не пропущен этим слоем безопасности.

Поэтому альтернативный подход — добавить отдельный слой на основе легкой LLM для классификации видов вопросов по курсу. Легкая ЛЛМ очень точно может по сути вопроса классифицировать, это вопрос по теории, по практике, по ДЗ, запрос на контакты или что-то еще!

Далее в случае классификации вопроса LLM как «запрос контактов», уже детерминировано отдаем контакты, избегая всевозможных галлюцинаций.

Да, в обоих случаях галлюцинации на запрос контактов возможны. Но вероятность ошибки LLM во втором случае сильно меньше.

BY Эксперименты с ИИ