Эксперименты с ИИ

Бизнес на LLM
Когда мы в Standard Data начали делать проекты на LLM, казалось, ключевая компетенция — глубокое знание самих моделей: подготовка данных, prompt-инжиниринг, дообучение, эксперименты с агентами и тд. Но реальность быстро скорректировала картинку.

Каждое внедрение LLM-решения в бизнес — это 30-50% работы с ключевой частью системы, с «LLM-мозгами», и 50-70% традиционной разработки и интеграции.

Это хорошо видно на проектах с внедрением образовательных ИИ-ассистентов, которые помогают быстро отвечать на вопросы студентов. У каждой образовательной компании свой набор используемых технологий, свой подход к взаимодействию со слушателями: кто-то общается прямо на платформе, кто-то использует Telegram, а кто-то — старый добрый email. Казалось бы, достаточно сделать API, в которое приходят вопросы и возвращаются LLM-ответы. Но нет.

Отдельная большая задача — это качественная интеграция решения в текущие процессы компании-заказчика. Для начала потребуется сильная продуктовая экспертиза: нужно погрузиться в бизнес заказчика, понять, как и что работает прямо сейчас. Предложить, как оптимально встроить LLM-решение в текущие процессы.

Далее — классическая разработка. После согласования продуктовой части начинается большой блок технических задач. Это проектирование интерфейсов, обработка и маршрутизация запросов, кастомные коннекторы под специфические системы заказчика, мониторинг, масштабирование, а также интеграция «LLM-мозгов» с текущими CRM, LMS и другими внутренними инструментами компании.

Бизнес на LLM — это не просто про сами модели. Чем лучше ты умеешь интегрировать решения в текущие процессы и системы заказчика, тем выше ценность твоей команды.

www.group-telegram.com/us/experiment_ai.com/72

190 viewsedited  May 16 at 20:42

Бизнес на LLM
Когда мы в Standard Data начали делать проекты на LLM, казалось, ключевая компетенция — глубокое знание самих моделей: подготовка данных, prompt-инжиниринг, дообучение, эксперименты с агентами и тд. Но реальность быстро скорректировала картинку.

Каждое внедрение LLM-решения в бизнес — это 30-50% работы с ключевой частью системы, с «LLM-мозгами», и 50-70% традиционной разработки и интеграции.

Это хорошо видно на проектах с внедрением образовательных ИИ-ассистентов, которые помогают быстро отвечать на вопросы студентов. У каждой образовательной компании свой набор используемых технологий, свой подход к взаимодействию со слушателями: кто-то общается прямо на платформе, кто-то использует Telegram, а кто-то — старый добрый email. Казалось бы, достаточно сделать API, в которое приходят вопросы и возвращаются LLM-ответы. Но нет.

Отдельная большая задача — это качественная интеграция решения в текущие процессы компании-заказчика. Для начала потребуется сильная продуктовая экспертиза: нужно погрузиться в бизнес заказчика, понять, как и что работает прямо сейчас. Предложить, как оптимально встроить LLM-решение в текущие процессы.

Далее — классическая разработка. После согласования продуктовой части начинается большой блок технических задач. Это проектирование интерфейсов, обработка и маршрутизация запросов, кастомные коннекторы под специфические системы заказчика, мониторинг, масштабирование, а также интеграция «LLM-мозгов» с текущими CRM, LMS и другими внутренними инструментами компании.

Бизнес на LLM — это не просто про сами модели. Чем лучше ты умеешь интегрировать решения в текущие процессы и системы заказчика, тем выше ценность твоей команды.

BY Эксперименты с ИИ