Вот бегаем мы с вами с этими AI, LLM, Агентами и тд. с горящими глазами.

А прикиньте, если для окружающих мы выглядим такими же фанатиками, как для нас выглядят ярые Криптаны, и от нас так же стараются держаться подальше?

FrontendConf ищет волонтеров!

Если ты студент или начинающий разработчик и тебе по кайфу стать частью ключевого события во фронтенде, попасть в центр движа, почувствовать в его создании и увидеть все изнутри — приходи: https://www.group-telegram.com/FrontendConfChannel/1224

Что такое агенты?

Тема явно на тренде, о них говорят из каждого утюга, обещают, что агенты на LLM-моделях изменят мир, бабло тратят на них тоннами и так далее. А что это такое? В чем ключевой смысл, почему именно агенты, вам что LLM мало? Почему они могут писать код, автоматизировать процессы и работать, как ИИ-Помощники в клиентском обслуживании.

Начнем с определения, разрабатывая платформу для агентов приходится вести много дискуссий внутри, с архитекторами, инженерами, бизнесом. Поэтому, основа понимания — словарь терминов и определений. Давайте возьмем и определим два термина простым языком:

Агент — штука, которая может принимать рациональные действия во внешней среде для достижения цели.
Например термостат на батарее. Мы ему крутилкой указали, что его цель держать температуру 21 градус тепла. Далее он включает выключает батарею, чтобы выполнить цель (то есть внешняя среда для термостата это датчик температуры помещения, включатель/выключатель батареи)

AI-агент — штука, которая принимает рациональные действия во внешней среде для достижения цели, способная к планированию, и взаимодействию на естественном языке с человеком и другими агентами.
То есть, тоже самое, но плюс планирование и коммуникация. И в примере агента, который пишет код, то для него внешняя среда это: файловое апи, гит, поиск по интернету, командная строка.

Получается, что системы, проявляющие агентное поведения нас окружают уже давно (как в быту, так и в экзотических ситуациях, таких как автономные системы в космосе, океане и на других планетах). Но, эти агенты никогда не могли общаться, получать произвольный контекст на человеческом языке и планировать работу исходя из него. Сейчас же, открывается огромный потенциал, автономизировать выполнение работы "на уровне человека", чего раньше достичь было технически не возможно

Человек, который с нуля построил и продал REG.​RU и теперь работает с Фаберже

Есть такая российская компания REG.​RU. Это один из крупнейших регистраторов доменов и хостинг-провайдеров в России. В общем, крупная ИТ-компания, которая успешно работает уже почти 20 лет.

И у её сооснователя, Алексея Королюка, есть авторский телеграм-канал.

Этот человек в интернет-бизнесе с 1997 года.
Сейчас у Алексея 20+ активных проектов и недавно он рассказал, что работает с компанией Fabergé.
Фаберже, прикиньте! Те самые яйца Фаберже знаете? Вот это та самая компания.

Алексей будет делиться в канале внутрянкой, инсайдами и выводами по работе с Фаберже.
Вот первый пост

Вообще у него на канале выходит много интересных постов, где он делится своим опытом про бизнес, tech, и вообще за жизнь.
У Алексея точно накопилось много полезного опыта, инсайтов и рекомендаций. И вот что еще можно найти у него в канале прямо сейчас:

Крутая серия постов про адаптацию российского медицинского стартапа в Индии (Алексей в этот бизнес вложился).

Инструменты, которые можно внедрить завтра:
– «320 вопросов инвесторов к компаниям»
– «Как уйти в отпуск и не потерять контроль»
– «Как "пробивать" человека. Всеми возможными методами в легальном поле»
– и еще 7 гайдов в одном посте

В закрепе подборка избранных постов, которые оценили предприниматели и книга Алексея «Бизнес-хаки» в бесплатном доступе.

Подкаст «Визионеры»
Где Алексей с Максимом Спиридоновым и Никитой Андросовым обсуждают бизнес, тренды и технологии.

Канал Алексея это опыт смарт-инвестора и предпринимателя, который доводит компании до продажи и двигается дальше, а в комментариях канала бизнесмены, инвесторы, топы и стартаперы находят новые партнерства.

Кому интересно, вот ссылка

Анатомия AI-агента

Давайте разберемся что под капотом обеспечивает, заявленные в определении, свойства. Есть много предложений как выстраивать когнитивную архитектуру агента, ее мы затрагивать не будем, мы поговорим на уровне логической абстракции, опустив реализацию

Цель.
"You are a helpfull assistant...", с этой фразы начинается практически каждый системный промпт в любом GPT-решении общего порядка. Фактически это и есть цель. "Ты полезный помощник, помогай человеку" — звучит цель. Также в более узких функциональных агентах она может звучать по-другому (привожу в переводе на русский):
- "Ты, бот, который помогает находить полезную информацию в интернете..."
- "Ты, помощник, который управляет инвестиционным портфелем пользователя и помогает блаблабла..."
- "Ты, сотрудник поддержки, который использует базу знаний для точных ответов..."

Конечно, чтобы лучше управлять следованию цели, мы придумали идею роли, формулировать ограничения, даже внутренние KPI для агента. Есть целые фреймворки, как правильно описывать агента, чтобы максимизировать качество следования цели и работу с корнер-кейсами

Оперирование во внешней среде (ака тулинг)
Сама по себе модель ничего не видит и не слышит, и у нее нет ничего, кроме текста на вход, который она продолжает. Поэтому мы придумали формат чата, и научили в нем продолжать текст (говорит человек, отвечает модель, снова человек). Это позволяет перейти от "продолжи текст", на "взаимодействуй со мной в формате вопрос-ответ). Это позволяет извлекать из нее информацию

Потом мы поняли, что должен быть блок, в котором мы дадим базовую инфу (системный промпт). Туда поместим цель, опишем роль, напишем инструкции, добавим текущую дату, информацию о пользователе. Но, это все лишь улучшает ее "диалоговые качества", а нам нужно, чтобы она могла выполнять рациональные действия во внешней среде

А давайте опишем ей методы которые она может вызывать? Дадим примеры их использования и попросим ее в случае, если она видит, что, например, нужно получить список счетов пользователя, поискать в интернете или положить товар в корзину, то пусть сгенерирует вызов функции json-ом, вида: { "name": "addToBasket", "params":{ "productId": 322 } }. Тогда, мы, разработчики, сможем на выходе с модели определить, что это вызов функции, перехватить ответ, и вызвать эту функцию во внешней среде, а дождавшись ответа, подложим ей его в диалог с пометкой "это результаты выполнения вот этого запроса"

Таким образом мы подсовываем модели «глаза и руки». Теперь она может делать вызовы, собирать информацию, анализировать, планировать и пошагово исполнять, дергая апи, рефлексируя и "оперируя во внешней среде" пойдет решать задачки

Взаимодействие на естественном языке с человеком и другими агентами
Взаимодействие с человеком мы разобрали, а что с другими агентами? А там тоже самое, мы можем через тулинг или другим способом научить своего агента делегировать задачи на других агентов. Передаешь задачу и весь необходимый контекст. Вуаля!

И это позволяет реализовывать сложные мультиагентные системы, где разные авторы агентов разрабатывают своих функциональных агентов, которые трудятся над одним делом. Если взять в пример SDLC-цикл, то у нас могут быть разные агенты: агент-аналитик, агент-тестировщик, агент-программист. И каждый из них делает свою часть работы. Мы в жире двигаем таску, агент возбуждается, пишет код, когда себя проверил и закончил — передвинул таску на тестирование, проснулся агент-тестировщик, взял задачу, и начал ее тестировать. Прямо как мы с вами)

Но, конечно это все потребует большой работы, чтобы пересмотреть все наши процессы, и вместо AI-enabled процессов (в которые просто добавили cahtgpt), мы перейдем к ai-native процессом, которые были спроектированы с учетом AI-агентов, со всеми требованиями, доступностью апи для агентов, системы откатывания действий и контроля со стороны кожанных мешков

внутренние обучающие материалы IBM, слайд из 1979 года

Ты включаешь новости — а ведущий уже не человек. Лейблы подписывают контракты с ИИ-певицами. В Китае стрим ведёт аватар, скопированный с живого блогера, а хакеры научились подменять биометрию с помощью искусственного интеллекта.

ИИ везде. Он поёт, торгует, врёт и ворует. Если хочешь понимать, где реальность, а где симуляция, кто на этом зарабатывает и как не стать жертвой мошенников – подписывайся на «Про tech и этих».

Ну кстати да, качество генерации невероятное уже, у кого есть вычислительные мощности, тот формирует общественное мнение

П.С. Спасибо комментаторам за мем

Ну или издевается над своим начальством)

Говорят, админы каналов понесли вброс про взломанный Макс)

Два дня назад: «Амазон уволил 40% девопсов. AI забрал их рабочие места»

Сегодня: AWS лежит

Как управлять продуктами, чтобы сохранить бизнес?

Разбираемся на практикуме «Управление портфелем продуктов в ключе антикризисной стратегии». Вы узнаете, как через грамотную приоритезацию продуктов сохранить операционную эффективность и финансовую устойчивость компании.

Детально обсудим:

Оптимизацию цепочки ценности: найдем неоптимальные процессы и перераспределим ресурсы.

Финансово-операционную синергию: научимся использовать ключевые метрики для принятия решений по продуктам.

Портфельный анализ: поймем, где сокращать и поддерживать функционал, а куда временно не инвестировать.

Для кого это must-have:

— COO и операционных директоров.
— Руководителей продуктов и проектов в IT.
— Топ-менеджеров, отвечающих за устойчивость бизнеса.
— Управленцев с мультипродуктовыми портфелями.

Практикум проходит в рамках старта курса «COO / Операционный директор в IT».

📅 22 октября в 19:00

📍 Участие бесплатное

➡️ Регистрация

Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576

Первый день конфы прошел на отлично и закончился афтерпати)

Вот не живется им нормально, теперь еще OpenAI выкатила свой брузер "нового поколения")

Мне симпатична их точка зрения — оставим веб таким, какой он есть, но будем манипулировать браузером при помощи агентного режима твоей любимой модели

Но, есть и другой путь, по которому, как я вижу, большие игроки идут — ai-native продукт, который представлен агентом, который может полностью тебя обслужить (ну или почти полностью). К которому ты можешь прийти напрямую, либо, тот же условный chatgpt, обратится к нему от твоего лица и попросит что-то сделать за тебя

А каким тогда будет интерфейс?

Собсна, сегодня был круглый стол по развитию веб-платформы, и внезапно, Леша Симоненко, позвал меня пояснить за AI и интерфейсы. Вот держите отрывок с моей точкой зрения, касательно развития интерфейсов с AI. Остается вопрос — как сделать так, чтобы наши компоненты могли играться в интерфейсе произвольных моделей. И, кажется, с первым релизом виджетов, openai уже ответили на этот вопрос! Жду докладов по типу "Как переиспользовать свою GenUI библиотеку в chatgpt"