Анатомия AI-агента

Давайте разберемся что под капотом обеспечивает, заявленные в определении, свойства. Есть много предложений как выстраивать когнитивную архитектуру агента, ее мы затрагивать не будем, мы поговорим на уровне логической абстракции, опустив реализацию

Цель.
"You are a helpfull assistant...", с этой фразы начинается практически каждый системный промпт в любом GPT-решении общего порядка. Фактически это и есть цель. "Ты полезный помощник, помогай человеку" — звучит цель. Также в более узких функциональных агентах она может звучать по-другому (привожу в переводе на русский):
- "Ты, бот, который помогает находить полезную информацию в интернете..."
- "Ты, помощник, который управляет инвестиционным портфелем пользователя и помогает блаблабла..."
- "Ты, сотрудник поддержки, который использует базу знаний для точных ответов..."

Конечно, чтобы лучше управлять следованию цели, мы придумали идею роли, формулировать ограничения, даже внутренние KPI для агента. Есть целые фреймворки, как правильно описывать агента, чтобы максимизировать качество следования цели и работу с корнер-кейсами

Оперирование во внешней среде (ака тулинг)
Сама по себе модель ничего не видит и не слышит, и у нее нет ничего, кроме текста на вход, который она продолжает. Поэтому мы придумали формат чата, и научили в нем продолжать текст (говорит человек, отвечает модель, снова человек). Это позволяет перейти от "продолжи текст", на "взаимодействуй со мной в формате вопрос-ответ). Это позволяет извлекать из нее информацию

Потом мы поняли, что должен быть блок, в котором мы дадим базовую инфу (системный промпт). Туда поместим цель, опишем роль, напишем инструкции, добавим текущую дату, информацию о пользователе. Но, это все лишь улучшает ее "диалоговые качества", а нам нужно, чтобы она могла выполнять рациональные действия во внешней среде

А давайте опишем ей методы которые она может вызывать? Дадим примеры их использования и попросим ее в случае, если она видит, что, например, нужно получить список счетов пользователя, поискать в интернете или положить товар в корзину, то пусть сгенерирует вызов функции json-ом, вида: { "name": "addToBasket", "params":{ "productId": 322 } }. Тогда, мы, разработчики, сможем на выходе с модели определить, что это вызов функции, перехватить ответ, и вызвать эту функцию во внешней среде, а дождавшись ответа, подложим ей его в диалог с пометкой "это результаты выполнения вот этого запроса"

Таким образом мы подсовываем модели «глаза и руки». Теперь она может делать вызовы, собирать информацию, анализировать, планировать и пошагово исполнять, дергая апи, рефлексируя и "оперируя во внешней среде" пойдет решать задачки

Взаимодействие на естественном языке с человеком и другими агентами
Взаимодействие с человеком мы разобрали, а что с другими агентами? А там тоже самое, мы можем через тулинг или другим способом научить своего агента делегировать задачи на других агентов. Передаешь задачу и весь необходимый контекст. Вуаля!

И это позволяет реализовывать сложные мультиагентные системы, где разные авторы агентов разрабатывают своих функциональных агентов, которые трудятся над одним делом. Если взять в пример SDLC-цикл, то у нас могут быть разные агенты: агент-аналитик, агент-тестировщик, агент-программист. И каждый из них делает свою часть работы. Мы в жире двигаем таску, агент возбуждается, пишет код, когда себя проверил и закончил — передвинул таску на тестирование, проснулся агент-тестировщик, взял задачу, и начал ее тестировать. Прямо как мы с вами)

Но, конечно это все потребует большой работы, чтобы пересмотреть все наши процессы, и вместо AI-enabled процессов (в которые просто добавили cahtgpt), мы перейдем к ai-native процессом, которые были спроектированы с учетом AI-агентов, со всеми требованиями, доступностью апи для агентов, системы откатывания действий и контроля со стороны кожанных мешков

внутренние обучающие материалы IBM, слайд из 1979 года

Ты включаешь новости — а ведущий уже не человек. Лейблы подписывают контракты с ИИ-певицами. В Китае стрим ведёт аватар, скопированный с живого блогера, а хакеры научились подменять биометрию с помощью искусственного интеллекта.

ИИ везде. Он поёт, торгует, врёт и ворует. Если хочешь понимать, где реальность, а где симуляция, кто на этом зарабатывает и как не стать жертвой мошенников – подписывайся на «Про tech и этих».

Ну кстати да, качество генерации невероятное уже, у кого есть вычислительные мощности, тот формирует общественное мнение

П.С. Спасибо комментаторам за мем

Ну или издевается над своим начальством)

Говорят, админы каналов понесли вброс про взломанный Макс)

Два дня назад: «Амазон уволил 40% девопсов. AI забрал их рабочие места»

Сегодня: AWS лежит

Как управлять продуктами, чтобы сохранить бизнес?

Разбираемся на практикуме «Управление портфелем продуктов в ключе антикризисной стратегии». Вы узнаете, как через грамотную приоритезацию продуктов сохранить операционную эффективность и финансовую устойчивость компании.

Детально обсудим:

Оптимизацию цепочки ценности: найдем неоптимальные процессы и перераспределим ресурсы.

Финансово-операционную синергию: научимся использовать ключевые метрики для принятия решений по продуктам.

Портфельный анализ: поймем, где сокращать и поддерживать функционал, а куда временно не инвестировать.

Для кого это must-have:

— COO и операционных директоров.
— Руководителей продуктов и проектов в IT.
— Топ-менеджеров, отвечающих за устойчивость бизнеса.
— Управленцев с мультипродуктовыми портфелями.

Практикум проходит в рамках старта курса «COO / Операционный директор в IT».

📅 22 октября в 19:00

📍 Участие бесплатное

➡️ Регистрация

Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576

Первый день конфы прошел на отлично и закончился афтерпати)

Вот не живется им нормально, теперь еще OpenAI выкатила свой брузер "нового поколения")

Мне симпатична их точка зрения — оставим веб таким, какой он есть, но будем манипулировать браузером при помощи агентного режима твоей любимой модели

Но, есть и другой путь, по которому, как я вижу, большие игроки идут — ai-native продукт, который представлен агентом, который может полностью тебя обслужить (ну или почти полностью). К которому ты можешь прийти напрямую, либо, тот же условный chatgpt, обратится к нему от твоего лица и попросит что-то сделать за тебя

А каким тогда будет интерфейс?

Собсна, сегодня был круглый стол по развитию веб-платформы, и внезапно, Леша Симоненко, позвал меня пояснить за AI и интерфейсы. Вот держите отрывок с моей точкой зрения, касательно развития интерфейсов с AI. Остается вопрос — как сделать так, чтобы наши компоненты могли играться в интерфейсе произвольных моделей. И, кажется, с первым релизом виджетов, openai уже ответили на этот вопрос! Жду докладов по типу "Как переиспользовать свою GenUI библиотеку в chatgpt"

Попробуйте LLM без лишней настройки

До 31 октября провайдер Cloud․ru раздает бесплатный доступ к LLM и AI-моделям в сервисе Evolution Foundation Models.

Там есть GigaChat-2-Max, Qwen3-Coder-480B-A35B-Instruct, GLM-4.6, gpt-oss-120b и еще 15+ популярных open source моделей. Они уже готовы к использованию, достаточно подключиться через API, совместимый с OpenAI.

Модели развернуты на российских серверах, а провайдер не хранит и не использует ваши данные.

До 31 октября модели доступны бесплатно, а с 1 ноября — доступные цены.

Тестим тут

Осознанная инфантильность

Вчера у нас закончилась наша прекрасная конференция с отличной программой и морем нетворка. Плюс, к нам пришли ребята из айти хозяев, стримили конфу на твитч, даже я в этом поучаствовал (зашел на пару слов, как итог мы почти час просидели протрещали)

Но, вот, случилось ужасное! Непросительный казус, Сане jointime Стародубцеву злые кейтерингяне отказали во второй порции обеда! И ладно бы, это был просто обед, но нет, это был куриный шашлычок! К такому нас жизнь не готовила, никогда на конференциях не было одного обеда в руки, но, тут опять! Что же делать, что же делать (с)

И ладно бы, орнули и орнули, но, тут вылез, маргинальный лидер секты Осознанной Инфантильности — Иван Ботанов, и произвел легендарное разоблачение! Оказывается, это глубинный заговор массонов бигтехов! А конференции — бесполезны. Вот такую натальную карту по шашлычку составил Иван)

В следующий год, специально, для всех участников секты инфантильности, сделаем промокод shashlychok26.

Для тех, кто плохо читает сарказм, это пост не про Сашу, отстаньте от него)

Саня, тебе респект, спасибо за ваш стрим с конфы, если принял на свой счет, извини ❤️

Будем рады, если придете снова!

Кстати, там Нидерланды под предлогом "национальной безопасности" украли компанию Nexperia, производителя чипов, у Китая

Китай, ожидаемо, остановил поставку деталей в ЕС, как итог:
- Volkswagen останавливает производство Golf и Tiguan
- Европейская автомобильная ассоциация бьет тревогу - запасов чипов на складах хватит на считанные недели

Ну а ваще, дожили, Нидерланды воруют производство чипов у Китая. Расскажите мне это 20 лет назад, я бы не поверил

🍿

Скрытые предвзятости LLM: чью жизнь ИИ ценит выше

Исследователи из Center for AI Safety показали, что LLM имеют внутренние предпочтения при оценке человеческих жизней.

Автор протестировал актуальные модели (GPT-5, Claude 4.5, Gemini 2.5, Deepseek, Kimi K2) и обнаружил паттерны:

- большинство ценят жизни небелых людей в 8-100 раз выше белых
- женщин предпочитают мужчинам в 2-12 раз
- агентов ICE оценивают в 7000 раз ниже нелегальных мигрантов (Claude Haiku)

Исключение — Grok 4 Fast, единственная не предвзятая модель.

Предпочтения извлекаются через тысячи сравнений вида "$X или спасти Y человек".

Разные метрики (смерть или терминальная стадия болезни) и температура сэмплинга влияют на результаты, но тренд стабилен.

При том, что уже юристы, военные, судьи, программисты ежедневно используют эти модели для создания системы принятия решений, - такой перевес и предвзятость делают решения моделей катастрофичными для огромного количества людей.

Т.е. набрали датасетов в Африке и удивляются предвзятости.

Собирайте датасеты в своих странах и обучайте модели на своих данных.

Те самые версии суверенных национальных ИИ с учётом культурно-экономического контекста каждой отдельно взятой страны.

Но скандал получается знатный. Маск уже назвал Claude чистым злом.

#Bias #Grok #предвзятость
———
@tsingular