Последние двадцать лет цифровые продукты помогали человеку принимать решения. Google искал информацию, маркетплейсы показывали товары, банк предлагал продукты, CRM подсказывала следующий шаг. Выбор всегда оставался за человеком.

Теперь это меняется, ИИ-агент способен не просто рекомендовать, но и действовать: выбрать товар, оформить заказ, открыть сделку, перевести деньги, запустить рабочий процесс. Пока система советует — разница в целях влияет на рекомендацию. Когда система начинает действовать — разница в целях влияет уже на события реального мира.

Именно здесь возникает вопрос, который пока почти никто не задает вслух: если агент принимает решение вместо человека, то кто определил, какое решение считается правильным?

Почему интеллект модели не объясняет поведение агента

Сегодня принято сравнивать языковые модели: скорость, контекстное окно, стоимость, интеграции. Но схожая модель не означает одинакового поведения агента.

Причина — различие в том, что я называю архитектурой целей. Это не промпт и не настройки интерфейса. Архитектура целей включает:

• что считается успешным результатом;
• по каким данным агент принимает решение;
• какие действия ему доступны;
• какие ограничения встроены;
• при каких условиях он обязан передать управление человеку.

Два агента на одной и той же языковой модели, встроенные в разные экономические системы, будут принимать разные решения. Не потому что один умнее другого, а потому что у каждого своя целевая функция.

Как бизнес-модель становится архитектурой целей

Возьмем несколько примеров по одной логике: цель пользователя, бизнес-модель платформы, где интересы совпадают и где расходятся.

• Онлайн-торговля. Пользователь хочет найти лучший товар. Платформа зарабатывает на конверсии и среднем чеке. Совпадение есть: быстро найденный подходящий товар выгоден обеим сторонам. Расхождение тоже есть: агент выбирает не лучший товар на рынке, а лучший внутри коммерчески заданной витрины. Границы выбора определяются архитектурой продукта, а не интересами покупателя.
• Банковский агент. Пользователь хочет решить финансовую задачу. Банк продает собственные продукты и снижает стоимость обслуживания. Автоматизация выгодна всем до тех пор, пока лучшее решение находится внутри продуктовой линейки этого банка. За ее пределами агент искать не будет: такой цели в его архитектуру не заложено.
• Медицинский агент. Пациент хочет попасть к нужному врачу и не потерять время на лишние обследования. Клиника хочет, чтобы каждый пациент оказался у подходящего специалиста, и при этом снизить число возникающих ошибок. Здесь интересы совпадают чаще, но и здесь агент может оптимизировать не только медицинский результат, но и юридические риски или доступность специалистов. Даже осторожность агента — следствие его архитектуры целей, а не заботы о конкретном пациенте.

Торговые агенты: один ИИ, разные решения

Это самый наглядный пример из тех, с которыми я работаю напрямую.

Возьмём, например, ИИ-агентов, которых сейчас массово предлагают на криптобиржах. Криптобиржи зарабатывают на оборотах: чем больше сделок совершает пользователь, тем выше комиссионный доход. Им в целом безразлично, торгует ли клиент в плюс или в минус — доход биржи не зависит от его финансового результата. Поэтому архитектура агента здесь настроена на активность, на поиск новых сделок, на вовлеченность.

Я задаю пользователям таких платформ простой вопрос: с чего вы взяли, что криптобиржа даст вам агента, который будет зарабатывать для вас деньги? Это противоречит ее интересам. Если тысяча человек заработает по сто тысяч долларов и выведет их — ни одна биржа долго так не протянет. Ни одна биржа, ни один брокер не заинтересованы в том, чтобы из них выводили деньги: именно на деньгах клиентов они и зарабатывают.

Теперь возьмём ИИ-агента проп-трейдинговой компании, здесь модель принципиально другая. Мы в "Лайт Инвест" предоставляем трейдеру капитал и получает только долю от его прибыли. Нет прибыли у трейдера — нет дохода у нас. Поэтому архитектура нашего агента должна оптимизировать не количество сделок, а их качество: сохранение капитала, соблюдение риск-лимитов, устойчивость стратегии на дистанции и способность вовремя отказаться от сделки, которая не соответствует стратегии.

Нам невыгодно, чтобы трейдер торговал много и уходил в минус. Нам выгодно, чтобы он совершал меньше сделок, давал меньший оборот, но был прибыльным. Это прямо противоположная логика.

Агент должен оцениваться не по количеству действий, а по способности принять правильное решение, в том числе иногда сделать выбор вообще ничего не делать. Разница между этими двумя подходами определяется не языковой моделью. Она определяется тем, что каждая система считает успешным результатом.

Где архитектура целей закрепляется технически

Важно понимать: архитектура целей реализуется не в промпте — это только один её элемент. В полном виде она включает:

• критерии успеха;
• набор данных, к которым система имеет доступ;
• перечень доступных действий;
• уровень автономности;
• встроенные ограничения;
• условия остановки — ситуации, когда агент обязан передать управление человеку.

Именно эти инженерные решения, принятые на этапе проектирования, определяют, в чьих интересах агент будет действовать, а не мощность языковой модели.

Персональный агент против универсального

После того как становится понятно, что архитектура целей важнее интеллекта модели, встаёт следующий вопрос: что устойчивее: один универсальный агент, обученный на миллионах пользователей, или миллионы персональных агентов, каждый из которых постепенно становится цифровым двойником конкретного человека?

Я не верю в концепцию одного "мегаагента", который будет всегда зарабатывать. Рынок меняется каждые три–шесть месяцев. Те, кто успешно торговал пять лет назад, сегодня по большей части вне рынка. И рассчитывать на то, что некий супер-ИИ, обученный на всём сразу, будет стабильно работать на длительной дистанции значит игнорировать естественную природу биржевых рынков.

Сила проп-компании в многообразии стратегий, а не в их унификации. Если 40–50 тысяч агентов будут торговать в одном направлении и одновременно ошибутся — это катастрофа. Поэтому Cassandra строится на другой гипотезе: агент запускается как "новорождённый трейдер" без заложенной стратегии, без нашего видения рынка. Его обучает конкретный пользователь через историю своих реальных сделок.

Мы в компании даже ввели прямой запрет на торговлю для сотрудников. Именно для того, чтобы наше видение рынка, которое тоже бывает ошибочным, не влияло бы на трейдеров подспудно. Та же логика применима к агентам.

Путь развития персонального ИИ-агента в биржевой торговли я вижу так:

• Система помогает анализировать информацию и совершает отдельные действия по заданной стратегии.
• Накапливает историю решений конкретного трейдера.
• Изучает его стратегию: какие инструменты он предпочитает, на чём зарабатывает, на чём теряет, как управляет риском.
• Формирует персональный дата-сет.
• Становится цифровым двойником и уже торгует так, как торговал бы его владелец.

По моей оценке, путь от первого этапа до последнего — минимум полтора года. И это при условии, что все пойдет по плану.

Чем выше автономность — тем важнее прозрачность

По мере роста автономности агентов пользователю уже недостаточно знать, какая модель используется. Важно понимать: кто определил цель системы, что считается успешным результатом, какие ограничения встроены, из каких вариантов он выбирает, какие действия выполняет самостоятельно и когда обязан передать управление человеку.

До появления ИИ-агентов пользователь оценивал цифровой продукт по его возможностям: что умеет, насколько удобен, сколько стоит. В эпоху, когда система действует вместо вас, этого уже недостаточно. Главный вопрос теперь не "насколько она умная", а "в чьих интересах она принимает решение".

Именно вокруг прозрачности, доверия и архитектуры целей, на мой взгляд, и будет строиться следующая конкуренция между технологическими платформами.