Манифест
Агент, которому
отдают доступы
Чат отвечает на вопросы. Агент работает: читает клиентскую базу, правит сделки, пишет письма от имени компании и называет цифры, по которым принимают решения. Спрашивать с него надо как с сотрудника, у которого есть ключи.
- 08 правил
- механизм под каждым
- текст открытый
Возьмите текст целиком или частями для своего продукта. Ссылка на нас не нужна: правила стоят дороже авторства.
01 / Зачем это написано
ИИ-агент - это
выданный доступ,
а не ещё одна подписка
Языковая модель сама по себе безобидна: она говорит. Агент - это та же модель, которой выдали ключи от CRM, почты, телефонии и рекламного кабинета. С этой минуты разговор кончился и началась работа внутри компании.
Рынок продаёт агентов как чат с ежемесячной оплатой, и разговор идёт про цену и количество интеграций. Мы считаем это подменой вопроса. Рядом с «что он сделает без спроса», «куда уедут данные» и «как я узнаю, что цифра неполная» цена вторична. Ответы на такие вопросы не пишутся в описании продукта: они либо заложены в устройство, либо их нет.
Мы формулируем свои правила, чтобы их можно было предъявить нам. Каждое подкреплено механизмом: кодом, проверкой или журналом на вашей стороне. Правило без механизма - это не обещание, а реклама, и мы такие правила не пишем.
02 / Принципы
Восемь правил
Порядок не случайный: сверху то, что нельзя починить задним числом. Под каждым правилом стоит механизм, которым оно держится, и способ проверить его без нас.
-
01
Ничего необратимого молча
Отправку письма, правку сделки, списание, публикацию агент показывает целиком до выполнения и ждёт «да». Согласие одноразовое: разрешение на это письмо не распространяется на следующее. Читать он может сам, менять - только вместе с человеком.
- механизм
- Опасные действия вынесены отдельным списком в ядре и уходят в подтверждение
- проверить самому
- Попросите отправить письмо: агент покажет текст и остановится
-
02
Данные остаются у владельца
Агент ставится на вашу машину или в отдельную ячейку на сервере. Наружу уходят запросы только к тем сервисам, которые подключили вы. Телеметрии в коде нет - это не обещание не собирать, а отсутствие того, чем собирать.
- механизм
- Установка на вашу машину, исходящие запросы только к подключённым сервисам
- проверить самому
- Поиск по исходникам и журнал сети на машине агента
-
03
Цифра приходит с источником
Ответ называет систему, период и способ счёта. Число без происхождения - это мнение, и решение по нему принимать нельзя. Одни и те же заявки, посчитанные тремя способами, дают три разных результата, и видеть эту разницу должен заказчик, а не только тот, кто считал.
- механизм
- Источник, период и способ счёта проставляет коннектор, а не модель
- проверить самому
- Спросите «откуда эта цифра» после любого ответа
-
04
Неполнота называется вслух
Если сервис заявил пятьсот записей, а отдал четыреста восемьдесят, агент говорит об этом до того, как цифра уедет в отчёт. Молчаливая недостача опаснее ошибки: ошибку замечают, недостачу - нет.
- механизм
- Коннектор сверяет заявленное сервисом количество записей с полученным
- проверить самому
- Сравните ответ агента с выгрузкой из системы за тот же период
-
05
«Данных недостаточно» - нормальный ответ
Когда ответа в системах нет, агент так и отвечает, а не подставляет правдоподобное число. Правдоподобное хуже пустого: пустое место заметят и уточнят, правдоподобное уедет в презентацию как факт.
- механизм
- Ответ собирается из того, что вернули системы, а не дописывается моделью
- проверить самому
- Спросите то, чего в подключённых системах нет
-
06
Возможность есть там, где есть проверка
Возможность существует, если её ломает падающая проверка. Строка в описании, комментарий в коде и слайд в презентации возможностью не являются. Мы находили у себя обратное и считаем это дефектом, а не мелочью.
- механизм
- 910 тестов, каждый про конкретный способ потерять данные
- проверить самому
- Прогоните набор тестов у себя после установки
-
07
Видно, что он делал
Каждое действие остаётся в журнале на вашей стороне: какой запрос, в какую систему, что вернулось. Разобрать работу агента можно без нашего участия - и после того, как вы от нас уйдёте.
- механизм
- Журнал запросов и ответов пишется на вашей стороне
- проверить самому
- Откройте журнал за вчерашний день
-
08
Отвечает человек
Агент готовит решение, но не принимает его. За отправленное письмо, подписанный документ и цифру в отчёте отвечает человек. Продавать иное - значит продавать снятие ответственности, которого не бывает.
- механизм
- Автоматический запуск опасных действий выключен, согласие одноразовое
- проверить самому
- Попробуйте выдать разрешение «на всё вперёд»: такого режима нет
03 / Границы
Чего мы не обещаем
Манифест без этой части превращается в рекламу. Здесь то, чего агент не делает, и мы не собираемся делать вид, что делает.
- Не обещаем, что агент не ошибётся. Обещаем, что ошибка будет названа и найдётся в журнале, а не всплывёт через квартал в чужом отчёте.
- Не обещаем замену сотрудников. Он снимает повторяющееся: сводки, сверки, поиск по системам. Решение остаётся за человеком, и цену мы считаем от снятой рутины, а не от уволенных.
- Не обещаем работу без модели. Внутри работает языковая модель, у неё есть имя, цена запроса и предел. Мы называем всё это до договора, а не после первого счёта.
- Не обещаем подключить любую систему за день. Каждый коннектор пишется вокруг конкретных способов конкретного сервиса потерять данные молча. Без этого получается не интеграция, а красивый ответ на пустом месте.
04 / Дальше
Проверьте правила на своих данных
Возьмите вопрос, который у вас сейчас считают руками, и задайте его агенту. Ответ придёт с источником, периодом и честной оговоркой там, где данных не хватило.