TroposAIЧто будет, если ИИ-агент ошибётся?
Коротко: ошибка агента не должна уйти дальше без человека. Процесс работает в строгом режиме: если шаг не удался, он останавливается и присылает причину, а не строит следующие шаги поверх ошибки. Шаги, которые что-то меняют в учёте, CRM или модели, идут только после подтверждения человеком или в черновой копии. Считать агенту не дают — это делает обычная программа, — а в ответах он ссылается на записи, которые можно открыть и проверить.
Где ошибка ловится
| Защита | Что делает |
|---|---|
| Агент думает, программа считает | Суммы, сопоставления, выбор лучшего по правилу — обычной программой: одинаково каждый раз, без «примерно» |
| Ссылка на источник | Агент называет запись или пункт стандарта, откуда взял ответ; «не нашёл» — нормальный ответ, выдумывать запрещено инструкцией |
| Закрытый список действий | Агенту доступно только то, что нужно для его шага; проверяющие агенты ничего не меняют |
| Строгий режим | Шаг не удался — процесс останавливается и присылает причину |
| Подтверждение человеком | Запись в учёт, CRM или модель — только после того, как человек увидел, что именно уйдёт; без ответа процесс стоит, а не пишет сам |
| Черновая копия | Где подтверждать каждое изменение неудобно, агент работает в копии, а итог принимает специалист |
| Проверка процесса до работы | Платформа не пропустит процесс, где запись стоит без подтверждения человеком или без предела числа записей |
| Журнал каждого шага | Что прочитал агент, какие действия выполнил, что решил человек — видно в кабинете |
Что остаётся за человеком
- Утвердить план или запись посреди процесса.
- Принять итог: отчёт, список замечаний, черновик письма.
- Отправить письма, подписать, провести, заплатить — агенты этого не делают.
Плюсы и минусы
Плюсы
- Ошибка останавливает процесс, а не размножается по следующим шагам
- Изменения в системах — только после подтверждения или в черновике
- Каждый вывод можно проверить по ссылке на запись
- Весь ход работы — в журнале
Минусы
- Агент всё равно может ошибиться в суждении — итог нужно принимать, а не подписывать не глядя
- Подтверждения замедляют процесс: человек должен ответить
- Агент проверяет выборку, а не всё подряд, если так задано
- Строгий режим иногда останавливает процесс из-за мелочи
Вопросы
Может ли ИИ-агент сам что-то изменить в 1С или CRM?
Только через шаг, который платформа пропустит с подтверждением человека или в черновой копии. Агенты 1С сейчас только читают базу; сделку или задачу в CRM создаёт процесс после того, как человек увидел, что уйдёт.
Как понять, где агент ошибся?
В журнале кабинета видно каждый шаг: что агент прочитал, какие действия выполнил и как рассуждал. Агенту можно подсказать по ходу работы или остановить его.
Что будет, если у модели закончились деньги на ключе?
Процесс встанет на паузу и пришлёт письмо с причиной, а не выдаст отчёт с пропусками.
Попробуйте на своих системах
Пробный период — 30 дней бесплатно, условия — на странице тарифов. Или начнём с пилота на одном процессе.
Обсудить пилот