Выбор

А не сделать ли это самим на API модели?

Любой толковый разработчик соединит API модели с окном чата за выходные, и результат будет впечатляющим. Поэтому этот вопрос заслуживает прямого ответа, а не продающего: прототип - не трудная часть, и знание того, какая часть трудная, и есть всё решение.

Прототип - это десять процентов, и это приятные десять

Чего в сборке за выходные нет: поддержания базы знаний в соответствии с меняющимся сайтом, решения о том, что делать, когда поиск ничего не нашёл, ограничения частоты, борьбы со злоупотреблениями, изоляции между сайтами, если их больше одного, журналирования переписок, пригодного для разбора, способа увидеть, где ответили неверно, и поведения при ошибке провайдера. Всё это неэффектно, и именно здесь живёт стоимость владения.

Две части, которые действительно трудны

Первая - отказ. Заставить модель отвечать легко; заставить её надёжно отказываться от того, на что отвечать не следует, на трёх языках, и остаться отказывающейся после правки промпта - это и есть работа. Вторая - приём контента, выживающий в реальности: страницы переезжают, содержимое дублируется, sitemap врёт, обход тихо останавливается. Вторую недооценивают стабильно, а первую обнаруживают в проде.

Когда делать самим - верный ответ

Если ассистент - ядро вашего продукта, а не поддержка к нему. Если нужно поведение, которого не даёт ни один поставщик. Если есть инженер, который будет владеть этим через год, а не только в этом квартале. И если контент, по которому он отвечает, уже структурирован и устойчив - потому что самая трудная часть покупки совпадает с самой трудной частью разработки, и это не модель.

Вопрос, который стоит задать в любом случае

Что происходит, когда он не знает? Если ваш прототип отвечает всё равно - а большинство отвечает, потому что так по умолчанию, - вы ещё не собрали то, что нужно. Задать тот же вопрос поставщику - самый быстрый способ понять, собрал ли он. Тот, чей ответ про точность, а не про отказ, описывает демонстрацию.

Частые вопросы

Можем ли мы просто сделать ИИ-ассистента сами?
Прототип - да, за выходные. В нём нет поддержания базы знаний в соответствии с меняющимся сайтом, надёжного отказа на трёх языках, ограничения частоты и борьбы со злоупотреблениями, журналов для разбора и поведения при ошибке провайдера. Там и живёт стоимость.
Что здесь действительно трудно?
Отказ и приём контента. Заставить модель отвечать легко; заставить надёжно отказываться от того, на что не следует, и остаться такой после правки промпта - это работа. А приём должен выживать при переезде страниц, дублях, врущем sitemap и тихо вставшем обходе.
Когда делать самим - правильный выбор?
Когда ассистент - ядро продукта, а не поддержка к нему; когда нужно поведение, которого не даёт никто; и когда инженер будет владеть этим через год, а не в этом квартале. Иначе вы содержите инфраструктуру, чтобы не платить подписку.
О чём спросить поставщика, чтобы сравнение было честным?
Что происходит, когда он не знает, - дословно, с примером. Поставщик, отвечающий про точность, а не про отказ, описывает демонстрацию. Задайте тот же вопрос своему прототипу: большинство отвечает всё равно, потому что так по умолчанию.
Зависит ли выбор от того, какую модель мы возьмём?
Меньше, чем все ожидают. Модель - та часть, которая улучшается сама и которую можно заменить. Полезность ассистента решают контент, по которому он отвечает, и правила о том, в чём он отказывает, - и ни то ни другое из модели не берётся.

Написать нам

Оставьте данные, и мы ответим. Чтобы получить ответ, звонок с отделом продаж не нужен.