Що дає наша розробка чат-ботів на ШІ
Розробка чат-ботів на ШІ - це створення асистентів, які ведуть розмову й відповідають на основі визначеного масиву знань: вашого довідкового центру, документації продукту, політик, каталогу чи внутрішньої вікі. Чат-бот, який ми будуємо, не є універсальним вікном ChatGPT. Він обмежений вашим контентом, відповідає у вашому тоні, вказує, звідки взято кожну відповідь, знає, коли зупинитися, і передає розмову людині, коли це потрібно.
Ми будуємо три основні види чат-ботів на замовлення:
- Чат-боти підтримки клієнтів на вашому сайті, у застосунку чи месенджерах, що відповідають на запитання про продукт і політики та перевіряють статус замовлення чи акаунта.
- Внутрішні асистенти зі знань для працівників, що відповідають на основі HR-політик, технічної документації, договорів і матеріалів минулих проєктів, з правами доступу на рівні документів.
- Керовані розмовні сценарії, наприклад замовлення, бронювання чи онбординг, де чат-бот проводить користувача крок за кроком і записує результат у вашу систему.
Чому важливо спиратися на ваші дані
Чат-бот, що відповідає із загальних знань моделі, рано чи пізно вигадає політику повернення коштів, функцію чи ціну. Цю проблему розв'язує опора на дані: перед відповіддю чат-бот знаходить релевантні фрагменти вашого контенту й відповідає лише на їхній основі. Цей підхід називається генерацією, доповненою пошуком, або RAG.
Опора на дані змінює саму суть чат-бота. Він перестає бути розумним генератором тексту й стає інтерфейсом до ваших знань. Коли контент оновлюється, відповіді змінюються того ж дня без жодного перенавчання. Коли в контенті немає відповіді, чат-бот так і каже й пропонує зв'язатися з людиною, як зробив би добрий співробітник підтримки. Детально про пошук ми пишемо на сторінці розробка RAG і в посібнику з впровадження RAG.
Як будується RAG чат-бот
RAG чат-бот у продакшені - це конвеєр із п'яти етапів. Проблеми з якістю майже завжди виникають на одному конкретному етапі, тому ми будуємо й тестуємо їх окремо.
- Приймання даних. Контент за розкладом забирається з джерел (help desk, CMS, PDF, Notion, Confluence, бази даних), очищується й позначається метаданими: продукт, мова, аудиторія, рівень доступу.
- Розбиття й індексування. Документи розбиваються на фрагменти, що мають сенс самі по собі, і зберігаються з ембедингами у векторній базі даних. За замовчуванням ми використовуємо pgvector усередині PostgreSQL, тож усе лежить в одній базі, яку ви вже підтримуєте. Для більших чи вимогливіших колекцій підходить Qdrant або керований сервіс.
- Пошук. Для кожного запитання система поєднує семантичний пошук із пошуком за ключовими словами, фільтрує за правами користувача й мовою та переранжовує результати, щоб найкращі фрагменти йшли першими.
- Генерація відповіді. OpenAI або Claude пише відповідь лише на основі знайдених фрагментів, з посиланнями на джерела, у голосі вашого бренду й у межах заданої довжини.
- Розмовний шар. Пам'ять поточної розмови, уточнювальні запитання, коли запит неоднозначний, виклики інструментів для актуальних даних, як-от статус замовлення, і логіка передачі розмови людині.
Канали
Один бекенд обслуговує кілька каналів. Ми підключаємо чат-бот до віджета на сайті, вашого мобільного застосунку, Telegram, WhatsApp Business, Slack або Microsoft Teams. Ми вже будували розмовні сценарії в Telegram: для квіткової студії з підпискою ми створили Telegram-бота, який приймає повне замовлення за вісім кроків у чаті, пам'ятає, де зупинилася кожна розмова, щоб клієнт міг повернутися пізніше, і надсилає оновлення статусу на кожному етапі доставки.
Передача розмови людям, зроблена правильно
Чат-бот, який не вміє передати розмову, заганяє клієнтів у пастку. Передачу людині ми закладаємо з самого початку: з чіткими тригерами й акуратним переходом.
| Тригер | Приклад | Що відбувається |
|---|---|---|
| Користувач просить людину | "Можна поговорити з кимось?" | Негайна передача без відмовлянь |
| Низька впевненість пошуку | Жоден фрагмент не відповідає запитанню добре | Чат-бот каже, що не впевнений, і пропонує людину |
| Чутлива тема | Скарга, спірний платіж, юридичне чи медичне питання | Передача з позначкою пріоритету |
| Розмова зайшла в глухий кут | Кілька реплік без вирішення | Пропозиція зв'язатися з людиною з підсумком |
| Дія понад ліміт | Повернення коштів чи зміна поза політикою | Готується чернетка, людина підтверджує |
Під час передачі оператор у вашому help desk чи чаті отримує розмову й короткий підсумок від ШІ. У неробочий час чат-бот збирає контактні дані й створює тікет замість того, щоб удавати, ніби розв'язує проблему.
Перевірка точності до запуску
Ми не запускаємо чат-бот на відчутті, що начебто все гаразд. До запуску ми збираємо тестовий набір реальних запитань з історії вашої підтримки з очікуваними відповідями й джерелами, зокрема запитання, на які чат-бот має відмовити або передати розмову людині.
Кожен прогін показує правильність відповідей, правильність посилань, поведінку на запитаннях поза сферою бота, затримку й вартість однієї розмови. Тестовий набір запускається при кожній зміні промптів, налаштувань пошуку чи версії моделі. Після запуску відповіді з низькою оцінкою й передачі людям щотижня переглядаються, і кожна з них стає або виправленням контенту, або новим тестовим випадком.
Розробити чи купити чат-бот на ШІ?
Купити часто правильне рішення, і ми скажемо, коли саме. ШІ-продукти для help desk швидко запускаються, якщо ваші знання вже там, а запитання стандартні.
| Ситуація | Що підходить краще |
|---|---|
| Стандартна підтримка, контент уже у вашому help desk, помірний обсяг | Готовий ШІ для help desk |
| Відповідям потрібні актуальні дані з ваших власних систем | Власний чат-бот |
| Кілька джерел знань із різними правами доступу | Власний чат-бот |
| Дані мають лишатися у вашій інфраструктурі або потрібна модель на власних серверах | Власний чат-бот |
| Великий обсяг, де оплата за вирішене звернення накопичується | Власний чат-бот або гібрид |
| Чат-бот є частиною вашого продукту, а не лише підтримки | Власний чат-бот |
Наш посібник про ШІ-агентів для обслуговування клієнтів порівнює варіанти детальніше.
Терміни й від чого залежить вартість
Власний чат-бот на ШІ зазвичай запускається за 5-10 тижнів: 1-2 тижні оцінки обсягу (аудит контенту, тестовий набір, проєктування каналів і передачі людині, фіксована ціна), 3-6 тижнів розробки й 1-2 тижні пілоту на частині реального трафіку.
Основні чинники: кількість і хаотичність джерел контенту, вимоги до контролю доступу, інтеграції з актуальними даними, мови, канали й планка точності. Чат-бот за документацією в одному каналі з передачею людині через тікет - набагато менша розробка, ніж корпоративний чат-бот із правами доступу до кількох джерел і каналів. Щомісячні витрати на роботу (токени моделі, векторна база даних, хостинг) зростають разом з обсягом розмов і рахуються на одну розмову під час оцінки обсягу.
У нас чат-бот на ШІ коштує від 5 000 USD, з фіксованою ціною після короткої розмови для оцінки обсягу; наш посібник про вартість розробки чат-бота на ШІ розбирає більші обсяги.
Чому ми для розробки чат-ботів на замовлення
- Розмовний ШІ з пам'яттю й конкретним голосом. Для американського стартапу у сфері grief-tech ми створили AI Grief Companion - приватний чат, що відповідає голосом конкретної людини, використовуючи пам'ять на RAG, граф фактів і донавчання LoRA. Ця ж платформа шифрує кожне повідомлення під час приймання, дає змогу видалити всі дані одним кліком, зберігає промпти з історією версій і спрямовує користувачів до фахової допомоги, коли розмова цього потребує.
- Функції на LLM під реальним навантаженням. Наш власний продукт AI Resume Master генерує й покращує резюме за допомогою великих мовних моделей і досяг 50 000 активних користувачів на місяць.
- Чат-сценарії, що записують дані в реальні системи. Telegram-бот для замовлень і CRM для квіткової студії показують, як розмова перетворюється на замовлення, призначення кур'єра й посилання для відстеження.
Рейтинг 5.0 на Upwork і 100% Job Success.
Наступний крок
Надішліть нам приклади запитань, на які ваша команда відповідає найчастіше, і розкажіть, де сьогодні лежать відповіді. За 30-хвилинну розмову ми скажемо, що вам підходить: готовий бот чи власний чат-бот, яка точність реалістична з вашим контентом і що увійде у фіксовану ціну після оцінки обсягу. Напишіть нам, щоб домовитися про дзвінок.