Что на самом деле входит в интеграцию ИИ
Интеграция ИИ добавляет функции больших языковых моделей в программное обеспечение, которое уже существует: ваш SaaS, внутренний инструмент, мобильное приложение или клиентский портал. Продукт сохраняет своих пользователей, базу данных и бизнес-логику, а интеграция ИИ добавляет поверх новую возможность: написание черновиков текстов, ответы на вопросы по вашим документам, извлечение полей из файлов или классификацию входящих обращений.
Это не то же самое, что создавать ИИ-продукт с нуля. У интеграции есть ограничения, которых нет в новом проекте: существующая модель данных, существующие права доступа, существующие пользователи, которые сразу заметят, если что-то станет медленнее или менее надежным. Большая часть инженерной работы в интеграции ChatGPT или Claude API приходится именно на эти ограничения, а не на промпт. Сам вызов модели часто занимает десяток строк кода. Все, что вокруг него (доступ к данным, безопасность, оценка качества, контроль затрат, обработка сбоев), и решает, выдержит ли функция встречу с настоящими пользователями.
Какие функции ИИ мы можем добавить в ваш продукт?
Большинство запросов, которые мы видим, сводятся к шести шаблонам. Зная, какой шаблон вам нужен, можно еще до написания кода понять большую часть архитектуры и значительную часть стоимости.
| Шаблон функции | Пример | Типичный подход | Риск неточности |
|---|---|---|---|
| Генерация или переписывание текста | Черновик коммерческого предложения, новое описание товара | Промпты с шаблонами и вашими правилами стиля | Низкий или средний |
| Резюмирование | Сводка переписки с поддержкой или длинного договора | Промпты, разбиение длинных текстов на части | Средний |
| Извлечение структурированных данных | Поля из счетов, резюме или писем | Структурированный вывод с проверкой по схеме | Средний |
| Классификация и маршрутизация | Теги для тикетов, определение намерения, оценка лидов | Промпты или небольшая дообученная модель | Низкий или средний |
| Ответы по вашим данным | Вопросы и ответы по документам, политикам, каталогу | RAG (генерация с дополнением поиском) | Высокий, нужна оценка |
| Выполнение действий | Создать тикет, обновить запись, отправить сообщение | Вызов инструментов с правами доступа | Высокий, нужны защитные механизмы |
Последние две строки обычно перерастают в отдельные проекты. Ответы по корпоративным знаниям описаны на странице разработка RAG, а ассистенты, которые выполняют действия, на странице разработка ИИ-агентов.
Как мы безопасно интегрируем ИИ в существующее приложение
Безопасная интеграция OpenAI или Claude API держит модель за вашим собственным сервером и считает каждый ее ответ недоверенными входными данными. Этот единственный принцип определяет большую часть решений ниже.
Отдельный ИИ-слой в вашем бэкенде. Браузер или мобильное приложение никогда не обращается к OpenAI или Anthropic напрямую. Он вызывает ваш API, который проверяет права пользователя, формирует промпт только из данных, доступных этому пользователю, вызывает модель и проверяет результат. API-ключи, промпты и лимиты запросов остаются на сервере. В приложении на Symfony это обычно сервис с интерфейсом провайдера, в других стеках форма та же.
Абстракция над провайдером. Мы ставим OpenAI, Claude и, при необходимости, открытую модель за единый интерфейс. Замена или сочетание провайдеров становится изменением конфигурации, а простые запросы можно направлять на более дешевую модель, сложные на более сильную. Особенности каждого провайдера мы разбираем на страницах интеграция OpenAI API и интеграция Claude API.
Промпты как версионированные данные. Промпты меняются гораздо чаще, чем код. Если хранить их с историей версий, как мы сделали на платформе AI Grief Companion, команда может настраивать тон и инструкции без релиза и откатываться, когда изменение ухудшает результат.
Потоковая передача и резервные варианты. Длинные ответы приходят пользователю потоком, поэтому интерфейс не зависает. Таймауты, повторные попытки и резервная модель спасают во время сбоев у провайдера, а они случаются.
Промпты, RAG или дообучение?
Начните с промптов, добавьте поиск, когда ответы должны отражать ваши собственные данные, и прибегайте к дообучению только тогда, когда нужен определенный стиль или поведение, которые промпты не удерживают. Большинству бизнес-интеграций дообучение так и не понадобится.
| Подход | Когда уместен | Усилия | Успевает за новыми данными |
|---|---|---|---|
| Промпты | Генерация, переписывание, классификация по четким правилам | Низкие | Да, через контекст промпта |
| RAG | Ответы должны браться из ваших документов или записей | Средние | Да, достаточно переиндексировать новый контент |
| Дообучение (например, LoRA) | Устойчивый голос или формат, узкая повторяющаяся задача, меньшая и более дешевая модель | Высокие | Нет, нужно повторное обучение |
Мы внедряли все три подхода. AI Resume Master использует промпты, чтобы генерировать и улучшать текст резюме. AI Grief Companion сочетает дообучение LoRA открытой модели с памятью на RAG, потому что должен был воспроизводить голос конкретного человека, а одними промптами этого добиться не удавалось.
Защитные механизмы: приватность, галлюцинации и стоимость запроса
Защитные механизмы в интеграции генеративного ИИ это то, о чем заказчики редко спрашивают на старте и что позже волнует их больше всего. Мы закладываем их с первого дня.
- Приватность данных. Модели передаются только те поля, которые нужны функции. Персональные данные маскируются, где это возможно. Для чувствительных продуктов мы шифруем данные при хранении и сразу при приеме: AI Grief Companion шифрует каждое сообщение отдельным ключом AES-256-GCM в KMS-конверте. Если данные не могут покидать вашу инфраструктуру, можно использовать открытую модель на ваших серверах.
- Галлюцинации. Фактические ответы опираются на найденные источники и ссылаются на них. Структурированные результаты проверяются по схеме и отклоняются, если ей не соответствуют.
- Оценка качества. Мы собираем фиксированный тестовый набор реальных входных данных с ожидаемыми результатами и запускаем его при каждом изменении промпта или модели. Без него невозможно сказать, улучшило изменение функцию или ухудшило.
- Стоимость запроса. Каждый вызов логируется с количеством токенов. Кэширование, более короткие промпты и маршрутизация между моделями держат затраты предсказуемыми, а жесткие лимиты останавливают неконтролируемое использование.
- Prompt injection. Контент от пользователей или из документов рассматривается как данные, а не как инструкции, а действия, инициированные моделью, сверяются с реальными правами пользователя.
Процесс и сроки интеграции ИИ
Первая функция ИИ в существующем продукте обычно занимает 4-8 недель от старта до продакшена. Сроки больше зависят от доступа к данным и состояния кодовой базы, чем от модели.
- Оценка объема (1-2 недели). Мы анализируем код и данные, согласуем один измеримый сценарий, собираем 30-100 реальных примеров для оценки и тестируем на них две-три модели. Вы получаете фиксированную цену и архитектурную записку.
- Прототип за feature flag (1-2 недели). Рабочая версия на реальных данных, которую видит только ваша команда, с уже настроенными логированием и учетом затрат.
- Доведение до продакшена (1-3 недели). Защитные механизмы, обработка ошибок, права доступа, потоковый интерфейс, оценка в CI, проверки нагрузки и затрат.
- Развертывание (1 неделя). Постепенный запуск для части пользователей, мониторинг качества и затрат, корректировка промптов по реальному использованию.
Мы ведем разработку с ИИ-агентами для написания кода под надзором senior-инженеров, и это сокращает этапы разработки. Этап оценки это не сокращает, потому что он зависит от реальных данных и реальных пользователей. Если сначала нужно проверить, работает ли сценарий вообще на ваших данных, начните с PoC для ИИ или с AI Sprint по фиксированной цене.
От чего зависит стоимость интеграции ИИ
Фиксированную цену мы даем после короткого разговора для оценки объема. Основные факторы стоимости: количество отдельных функций, требования к точности ответов (а значит, объем оценки), состояние ваших данных, требования к безопасности и соответствию нормам, а также то, должна ли модель работать на вашей собственной инфраструктуре. Одна функция на промптах дает наименьший объем; RAG-ответы по корпоративным знаниям или ассистент, который выполняет действия, требуют значительно больше оценки и интеграционной работы. Ежемесячные затраты на модель считаются отдельно. В нашем руководстве об интеграции ChatGPT или Claude в продукт эти решения разобраны подробнее.
У нас функции ИИ для существующего продукта стоят от 10 000 USD; наше руководство о стоимости разработки ИИ-приложения показывает, как оцениваются более крупные объемы. Если ИИ в вашем продукте уже работает и нужна независимая проверка качества, затрат и безопасности, начните с ИИ-аудита.
Почему команды выбирают нас для интеграции ИИ
Мы встраиваем функции ИИ в продукты, которыми управляем сами, поэтому отвечаем за последствия своих архитектурных решений.
- Функции на LLM под реальной нагрузкой. AI Resume Master, наш собственный продукт, создали примерно за три месяца. Он генерирует, переписывает и улучшает резюме и сопроводительные письма с помощью больших языковых моделей и достиг 50 000 активных пользователей в месяц.
- Глубокие ИИ-стеки, когда нужно. Для американского стартапа в сфере grief-tech мы построили прием десяти форматов экспорта чатов, дообучение LoRA на Qwen2.5-7B, память на RAG, граф фактов в Neo4j и шифрование при приеме.
- Мышление в логике существующего продукта. Наш основной бэкенд-стек: PHP и Symfony, на фронтенде React, Vue или Angular, то есть именно то, на чем уже работает много продуктов, которым нужна интеграция ИИ.
- Senior-инженеры с ИИ-инструментами. Мы используем ИИ-агентов для написания кода в собственной разработке и строим MCP-серверы для внутренних инструментов, поэтому знаем, где эти модели надежны, а где нет.
Если вы сравниваете подрядчиков, в нашем чеклисте как выбрать компанию для разработки ИИ собраны вопросы, которые мы задали бы сами себе.
Следующий шаг
Расскажите, какую функцию вы хотите и какие данные ей нужны. За 30-минутный разговор мы скажем, что подходит: промпты, RAG или что-то другое, назовем основные риски и предложим короткий этап оценки объема, который завершится фиксированной ценой. Напишите нам, чтобы договориться о звонке.