Що ми робимо
-
Функції на GPT
Генерація й переписування текстів, витягування полів з документів, класифікація звернень, виклик з вашого бекенду.
-
Function calling
Модель просить викликати вашу функцію, ваш код перевіряє права користувача, виконує виклик і логує його.
-
Embeddings і RAG
Пошук за змістом у pgvector чи Qdrant, поєднаний з пошуком за ключовими словами, і відповіді з посиланнями на джерела.
-
Міграція з Assistants API
Переносимо асистентів, треди й файли на Responses API за feature flag і порівнюємо відповіді до та після.
-
Контроль витрат
Маршрутизація між моделями, кешування промптів, Batch API і жорсткі ліміти на користувача, функцію й місяць.
-
Оцінювання якості
Фіксований набір реальних прикладів, який проганяємо при кожній зміні промпту чи моделі.
Прототип за вечір і функція, якій довіряють
Типова історія. Хтось у команді за вечір зробив інтеграцію ChatGPT API, і на демо все виглядало чудово. Потім модель повернула JSON без потрібного поля, один користувач спалив за ніч місячний бюджет на токени, а після оновлення моделі відповіді стали іншими, і ніхто не може сказати, кращими чи гіршими.
Інтеграція ChatGPT у продукт, зроблена для продакшену, закриває саме ці діри. Модель викликається з вашого бекенду, ніколи з браузера, тож API-ключ, промпти, ліміти й логи лишаються під вашим контролем. Кожна структурована відповідь перевіряється за JSON-схемою, перш ніж піти в інші системи. Кожен виклик логується з кількістю токенів. А набір реальних прикладів показує, що змінилося після нового промпту чи нової моделі.
Ще обираєте провайдера? З цим вибором допоможе наш посібник про інтеграцію ChatGPT або Claude у продукт. Ця сторінка для тих, хто вже вирішив вбудувати OpenAI у свій продукт і хоче зробити це як слід.
Що ми підключаємо з OpenAI API
Інтеграція GPT вчить ваш продукт писати й переписувати тексти, витягувати поля з документів, класифікувати звернення, шукати ваш контент за змістом і викликати ваші власні функції. Модель обираємо за вимірами на ваших реальних прикладах: менша модель для простих кроків, більша там, де вона помітно допомагає. Основою для нових функцій беремо Responses API зі станом діалогу і вбудованими інструментами, де вони доречні. Відповідь показуємо потоково, щоб користувач бачив текст у міру генерації.
| Можливість | Що робить | Типове застосування |
|---|---|---|
| Responses API | Основний API OpenAI для тексту, інструментів і багатокрокових діалогів зі станом | Нові функції та асистенти |
| Function calling | Модель викликає визначені вами функції з JSON-аргументами | Пошук даних, чернетки, дії у ваших системах |
| Structured outputs | Відповідь, обмежена вашою JSON-схемою | Витягування даних, заповнення форм, дані для інших сервісів |
| Embeddings | Перетворює текст на вектори для пошуку схожого | Пошук за змістом, RAG, рекомендації |
| Вбудовані інструменти | Пошук по файлах, вебпошук і виконання коду на моделях, що це підтримують | Прототипи й асистенти по завантажених файлах |
| Batch API | Асинхронні завдання дешевше, ніж виклики в реальному часі | Масова класифікація, збагачення даних, дозаповнення історичних даних |
| Vision | Читає зображення й скриншоти | Приймання документів, візуальні перевірки |
| Moderation | Виявляє шкідливий вміст | Перевірка того, що вводять користувачі, і того, що відповідає модель |
OpenAI часто змінює моделі й можливості. Тому під час оцінки обсягу ми звіряємо актуальні варіанти з документацією API, а не покладаємося на пам'ять.
Чи треба переходити з Assistants API на Responses?
Так, і краще за планом, ніж в останній момент. OpenAI оголосила Assistants API застарілим на користь Responses API. Продуктам на Chat Completions з власною обв'язкою переходити не обов'язково, але Responses часто спрощує роботу з інструментами й станом.
Міграція з Assistants API у нас проходить у п'ять кроків:
- Інвентаризація. Перелічуємо асистентів, інструкції, інструменти, файли, векторні сховища і те, як зберігаються та використовуються треди.
- Зіставлення. Переносимо кожну частину на Responses і актуальний набір інструментів. Вирішуємо, де житиме стан діалогу: в OpenAI чи у вашій базі даних.
- Базові результати. Проганяємо ваші реальні діалоги через стару версію й фіксуємо відповіді, поки нічого не змінено.
- Паралельна робота. Новий шлях будуємо за feature flag і порівнюємо відповіді на тому самому наборі.
- Поступове перемикання. Трафік переводимо частинами, стежимо за якістю, затримкою й витратами.
Третій крок команди пропускають найчастіше, а потім шкодують. Без базових результатів ніхто не скаже, стали відповіді після міграції кращими чи гіршими.
Коли модель має діяти, а не лише писати
Function calling дає моделі змогу вирішити, що зараз треба викликати одну з ваших функцій і з якими аргументами. Виклик виконує ваш код і повертає результат. До вашої бази даних модель напряму не звертається ніколи.
Набори інструментів ми тримаємо невеликими й добре описаними. Кожен виклик іде з правами поточного користувача, ризиковані дії чекають підтвердження, усе логується. Якщо ті самі інструменти потрібні кільком асистентам, зокрема Claude та інструментам розробника, ми відкриваємо їх через MCP-сервер, до якого в підтримуваних режимах підключається й платформа OpenAI. Так ми зробили для B2B-магазину верстатів із Дніпра: каталог доступний ШІ-асистентам через публічний MCP endpoint і llms.txt. Детальніше на сторінці розробка MCP-серверів.
Багатокрокові процеси, що працюють майже без участі людини, описані на сторінці розробка ШІ-агентів.
Пошук за змістом: embeddings і RAG
Embeddings знаходять контент за змістом, а не за збігом слів. Клієнт пише в підтримку своїми словами, а система все одно знаходить потрібну статтю довідки. Вектори зберігаємо в pgvector усередині вашого PostgreSQL або в окремій векторній базі на кшталт Qdrant. Коли важливі точні терміни, артикули чи назви моделей, пошук за змістом поєднуємо з пошуком за ключовими словами.
Для відповідей за вашими документами embeddings лише одна ланка. Ще потрібні приймання даних, розбиття на фрагменти, переранжування, права доступу й набір для оцінювання. Усе це покриває послуга розробки RAG, а розробка ШІ-чатботів застосовує її в асистентах для клієнтів і працівників.
Рахунок за токени, який не росте сам
Кожен крок обробляє найменша модель, що проходить набір для оцінювання. Стабільні інструкції ставимо на початок промпту, бо OpenAI дає знижку за кешування однакових початків. У запит іде потрібний розділ, а не вся історія листування. Робота, яка може зачекати, йде через Batch API. На користувача, на функцію й на місяць стоять жорсткі ліміти.
Токени кожного виклику пишуться в лог, тож вартість видно в розрізі функцій і клієнтів. Оцінити рахунок до старту розробки допоможе наш калькулятор вартості LLM API.
Як ми перевіряємо, що відповіді не погіршились
До API йдуть лише ті поля, які потрібні функції, а персональні дані маскуємо, де це можливо. Фактичні відповіді спираються на знайдені джерела з посиланнями. Кожна структурована відповідь проходить перевірку за схемою. Текст від користувачів і з документів для нас дані, а не інструкції, тому захист від prompt injection вбудований з першого релізу, а виклики інструментів звіряються з реальними правами доступу.
Головний інструмент тут фіксований набір реальних вхідних даних. Ми проганяємо його при кожній зміні промпту чи моделі, зокрема коли OpenAI оновлює свої моделі.
Модель може сама розпізнати фото й проставити атрибути. Вона може помилитися, а може зробити це дуже круто: на різних каталогах частка помилок у нас відрізнялася в рази. Тому спершу пробна партія, потім налаштування, і людина все одно перевіряє результат.
Антон Литвинов, засновник Lytvynov Production
Що ми вже запустили на OpenAI API
Наш власний AI Resume Master працює на OpenAI API. Він генерує, переписує й покращує резюме та супровідні листи, імпортує профіль з LinkedIn і віддає готовий PDF, а людина отримує резюме за 3-5 хвилин. Ми зробили його приблизно за три місяці, і він вийшов на 50 000 активних користувачів на місяць. Експлуатація власного продукту навчила нас того, про що не пишуть у документації: промпти треба версіонувати, вартість рахувати на користувача, оновлення моделі може тихо змінити відповіді, а без лімітів знайдеться той, хто зловживатиме.
В іншому ми нейтральні до моделей. Для американського стартапу у сфері grief-tech ми побудували AI Grief Companion на відкритій моделі Qwen2.5-7B з донавчанням LoRA і пам'яттю на RAG, бо продукт мав відтворювати голос однієї конкретної людини. Промпти там живуть у базі даних з історією версій, і тон можна підкрутити з адмінки без релізу. Якщо на ваших даних кращі результати покаже Claude, ми так і скажемо. Детальніше на сторінці інтеграція Claude API.
Кейси
Скільки триває і скільки коштує інтеграція OpenAI API?
Перша функція на OpenAI в наявному продукті займає 4-8 тижнів. З них 1-2 тижні йдуть на оцінку обсягу з тестуванням моделей на ваших прикладах, 1-2 тижні на прототип за feature flag, 1-3 тижні на доведення до продакшену і приблизно тиждень на поступове розгортання. Строк міграції з Assistants API залежить від того, скільки асистентів і інструментів у вас працює.
Фіксовану ціну називаємо після оцінки обсягу. ШІ-функції для наявного продукту в нас коштують від 10 000 USD, мінімальний обсяг проєкту теж 10 000 USD. Чітко окреслену першу функцію чи невелику міграцію можна зробити в одному AI Sprint: фіксовано 10 000 USD за 4 тижні. Використання API ви оплачуєте напряму OpenAI або Azure, а ми оцінюємо його заздалегідь.
Пишемо у вашому стеку: PHP і Symfony, Node, React і Next.js, React Native і Flutter. Наші розробники OpenAI API працюють на senior-рівні й відповідають за архітектуру, безпеку й рев'ю, а рутину беруть на себе ШІ-агенти для написання коду. Якщо вам треба найняти розробника OpenAI у власну команду надовго, підійде виділена команда розробки з помісячною оплатою. Lytvynov Production засновано у 2019 році в Дніпрі, Україна.
Наступний крок
Розкажіть, яку функцію хочете додати або яку стару інтеграцію треба перенести. За 30 хвилин розмови порадимо підхід, назвемо ризики й запропонуємо етап оцінки обсягу з фіксованою ціною на виході. Напишіть нам, щоб домовитися про дзвінок.
Як ми працюємо
-
Оцінка обсягу
Один-два тижні: тестуємо моделі на ваших прикладах і називаємо фіксовану ціну.
-
Прототип за feature flag
Один-два тижні: функція працює в продукті, але бачать її лише ті, кому ви дозволили.
-
Доведення до продакшену
Один-три тижні: ліміти, логування, захист від prompt injection, набір для оцінювання.
-
Поступове розгортання
Приблизно тиждень: переводимо трафік частинами, стежимо за якістю, затримкою й витратами.
Два способи працювати з нами
Проєкт з фіксованою ціною
Чіткий обсяг, фіксована ціна, погоджена до старту і демо щотижня. Підходить для нового продукту або зрозумілої частини роботи.
Оцінити проєктВиділена команда
Senior-інженери, які місяць за місяцем працюють лише над вашим продуктом, за вашими пріоритетами і у ваших репозиторіях.
Про виділену команду