Extreme Networks - Россия

Хотим добавить GPT в нашу CRM, чтобы менеджер мог нажать кнопку после разговора с клиентом и получить короткое резюме звонка с договорённостями и следующим шагом. Сейчас сделали тестовый вариант через VPN, но он то отваливается, то меняет IP, и запросы перестают проходить. В таком виде сотрудники этим пользоваться не смогут. Как лучше организовать подключение, чтобы GPT стабильно работал прямо из CRM?

Саму обработку лучше запускать на сервере, а не с компьютера менеджера. CRM отправляет расшифровку разговора на ваш бэкенд, тот обращается к модели и возвращает готовый текст в карточку клиента. Тогда сотрудникам не придётся держать включённый VPN, а ошибки и повторные запросы можно будет обрабатывать в одном месте.

Поднимать отдельный зарубежный сервер ради одной функции в CRM вряд ли есть смысл. Проще подключиться через сервис, который принимает запросы с российских серверов и передаёт их модели. Можно взять API GPT без VPN тут: https://pr-cy.ru/api-router/ . Его можно связать с CRM через обычный API-запрос и получать ответ обратно в карточку клиента. Тогда работа функции не будет зависеть от VPN на компьютерах сотрудников.