Сервис взаимодействия с большими языковыми моделями

Сервис взаимодействия с большими языковыми моделями обеспечивает диалоговое взаимодействие фронтенд-приложений и сервисов бизнес-логики с большими языковыми моделями.

Основные функции сервиса:

• Обработка пользовательских запросов в обычном режиме и с учетом RAG-архитектуры;
• Оцифровка текста из изображений;
• Управление коллекциями контекстов поиска для RAG-архитектуры

Настройки сервиса взаимодействия с большими языковыми моделями включают указание адреса и параметров подключения к большим язхыковым моделям.

Примеры использования сервиса

В бизнес-модуле Атомкод.ИИ предоставлены примеры использования всех методов сервиса как для создания контекстов поиска, так и для взаимодействия пользователя с большими языковыми моделями через компоненту Платформы AIChat.