Бизнес-модуль Атомкод.ИИ

Бизнес-модуль Атомкод.ИИ реализует взаимодействие с большой языковой моделью (Large Language Model, LLM) в чате в формате "вопрос-ответ". Для ответов на заданные вопросы Атомкод.ИИ позволяет использовать информацию из указанных источников. Источниками информации могут являться файлы, сгруппированные в папки, которые должны быть предварительно загружены в файловое хранилище Платформы.

Бизнес-модуль Атомкод.ИИ по умолчанию включается в дистрибутив Платформы. Решение о развертывании этого бизнес-модуля вы принимаете, учитывая ваши потребности, а также аппаратные и программные требования к этому бизнес-модулю.

примечание

Вы можете использовать бизнес-модуль Атомкод.ИИ только, если сервер vLLM (Virtual Large Language Model) развернут.

Бизнес-модуль Атомкод.ИИ доступен на странице https://<Platform_instance_URL>/demo/p/AILibrary. На этой странице вы можете делать следующее:

• Добавлять новый диалог.

  Атомкод.ИИ позволяет вести диалог с LLM по нескольким темам. История диалога по каждой теме и список диалогов сохраняются в браузере на используемом устройстве. В любой момент в левой части рабочей области можно выбрать тему и продолжить диалог.

  Добавить новый диалог можно по нажатию кнопки + Новый чат внизу в левой части рабочей области.

• Переименовывать диалог.

  По умолчанию добавленный диалог имеет имя Новый разговор. Рекомендуется присваивать диалогам осмысленные имена, которые ассоциируются с тематикой.

  Изменить имя диалога можно по нажатию значка (Карандаш) справа от имени диалога.

• Отправлять сообщения LLM.

  Сообщение или вопрос на естественном языке должны быть введены в нижней части рабочей области в строке ввода. Отправить введенный вопрос можно нажатием ENTER или нажатием значка (Отправить) справа в строке ввода.

• Копировать ответы в буфер обмена.

  В истории диалога в нижней части ответа справа от метки времени можно нажать значок (Копировать). Выбранный текст помещается в буфер обмена. Значок отображается только после наведения указателя мыши.

• Удалять диалог.

  Удалить диалог можно, нажав значок (Корзина) в списке диалогов справа от имени диалога.

• Добавлять источники информации для формирования ответов.

  По нажатию кнопки Настройки внизу в левой части рабочей области открывается окно для добавления папок. В этом окне по нажатию кнопки + можно добавить папки, предварительно помещенные в файловое хранилище Платформы.

• Подключать информацию из добавленных источников для формирования ответов.

  В нижней части рабочей области необходимо включить переключатель Поиск и справа от переключателя в раскрывающемся списке выбрать папку, предварительно добавленную в качестве источника информации.

  В ответах на вопросы LLM использует информацию из размещенных в папке файлов. LLM обрабатывает информацию из файлов следующих форматов:

  • для текстовых файлов: OTD, PDF, DOCX, XSLX, TXT, CSV, MD, HTML, LOG, JSON, XML, YAML, YML, RTF, PPTX;
  • для звуковых файлов: MP3, MP4, MPEG, MPGA, M4A, WAV, WEBM, OGG.

  Если в папке размещены звуковые файлы, их содержимое транскрибируется и отображается в виде текста в правой части (на боковой панели Источники) рабочей области.

• Включать режим размышления LLM.

  Режим размышления LLM можно включить с помощью переключателя Размышления в нижней части рабочей области, в результате чего Атомкод.ИИ переключается на работу с более мощной LLM и сопровождает все следующие ответы на вопросы рассуждениями в виде блоков текста. Блоки рассуждений можно сворачивать и разворачивать.

• Просматривать источники информации, используемые LLM в ответах.

  Текст ответов на вопросы и текст рассуждений (при использовании режима размышлений LLM) сопровождается метками, соответствующими источникам информации, которые использует LLM. При нажатии мышью на метку открывается файл, содержимое которого используется при ответе и рассуждении.

  Также в чате после текста ответа отображается кнопка Источники, но нажатию которой на панели Источники справа отображается текст файлов, использованных в ответе.

• Прикреплять файлы.

  В нижней части рабочей области в строке ввода по нажатию значка (Скрепка) можно прикреплять файлы к вопросу. Допустимые форматы прикрепляемых файлов совпадают с форматами файлов, которые могут быть размещены в папке подключаемого источника информации (см. выше).

  Если файлы прикреплены, а вопрос не задан, в зависимости от порядкового номера сообщения в текущем диалоге Атомкод.ИИ предлагает следующую информацию:

  • первое сообщение: краткое изложение информации в прикрепленных файлах;
  • не первое сообщение: ответ с учетом истории диалога зависит от формулировки вопроса.

Если суммарный объем содержимого файлов и истории чата превышает максимально допустимое количество токенов для используемой LLM, Атомкод.ИИ отображает сообщение об ошибке, и для продолжения работы с Атомкод.ИИ необходимо начать новый диалог.