Перейти к основному содержимому

Бизнес-модуль Атомкод.ИИ

Бизнес-модуль Атомкод.ИИ реализует взаимодействие с большой языковой моделью (Large Language Model, LLM) в чате в формате "вопрос-ответ". Для ответов на заданные вопросы Атомкод.ИИ позволяет использовать информацию из указанных источников. Источниками информации могут являться файлы, сгруппированные в папки, которые должны быть предварительно загружены в файловое хранилище Платформы.

Бизнес-модуль Атомкод.ИИ по умолчанию включается в дистрибутив Платформы. Решение о развертывании этого бизнес-модуля вы принимаете, учитывая ваши потребности, а также аппаратные и программные требования к этому бизнес-модулю.

примечание

Вы можете использовать бизнес-модуль Атомкод.ИИ только, если сервер vLLM (Virtual Large Language Model) развернут.

Бизнес-модуль Атомкод.ИИ доступен на странице https://<Platform_instance_URL>/demo/p/AILibrary. На этой странице вы можете делать следующее:

  • Добавлять новый диалог.

    Атомкод.ИИ позволяет вести диалог с LLM по нескольким темам. История диалога по каждой теме и список диалогов сохраняются в браузере на используемом устройстве. В любой момент в левой части рабочей области можно выбрать тему и продолжить диалог.

    Добавить новый диалог можно по нажатию кнопки + Новый чат внизу в левой части рабочей области.

  • Переименовывать диалог.

    По умолчанию добавленный диалог имеет имя Новый разговор. Рекомендуется присваивать диалогам осмысленные имена, которые ассоциируются с тематикой.

    Изменить имя диалога можно по нажатию значка UG_pen_icon.png (Карандаш) справа от имени диалога.

  • Отправлять сообщения LLM.

    Сообщение или вопрос на естественном языке должны быть введены в нижней части рабочей области в строке ввода. Отправить введенный вопрос можно нажатием ENTER или нажатием значка UG_send_icon.png (Отправить) справа в строке ввода.

  • Копировать ответы в буфер обмена.

    В истории диалога в нижней части ответа справа от метки времени можно нажать значок UG_copy_icon.png (Копировать). Выбранный текст помещается в буфер обмена. Значок отображается только после наведения указателя мыши.

  • Удалять диалог.

    Удалить диалог можно, нажав значок UG_trash_icon.png (Корзина) в списке диалогов справа от имени диалога.

  • Добавлять источники информации для формирования ответов.

    По нажатию кнопки Настройки внизу в левой части рабочей области открывается окно для добавления папок. В этом окне по нажатию кнопки + можно добавить папки, предварительно помещенные в файловое хранилище Платформы.

  • Подключать информацию из добавленных источников для формирования ответов.

    В нижней части рабочей области необходимо включить переключатель Поиск и справа от переключателя в раскрывающемся списке выбрать папку, предварительно добавленную в качестве источника информации.

    В ответах на вопросы LLM использует информацию из размещенных в папке файлов. LLM обрабатывает информацию из файлов следующих форматов:

    • для текстовых файлов: OTD, PDF, DOCX, XSLX, TXT, CSV, MD, HTML, LOG, JSON, XML, YAML, YML, RTF, PPTX;
    • для звуковых файлов: MP3, MP4, MPEG, MPGA, M4A, WAV, WEBM, OGG.

    Если в папке размещены звуковые файлы, их содержимое транскрибируется и отображается в виде текста в правой части (на боковой панели Источники) рабочей области.

  • Включать режим размышления LLM.

    Режим размышления LLM можно включить с помощью переключателя Размышления в нижней части рабочей области, в результате чего Атомкод.ИИ переключается на работу с более мощной LLM и сопровождает все следующие ответы на вопросы рассуждениями в виде блоков текста. Блоки рассуждений можно сворачивать и разворачивать.

  • Просматривать источники информации, используемые LLM в ответах.

    Текст ответов на вопросы и текст рассуждений (при использовании режима размышлений LLM) сопровождается метками, соответствующими источникам информации, которые использует LLM. При нажатии мышью на метку открывается файл, содержимое которого используется при ответе и рассуждении.

    Также в чате после текста ответа отображается кнопка Источники, но нажатию которой на панели Источники справа отображается текст файлов, использованных в ответе.

  • Прикреплять файлы.

    В нижней части рабочей области в строке ввода по нажатию значка UG_paperclip_icon.png (Скрепка) можно прикреплять файлы к вопросу. Допустимые форматы прикрепляемых файлов совпадают с форматами файлов, которые могут быть размещены в папке подключаемого источника информации (см. выше).

    Если файлы прикреплены, а вопрос не задан, в зависимости от порядкового номера сообщения в текущем диалоге Атомкод.ИИ предлагает следующую информацию:

    • первое сообщение: краткое изложение информации в прикрепленных файлах;
    • не первое сообщение: ответ с учетом истории диалога зависит от формулировки вопроса.

Если суммарный объем содержимого файлов и истории чата превышает максимально допустимое количество токенов для используемой LLM, Атомкод.ИИ отображает сообщение об ошибке, и для продолжения работы с Атомкод.ИИ необходимо начать новый диалог.