Советник

Омниканальная платформа автоматизации приема и распределения обращений клиентов

Структура проекта

В папке llm находится реализация для подключения к кастомной нейронной сети или к OPENAI(Здесь нейронная сеть);

В папке milus находится реализация векторной базы данных, которая используется в реализации RAG мы используем предобученную модель/нейронную сеть для генерации векторов;

В папке pipelines находится сервисы для каждого клиента.

Алгоритм запуска

С помощью докерg

docker compose-up

После загрузкти подождите 5 минут скачивание весов модели!!!

Локально на машине

1. Установка python 3.12

По ссылке скачайте установщик и следуйюте инструкциям.

2. Установка зависимостей

pip install -r requirements.txt

3. запуск кода

unicorn main:app --host 0.0.0.0 --port 8007

После загрузкти подождите 5 минут скачивание весов модели!!!

Пример запроса:

curl -X POST "https://billingweblab.ru.tuna.am/query" \
     -H "Content-Type: application/json" \
     -d '{
           "text": "Можете помочь с процессом банкротства",
           "service": "juridical",
           "source": "vk",
           "chat_id": "123"
         }'

Документация:

При локальной развертен: http://127.0.0.1:8007/docs

На нашем сервере: http://78.24.223.82:8007/docs