ItamMigel/TenderHack

Python

0

8 commits

updated May 20, 2025

See the code

README

Тендер Хак Москва: Реализация ИИ-ассистента для анализа поисковых запросов пользователей в режиме чата

Проект разработан в рамках хакатона для Портала Поставщиков и представляет собой веб-инструмент на базе RAG-системы, обеспечивающий точные ответы на пользовательские запросы в реальном времени на основе загруженной базы знаний. Он решает проблему сложной навигации по инструкциям, предлагая интеллектуального помощника с поддержкой голосового ввода, перевода и прогнозирования вопросов.


2. Установка и запуск проекта

ML

git clone https://github.com/ItamMigel/TenderHack.git
cd TenderHack

# Установка зависимостей
pip install -r requirements.txt

# Запуск проекта
python server.py

Остальные запуски проекта находятся в конкретных папках tender_rag-main, tenderai-back-main, tenderai-front-main


3. Основной функционал проекта

  • Преобразование речи в текст в режиме реального времени через whisper large v3 turbo
  • Автоматический перевод текста между языками через ALMA 7B
  • Синтез речи из текста при помощи kokoroTTS и coqui-XTTSv2. Поддерживает 19 языков
  • Модель ллм - опенсорснутая Yandex GPT 5 lite 8B 6 дневной давности. Через Docling и умное разбиение на чанки и достаем мета информацию. Hyde и Rag Fusion
  • Энкодер в раг: deepvk - bge - m3 - SOTA энкодер
  • Классы выявили при помощи эмпирики и 4 LLM(грок 3, гемини 2.5, гпт, клауде 3.7). Классификация при помощи TochkaAI-RuRopeBert-e5-base-2k
  • Система рекомендаций на TochkaAI-RuRopeBert-e5-base-2k и в FAISS, далее по косинусной близости подбираем топ 3 подходящих запроса
  • Автосоздание класса - можно добавить свой класс и потом дообучить своего кастомногл бога. Например класс запрещенной темы

4. Технологии и инструменты

DevOps и инфраструктура

Docker Docker Compose Git GitHub Actions

Мониторинг и логирование

Prometheus Grafana ELK Stack

Инструменты разработки

VS Code Postman Swagger


5. Команда проекта


6. Архитектура и структура проекта

project-root/
│
├── tender_rag-main - все, что относится к RAG
├── tenderai-back-main - все, что относится к бэкенду
├── tenderai-front-main - все, что относится к фронту
├── README.md - описание проекта
├── requirements.txt - зависимости
├── server.py - запуск основного скрипта
├── transcription_server.py - сервис транскрибации
├── translation.py - ALMA 7B для перевода
├── prepare_for_summarization.py - суммаризация отрывков разговора
├── api.py - апи сервисов
├── easyocr.py - скрипт OCR для документов
├── download_and_initialize_model.py - скачивание модели STT
├── initialize_tts.py - инициализация TTS
├── baseline_tts_with_if.py - скрипт TTS
├── baseline_pipeline.py - работа STT
├── mock_server.py - моковый сервис
├── recommend.py - сервис рекомендации
├── translation_api - апи для перевода 
├── translation.py - скрипт перевода
└── download_model.py - скачивание моделей

7. Демонстрация работы проекта

Фотографии сервиса: Фотографии сервиса: Фотографии сервиса: Фотографии сервиса:

▶️ Скринкаст работы проекта

Перейти к видео на Google Drive →


8. Финальный текст-заключение

Проект представляет собой мощный интеллектуальный помощник для Портала Поставщиков, способный оперативно обрабатывать запросы пользователей на основе корпоративной базы знаний с использованием современной RAG-архитектуры и SOTA-компонентов. Он выделяется среди аналогов за счёт сочетания высокоточной системы поиска (HyDE + Rag Fusion), голосовых интерфейсов, поддержки мультиязычности, прогноза запросов и возможности добавления пользовательских классов и дообучения модели.

В будущем планируется дообучение модели с помощью RLHF для повышения удовлетворённости ответами, развитие механизма автосоздания новых классов, а также расширение рекомендаций с учётом пользовательского поведения. Устойчивость к ошибкам благодаря RAG Fusion делает систему надёжной и готовой к масштабному внедрению.

9. Лицензия

Этот проект распространяется под лицензией MIT.

ItamMigel/TenderHack

Python

0

8 commits

updated May 20, 2025

See the code

README

Тендер Хак Москва: Реализация ИИ-ассистента для анализа поисковых запросов пользователей в режиме чата

Проект разработан в рамках хакатона для Портала Поставщиков и представляет собой веб-инструмент на базе RAG-системы, обеспечивающий точные ответы на пользовательские запросы в реальном времени на основе загруженной базы знаний. Он решает проблему сложной навигации по инструкциям, предлагая интеллектуального помощника с поддержкой голосового ввода, перевода и прогнозирования вопросов.


2. Установка и запуск проекта

ML

git clone https://github.com/ItamMigel/TenderHack.git
cd TenderHack

# Установка зависимостей
pip install -r requirements.txt

# Запуск проекта
python server.py

Остальные запуски проекта находятся в конкретных папках tender_rag-main, tenderai-back-main, tenderai-front-main


3. Основной функционал проекта

  • Преобразование речи в текст в режиме реального времени через whisper large v3 turbo
  • Автоматический перевод текста между языками через ALMA 7B
  • Синтез речи из текста при помощи kokoroTTS и coqui-XTTSv2. Поддерживает 19 языков
  • Модель ллм - опенсорснутая Yandex GPT 5 lite 8B 6 дневной давности. Через Docling и умное разбиение на чанки и достаем мета информацию. Hyde и Rag Fusion
  • Энкодер в раг: deepvk - bge - m3 - SOTA энкодер
  • Классы выявили при помощи эмпирики и 4 LLM(грок 3, гемини 2.5, гпт, клауде 3.7). Классификация при помощи TochkaAI-RuRopeBert-e5-base-2k
  • Система рекомендаций на TochkaAI-RuRopeBert-e5-base-2k и в FAISS, далее по косинусной близости подбираем топ 3 подходящих запроса
  • Автосоздание класса - можно добавить свой класс и потом дообучить своего кастомногл бога. Например класс запрещенной темы

4. Технологии и инструменты

DevOps и инфраструктура

Docker Docker Compose Git GitHub Actions

Мониторинг и логирование

Prometheus Grafana ELK Stack

Инструменты разработки

VS Code Postman Swagger


5. Команда проекта


6. Архитектура и структура проекта

project-root/
│
├── tender_rag-main - все, что относится к RAG
├── tenderai-back-main - все, что относится к бэкенду
├── tenderai-front-main - все, что относится к фронту
├── README.md - описание проекта
├── requirements.txt - зависимости
├── server.py - запуск основного скрипта
├── transcription_server.py - сервис транскрибации
├── translation.py - ALMA 7B для перевода
├── prepare_for_summarization.py - суммаризация отрывков разговора
├── api.py - апи сервисов
├── easyocr.py - скрипт OCR для документов
├── download_and_initialize_model.py - скачивание модели STT
├── initialize_tts.py - инициализация TTS
├── baseline_tts_with_if.py - скрипт TTS
├── baseline_pipeline.py - работа STT
├── mock_server.py - моковый сервис
├── recommend.py - сервис рекомендации
├── translation_api - апи для перевода 
├── translation.py - скрипт перевода
└── download_model.py - скачивание моделей

7. Демонстрация работы проекта

Фотографии сервиса: Фотографии сервиса: Фотографии сервиса: Фотографии сервиса:

▶️ Скринкаст работы проекта

Перейти к видео на Google Drive →


8. Финальный текст-заключение

Проект представляет собой мощный интеллектуальный помощник для Портала Поставщиков, способный оперативно обрабатывать запросы пользователей на основе корпоративной базы знаний с использованием современной RAG-архитектуры и SOTA-компонентов. Он выделяется среди аналогов за счёт сочетания высокоточной системы поиска (HyDE + Rag Fusion), голосовых интерфейсов, поддержки мультиязычности, прогноза запросов и возможности добавления пользовательских классов и дообучения модели.

В будущем планируется дообучение модели с помощью RLHF для повышения удовлетворённости ответами, развитие механизма автосоздания новых классов, а также расширение рекомендаций с учётом пользовательского поведения. Устойчивость к ошибкам благодаря RAG Fusion делает систему надёжной и готовой к масштабному внедрению.

9. Лицензия

Этот проект распространяется под лицензией MIT.