Skip to content

Latest commit

 

History

3 Commits

Folders and files

NameName
Last commit message
Last commit date
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Local AI RAG Backend

Асинхронний бекенд на фреймворку FastAPI, який реалізує повноцінну RAG-систему (Retrieval-Augmented Generation). Проєкт використовує векторну базу даних Qdrant для семантичного пошуку та оркестратор LangGraph для керування станами локального ІІ-агента на базі Ollama.

🛠️ Стек технологій

  • Бекенд: Python, FastAPI, Pydantic v2
  • Векторна БД: Qdrant (запущений у Docker)
  • Ембеддер: FastEmbed (модель BAAI/bge-small-en, розмірність вектору: 384, float32)
  • Оркестрація ШІ: LangGraph (StateGraph)
  • Локальна LLM: Ollama (модель qwen2.5:1.5b)

🚀 Швидкий запуск проєкту

1. Налаштування локального середовища

Клонуйте репозиторій та підготуйте віртуальне оточення Python:

git clone [https://github.com/groovyfff/RAG_AI_TEST1.git](https://github.com/groovyfff/RAG_AI_TEST1.git)
cd RAG_AI_TEST1
python -m venv .venv
source .venv/bin/activate
pip install -r requirements.txt

About

Async RAG backend utilizing FastAPI, Qdrant, and LangGraph with local Ollama.

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages