AI RAG Chatbot

Python FastAPI LlamaIndex ChromaDB Groq

Persönlicher KI-Assistent auf Basis von Retrieval-Augmented Generation

GitHub Live ansehen
← Zurück
AI RAG Chatbot

Über das Projekt

Ein RAG-basierter Chatbot der präzise Fragen über meinen beruflichen Hintergrund beantwortet – kein generischer LLM-Wrapper, sondern ein Assistent der nur das weiß was ich ihm explizit gegeben habe.

  • Eigene Dokumente werden in ChromaDB als Vektoren gespeichert; bei jeder Anfrage wird der relevante Kontext abgerufen und dem LLM mitgegeben – so entstehen keine Halluzinationen über Dinge die nicht dokumentiert sind
  • Sprachmodell: Llama 3.3 70B via Groq API, Backend: FastAPI mit LlamaIndex, Frontend: eigenes Glassmorphism-UI
  • Deployed auf dem VPS mit Docker und SSL-gesicherter Subdomain