Chatbot Entwicklung, die auf Ihren Daten basiert
Wir entwickeln Chatbots und Assistenten, die auf Ihren eigenen Inhalten antworten statt zu halluzinieren. Über RAG verbinden wir das Sprachmodell mit Ihrer Dokumentation, Ihrem Produktkatalog oder Ihrem internen Wissen. Mit Guardrails, systematischer Evaluation und sauberer Übergabe an einen Menschen, wenn der Bot an seine Grenzen stößt.
Was wir bauen
Kundensupport-Assistenten, interne Wissens-Bots und dokumentengestützte Chatbots, die auf Ihre PostgreSQL-Datenbank, Ihre PDFs oder Ihr Confluence zugreifen. Jede Antwort ist über RAG an eine belegbare Quelle gekoppelt und mit einem Zitat versehen, damit Nutzer die Herkunft nachvollziehen können. Kein Demo-Spielzeug, sondern ein Assistent, der im Tagesgeschäft standhält und weiß, wann er nicht antworten sollte.
Wie wir arbeiten
Wir starten mit einem klar abgegrenzten Anwendungsfall und einem Test-Set realer Fragen, gegen das wir jede Antwort bewerten. In wöchentlichen Demos sehen Sie den Fortschritt live, ohne böse Überraschungen am Ende. Guardrails gegen Prompt-Injection und Falschauskünfte, eine automatisierte Evaluation-Pipeline und eine saubere Eskalation an Ihr Team gehören von Anfang an dazu.
Die Technik
Wir bauen mit Python und Langchain für die Orchestrierung, OpenAI und Anthropic als Sprachmodelle und PostgreSQL mit pgvector für die Vektorsuche. Das Frontend entsteht in Next.js und lässt sich per Widget oder API in Ihr Produkt einbetten. Modellwechsel bleibt jederzeit möglich, da wir Sie nicht an einen einzigen Anbieter binden.
Warum Olio
Senior-Engineering ohne Festanstellung: Sie arbeiten direkt mit den Menschen, die den Code schreiben. Wir hosten EU-souverän und DSGVO-konform auf Hetzner, in GCP-EU-Regionen oder AWS Frankfurt und berücksichtigen die Anforderungen des EU AI Act von Beginn an. Wir übergeben dokumentierten, getesteten Code, den Ihr Team weiterführen kann.
Was Sie bekommen
- Antworten aus Ihren eigenen Daten per RAG, jede mit nachvollziehbarer Quelle statt erfundener Auskunft
- Guardrails gegen Prompt-Injection, Themenabweichung und selbstbewusste Falschantworten
- Automatisierte Evaluation gegen ein Test-Set, damit Qualität messbar bleibt statt Bauchgefühl
- Saubere Übergabe an einen Menschen, wenn der Bot unsicher ist oder eskaliert werden muss
- EU-souveränes, DSGVO-konformes Hosting und EU-AI-Act-konforme Umsetzung
- Kein Vendor-Lock-in: Modell und Cloud bleiben austauschbar, der Code gehört Ihnen
Kern-Technologien
Lassen Sie uns Ihren Chatbot planen
Häufige Fragen
Was kostet die Entwicklung eines Chatbots?
Ein fokussierter Produktions-Chatbot mit RAG beginnt im niedrigen fünfstelligen Bereich. Umfangreichere Assistenten mit mehreren Datenquellen, Guardrails und Evaluation bewegen sich höher. Nach einem kurzen Scoping-Gespräch nennen wir Ihnen einen konkreten Festpreisrahmen für Ihren Anwendungsfall.
Wie lange dauert die Umsetzung?
Ein erster produktiver Chatbot ist typischerweise in 4 bis 8 Wochen live. Ein enger, klar definierter Anwendungsfall geht schneller, mehrere Datenquellen und komplexe Eskalationslogik brauchen entsprechend länger. Sie sehen ab Woche eins wöchentliche Demos.
Wie verhindern Sie, dass der Bot halluziniert?
Über RAG bindet der Bot jede Antwort an belegbare Quellen aus Ihren Daten und zitiert sie. Guardrails begrenzen ihn auf erlaubte Themen, und wenn keine Quelle passt, sagt er das ehrlich, statt zu raten. Eine Evaluation-Pipeline misst die Antwortqualität gegen ein reales Test-Set.
Welche Technologien setzen Sie ein?
Python und Langchain für die Orchestrierung, OpenAI und Anthropic als Sprachmodelle, PostgreSQL mit pgvector für die Vektorsuche und Next.js im Frontend. Bei sensiblen Daten integrieren wir auch Open-Source-Modelle, die vollständig in Ihrer Umgebung laufen.
Können die Daten in der EU bleiben?
Ja. Wir hosten EU-souverän und DSGVO-konform auf Hetzner, in GCP-EU-Regionen oder AWS Frankfurt. Für maximale Datenkontrolle betreiben wir das Sprachmodell selbst gehostet, sodass Ihre Inhalte Ihre Infrastruktur nicht verlassen.
Let's Talk
