KI-Agenten, RAG & private Modelle
KI für den produktiven Einsatz: Agenten in Ihrem Produkt, Suche in Ihren Dokumenten, Modelle dort, wo Ihre Daten liegen. Entwickelt in Köln.
KI-Beratung und KI-Entwicklung für Unternehmen
Wir beraten Unternehmen dazu, an welcher Stelle KI Arbeit abnimmt, und entwickeln die Lösung anschließend selbst. Dazu gehören Agenten, die in Ihrer Software Aufgaben ausführen, eine Suche in Ihren Daten und Modelle, die dort laufen, wo Ihre Daten liegen dürfen.
Den Projektassistenten auf dieser Website haben wir selbst entwickelt: Er befragt Sie, grenzt das Projekt ein und kalkuliert es. Probieren Sie ihn aus, bevor Sie uns schreiben.
- KI-Agenten, eingebaut in Ihr Produkt und Ihre Workflows
- RAG-Systeme über Ihre Dokumente, Tickets, Codebasen und Wikis
- Unternehmensassistenten: ein interner Chat, der aus Ihrem Firmenwissen antwortet, mit Zugriffskontrolle
- KI-Funktionen in bestehenden Anwendungen: Entwürfe, Zusammenfassungen, Klassifikation, Extraktion
KI-Agenten erstellen lassen
Ein KI-Agent ist Software, die ein Sprachmodell mit Werkzeugen verbindet und eine Aufgabe in mehreren Schritten selbstständig erledigt. Er liest Daten, ruft Ihre Systeme auf und legt das Ergebnis zur Freigabe vor, wenn ein Fehler teuer wäre. Was ein Agent im Alltag liest, was er erstellt und was ein Mensch entscheidet, zeigen unsere Beispiele für KI-Agenten.
Agenten, die wir für Unternehmen entwickeln:
- Wissensagent: beantwortet Fragen Ihrer Mitarbeitenden aus Handbüchern, Tickets und Wikis und nennt zu jeder Antwort die Quelle.
- Dokumentenagent: wertet eingehende Unterlagen aus, zieht die benötigten Angaben heraus und erstellt daraus einen Entwurf für Angebot, Bericht oder Vertrag.
- Prozessagent: liest eingehende E-Mails, prüft freie Termine, entwirft ein Angebot und legt es zur Freigabe vor.
- Support-Agent: beantwortet Kundenanfragen rund um die Uhr aus Ihren Produktunterlagen, legt Tickets im CRM an und übergibt schwierige Fälle an Ihr Team.
Einen fertigen Agenten dieser Art bieten wir als eigenes Produkt an: Aven, eine KI-Wissensdatenbank, die Fragen aus Ihrem Firmenwissen mit Quellen beantwortet und Dokumente in Ihrem Layout erstellt.
Prozessautomatisierung mit KI-Agenten
Wir automatisieren Abläufe, die häufig wiederkehren und festen Regeln folgen: Anfragen sortieren, Angaben aus Dokumenten übernehmen, Entwürfe vorbereiten, Daten zwischen Systemen übertragen. Der Agent arbeitet dafür mit E-Mail, Kalender, CRM und Ihren internen APIs.
Wo ein Fehler Geld kostet oder beim Kunden ankommt, etwa beim Versand eines Angebots, gibt ein Mensch den Schritt frei. Welche Schritte das sind, legen wir vor der Entwicklung gemeinsam mit Ihnen fest.
- Strukturierte Ausgaben statt Freitext, damit Ihre Systeme sie weiterverarbeiten können
- Automatische Wiederholungsversuche, Ausweichlösungen und ein Protokoll jedes Durchlaufs
RAG: KI, die aus Ihren Dokumenten antwortet
Bei RAG (Retrieval-Augmented Generation) sucht das System die passenden Stellen in Ihren Dokumenten, bevor das Sprachmodell antwortet. So lässt sich jede Antwort an ihrer Quelle prüfen. Wie das Verfahren Schritt für Schritt funktioniert, erklärt unser Ratgeber Was ist RAG?
- Quellen: Dokumente, Tickets, Codebasen und Wikis
- Zugriffskontrolle: Jeder erhält nur Antworten aus Dokumenten, die er sehen darf
- Technik: pgvector oder Qdrant, hybride Suche mit Reranking
KI-Integration in bestehende Systeme
Wir bauen KI-Funktionen auch in die Software ein, die Sie bereits nutzen. Wir binden Modelle über Schnittstellen an Ihre Anwendungen und Abläufe an.
Der Aufwand liegt in der Suchqualität, der Evaluierung, der Kostenkontrolle und im Umgang mit falschen Antworten des Modells. Darauf verwenden wir den größten Teil der Projektzeit.
- Evaluierung und Monitoring im laufenden Betrieb
- Modellunabhängig: OpenAI, Anthropic Claude, Google Gemini oder Open-Weight-Modelle über vLLM und Ollama
- LangChain, LlamaIndex oder reines Python, wenn ein Framework unnötig ist
- Eine klare Aussage, wenn sich ein Problem ohne KI besser lösen lässt
- MCP-Server, die KI-Assistenten kontrolliert an Ihre Systeme anbinden
Ein Beispiel aus unseren eigenen Produkten ist Tavla.Games, unser Online-Backgammon: Der KI-Gegner nutzt eine Spiel-Engine und spielt auf drei Schwierigkeitsstufen.
Private Modelle und Fine-Tuning
Manche Daten dürfen das Haus nicht verlassen. Dafür betreiben wir Open-Weight-Modelle (Llama, Mistral, Qwen) auf Ihrer Infrastruktur – AWS, Hetzner oder On-Premise –, sodass Prompts und Embeddings in Ihrem Netzwerk bleiben.
Reicht eine Anbieter-API aus, arbeiten wir mit einem Auftragsverarbeitungsvertrag (AVV), einem Datenstandort in der EU und einer API-Konfiguration ohne Speicherung (Zero Retention). Welche Modellgrößen auf welcher Hardware laufen, steht in unserem Ratgeber DSGVO-konforme KI im eigenen Haus.
Fine-Tuning lohnt sich, wenn sich Tonalität, feste Formate, Fachsprache oder Latenz mit Prompting allein nicht weiter verbessern lassen. Wir sagen Ihnen vorher, ob das auf Ihren Fall zutrifft, und belegen den Unterschied mit Evaluierungen.
- Privates LLM-Deployment in Ihrer VPC oder On-Prem
- Fine-Tuning und Evaluierung auf Ihren eigenen Daten
- Kleine, aufgabenspezifische Modelle, wenn ein API-Aufruf zu langsam oder zu teuer ist oder die Daten das Netzwerk nicht verlassen dürfen
- AVVs, EU-Datenstandort, kein Training auf Ihren Daten
KI für Unternehmen: Einsatz nach Branche
Die Bausteine sind dieselben. Die Auflagen der Branche bestimmen, wie sie eingesetzt werden:
- Gesundheitswesen und Recht: Dokumenten-KI und Assistenten für vertrauliche Daten, betrieben in Ihrer Infrastruktur
- Finanzen und Versicherung: erklärbare Modelle für Betrugserkennung, Schadenbearbeitung und Underwriting
- Fertigung: vorausschauende Wartung auf Basis von SCADA-, MES- und ERP-Daten, Qualitätskontrolle per Computer Vision
- Einzelhandel: Produktempfehlungen, Nachfrageprognosen und Chat-Support, der auch das Anfragevolumen der Hochsaison bewältigt
KI-Beratung: So beginnt ein Projekt
Sie beschreiben uns Ihr Vorhaben. Danach folgen drei Schritte:
- Schriftliche Einschätzung innerhalb von 24 Stunden: Ansatz, Modellwahl, Zeitplan und Risiken
- Proof of Concept in zwei bis vier Wochen, auf Ihren echten Daten
- Produktivbetrieb, geplant auf Grundlage dieses Ergebnisses
Der Proof of Concept zeigt früh, ob der Ansatz mit Ihren Daten funktioniert. Wenn nicht, wissen Sie es in der zweiten Woche.
Sie arbeiten direkt mit den Senior-Entwicklern zusammen, die Ihr System bauen. Jede Lösung ist DSGVO-konform. Zur KI-Beratung in Köln kommen wir auf Wunsch für Workshops und Abstimmungen in Ihr Unternehmen.
Häufige Fragen
Was ist ein KI-Agent?
Ein KI-Agent ist Software, die ein Sprachmodell mit Werkzeugen verbindet und eine Aufgabe in mehreren Schritten selbstständig erledigt. Er liest Daten, ruft Ihre Systeme wie E-Mail, Kalender oder CRM auf und legt das Ergebnis zur Freigabe vor, wenn ein Fehler teuer wäre.
Was ist der Unterschied zwischen einem Chatbot und einem KI-Agenten?
Ein Chatbot beantwortet Fragen. Ein KI-Agent handelt: Er ruft Systeme auf, erstellt Dokumente und führt einen Ablauf in mehreren Schritten aus. Beides lässt sich verbinden: Der Chat ist die Oberfläche, der Agent erledigt die Arbeit dahinter.
Was kostet es, einen KI-Agenten erstellen zu lassen?
Den Preis bestimmen vor allem die Zahl der angebundenen Systeme und der Zustand Ihrer Daten. Sie erhalten zuerst eine schriftliche Einschätzung. Einen Festpreis nennen wir, sobald der Umfang feststeht. Eine erste Budget- und Zeitspanne gibt Ihnen der Projektassistent auf dieser Website in wenigen Minuten.
Wie lange dauert es, einen KI-Agenten entwickeln zu lassen?
Der Proof of Concept dauert zwei bis vier Wochen. Die Zeit bis zum Produktivbetrieb hängt vom Umfang ab. Den Zeitplan nennen wir mit der ersten Einschätzung.
Wie setzen Sie RAG im Unternehmen um?
Wir binden Ihre Dokumente, Tickets, Codebasen und Wikis an und kombinieren Stichwort- und Vektorsuche mit Reranking. Wie gut ein RAG-System antwortet, entscheidet vor allem die Suche. Ihre Zugriffsrechte gelten auch für die Antworten. Die Antwortqualität messen wir mit Evaluierungen auf Ihren eigenen Daten. Neue Dokumente stehen nach der Indexierung bereit, ohne dass ein Modell neu trainiert wird.
Wie läuft eine KI-Beratung ab?
Sie beschreiben Ihr Vorhaben und erhalten eine schriftliche Einschätzung mit Ansatz, Modellwahl, Zeitplan und Risiken. Danach folgt ein Proof of Concept auf Ihren echten Daten, dessen Ergebnis die Planung des Produktivbetriebs bestimmt.
Lässt sich KI im Unternehmen DSGVO-konform einsetzen?
Ja. Für Daten, die Ihr Netzwerk verlassen dürfen, arbeiten wir mit AVV, EU-Datenstandort und einer API ohne Speicherung. Für alle anderen läuft das Modell auf Ihrer eigenen Infrastruktur. Ihre Daten werden nicht zum Training verwendet.
API oder eigenes Modell: was passt?
Dürfen Ihre Daten Ihr Netzwerk nicht verlassen, läuft ein Open-Weight-Modell auf Ihrer eigenen Infrastruktur. Sonst genügt die API eines Anbieters mit AVV und EU-Datenstandort. Den Vergleich zeigt unsere Seite zu lokaler KI.
Welche KI-Modelle setzen Sie ein?
Das Modell richtet sich nach der Aufgabe. Wir arbeiten mit OpenAI, Anthropic Claude und Google Gemini sowie mit Open-Weight-Modellen wie Llama, Mistral und Qwen, die auf Ihrer Infrastruktur laufen können.
Lohnt sich KI auch für mittelständische Unternehmen?
Ja, wenn es eine Aufgabe gibt, die häufig anfällt und auf vorhandenen Dokumenten oder Daten beruht. Ob der Ansatz bei Ihnen funktioniert, zeigt der Proof of Concept auf Ihren Daten.