KI-Integration mit eigenen Daten
Wir verbinden Sprachmodelle mit Ihren Unterlagen und Systemen, damit Ihr Team Antworten mit Quellenangabe bekommt statt Vermutungen.
Antwort mit Quelle
Den Lerncoach unserer Lernplattform haben wir so gebaut, dass er im Modus Meine Unterlagen nur in den Unterlagen des eigenen Kontos sucht und nennt, woraus seine Antwort stammt.
Modell und Ort legen Sie fest
Auf Wunsch ein Anbieter mit Vertrag zur Auftragsverarbeitung, eine Verarbeitung in der EU oder ein lokal betriebenes Modell.
Kurz gesagt
KI-Integration heißt: Ein Sprachmodell wie ChatGPT oder Claude antwortet aus Ihren eigenen Unterlagen und Systemen statt aus allgemeinem Wissen. Wir bauen dafür Wissensdienste nach dem RAG-Verfahren und Anbindungen an Ihre Fachsoftware, für Betriebe, deren Team ständig nachschlägt. Am Ende steht ein Assistent, der nur sieht, was das Konto sehen darf, und zu jeder Antwort die Quelle nennt.
Am Ende liegt vor
- Ein Wissensdienst über Ihre ausgewählten Unterlagen
- Suche nach Stichwort und nach Bedeutung
- Rechte aus dem Benutzerkonto
- Testfragen, die zeigen, wie zuverlässig er antwortet
Wobei das hilft
Überall dort, wo Wissen in Ordnern und Programmen liegt und jemand es jeden Tag zusammensucht.
Nachschlagen im eigenen Bestand
Wie war die Vorgabe für diesen Fall, welche Fassung der Arbeitsanweisung gilt? Statt Ordner zu öffnen, fragt Ihr Team in Alltagssprache. Die Antwort zitiert die Stelle, aus der sie stammt.
Fragen an das Fachsystem
Ein Assistent sieht über eine Schnittstelle in Ihrer Software nach, mit den Rechten des angemeldeten Kontos. Wie das eingerichtet wird, zeigt die Anleitung im Bild.
So antwortet der Dienst
Ein Wissensdienst sucht zu jeder Frage passende Abschnitte in Ihren Unterlagen, und die Antwort nennt ihre Quellen.
- Von Nohn IT gebaut
- Ihr System
- Externer Dienst
- Mensch oder Kanal
- Direkter Aufruf
- Vorab, beim Einlesen
- Weg einer Frage
- Schritt im Ablauf
Der Weg einer Frage
- Eine Person stellt dem Wissensdienst eine Frage in Alltagssprache.
- Die Suche findet im Wissensspeicher die passenden Abschnitte, nach Stichworten und nach Bedeutung. Sie sucht nur in Abschnitten, die zum Konto der fragenden Person gehören.
- Die besten Treffer gehen zusammen mit ihrer Quelle an den Antwortbaustein.
- Frage und gefundene Abschnitte gehen an das Sprachmodell. Es formuliert daraus die Antwort.
- Die Person erhält die Antwort mit Angabe der Quellen, aus denen sie stammt.
Vorab werden Ihre Unterlagen eingelesen, in Abschnitte zerlegt und mit ihrer Quelle gespeichert.
Interner Prototyp
Ein Recherche-Assistent über eine kuratierte Wissensbasis mit kombinierter Stichwort- und Vektorsuche. Die Einbettungen entstehen lokal, ohne fremde Schnittstelle, und jede Antwort nennt ihre Quellen.
Ein interner Prototyp ohne Kunden, inzwischen abgeschaltet. Er ist kein Kundenprojekt.
Referenz KeinBock.io
Lernplattform für Schule und Studium, im Betrieb. Eigenes Produkt: Konzeption, Entwicklung und Betrieb. Der Lerncoach ist so gebaut, dass er aus den Unterlagen antwortet, die Lernende selbst hochladen, zum Beispiel PDF oder Word, und nennt die Quellen. Die Abschnitte liegen in der Datenbank der Plattform, dem Konto zugeordnet, und den Vergleich rechnet die Plattform selbst.
Vor jedem KI-Aufruf prüft die Plattform Anmeldung und KI-Budget des Kontos. Für die KI-Funktionen gehen Textabschnitte an Anbieter in den USA.
Wohin Ihre Daten gehen
Welches Modell eingesetzt wird und wo es läuft, legen wir vor dem Start mit Ihnen fest. Zur Wahl stehen ein Anbieter mit Vertrag zur Auftragsverarbeitung, eine Verarbeitung in der EU oder ein lokal betriebenes Modell.
Jede Variante hat Grenzen, und wir nennen sie. Bei einem Anbieter kann der Sitz außerhalb der EU liegen. Unsere eigene Lernplattform läuft auf Servern in Deutschland und schickt für KI-Funktionen trotzdem Textabschnitte in die USA. Das nennt sie auch öffentlich in ihrer Liste der Auftragsverarbeiter.
Ein Eingang von außen, Anmeldung, Rechteprüfung und Protokoll bei jedem Zugriff, und an ein externes Sprachmodell gehen nur die nötigen Inhalte.
- Von Nohn IT gebaut
- Externer Dienst
- Mensch oder Kanal
- Direkter Aufruf
- Zeitversetzt
- Optional oder geplant
- Weg einer Anfrage
- Geprüft, freigegeben
- Verlässt die Umgebung
- Schritt im Ablauf
- Vertrauensgrenze
Der Weg einer Anfrage
- Jede Verbindung läuft verschlüsselt über HTTPS. Der Eingang ist der einzige Weg von außen und begrenzt die Zahl der Anmeldeversuche.
- Die Anmeldung prüft das Passwort und, wenn für das Konto eingeschaltet, den zweiten Faktor (2FA). Abmelden beendet alle Sitzungen des Kontos.
- Bei jedem Zugriff prüft die Anwendung, ob Rolle und Bereich des Kontos ihn erlauben.
- Gelesen und geändert wird nur, was die Rolle erlaubt. Die Datenbank ist nur im internen Netz erreichbar. Anhänge und Nachrichten liegen verschlüsselt (AES-256).
- Anmeldungen und alle Änderungen stehen 90 Tage im Protokoll. Reine Lesezugriffe werden nicht mitgeschrieben.
- Alle KI-Funktionen laufen über eine zentrale Schnittstelle. Dort gilt die Regel: An den Modellanbieter gehen nur die für den Zweck nötigen Inhalte. Der Anbieter kann außerhalb der EU sitzen, die Oberfläche weist darauf hin.
- Ein täglicher Lauf sichert Datenbank und Dateien verschlüsselt. Auf dem Server liegt nur der öffentliche Schlüssel, er kann die Sicherung selbst nicht lesen.
KI und DSGVO: Checkliste zum Start
Sechs Punkte, die vor dem ersten Einsatz geklärt sein sollten.
So gehen wir vor
Vier Stufen, und vor jeder entscheiden Sie, ob es weitergeht.
Vorgehen und Pakete
Was zu jeder Stufe gehört und wo ihre Grenzen liegen.
- KI-Potenzialcheck
-
Wir sehen uns an, welche Unterlagen und Systeme Ihr Team befragen will, wo sie liegen, wie gepflegt sie sind und wer was sehen darf.
Sie haben dann: Eine schriftliche Einschätzung: geeignete Bestände, Vorschlag für Modell und Verarbeitungsort, Risiken und grober Aufwand für einen Piloten.
- KI-Pilot
-
Wir bauen den Wissensdienst für einen abgegrenzten Bestand, zuerst mit Testdaten. Testfragen mit bekannter Antwort zeigen, ob die Suche die richtige Stelle findet.
Sie haben dann: Einen laufenden Piloten, das Ergebnis der Testfragen und die Antwort: weiterbauen, anpassen oder lassen.
- Umsetzung
-
Dazu kommen Rechte je Konto, das Einlesen neuer Unterlagen nach Bestätigung, die Anbindung an Ihre Oberfläche oder an Ihren KI-Assistenten, automatische Tests und eine Sicherheitsprüfung in einer Testumgebung.
Sie haben dann: Einen Wissensdienst in versionierten Auslieferungen, mit einem verständlichen „Was ist neu“ für Ihr Team.
- Betrieb und Weiterentwicklung
-
Unterlagen ändern sich, Modelle auch. Wir betreiben den Dienst, spielen Sicherheitsupdates ein und passen ihn an neue Bestände an.
Sie haben dann: Ein System, das gepflegt wird, auf unseren Servern oder in Ihrer Umgebung.
Wann es passt, wann nicht
Ein Wissensdienst ist nur so gut wie die Unterlagen dahinter. Manchmal reicht eine einfache Suche.
Es passt, wenn
- Ihre Unterlagen gepflegt werden und eine gültige Fassung haben, etwa Handbücher, Arbeitsanweisungen oder Vorgaben.
- Ihr Team dieselben Fragen immer wieder in Ordnern und Programmen beantwortet.
- Antworten belegbar sein müssen und jeder die Stelle nachlesen soll.
Erst aufräumen, wenn
- Scans keine Texterkennung haben.
- alte und neue Stände nebeneinander liegen.
Wir raten ab, wenn
- eine einfache Suche oder ein gutes Verzeichnis reicht.
- es um Zahlen geht, die das Fachsystem direkt liefert.
- die Antwort eine Rechts- oder Fachberatung ersetzen soll.
Verwandte Themen
RAG einfach erklärt: KI mit eigenen Daten
Der Ablauf in sechs Schritten und die Fälle, in denen eine einfache Suche genügt.
MCP-Server und Schnittstellen
Die Werkzeugschicht zwischen KI-Assistent und Ihren Systemen: berechtigt, protokolliert, rücknehmbar.
Gespräch vereinbaren
Nennen Sie uns die Unterlagen und die Fragen, die Ihr Team ihnen stellt.
KI-Agenten
Assistenten, die in Ihren Systemen nachsehen, Vorschläge vorbereiten und sich an Rechte und Freigaben halten.
KI-Beratung
Wir klären, wo KI in Ihrem Betrieb hilft, was der Einstieg braucht und was besser bleibt, wie es ist.
Häufige Fragen
Was ist RAG, einfach erklärt?
RAG steht für Retrieval Augmented Generation. Ein Suchschritt holt zu jeder Frage die passenden Stellen aus Ihren Unterlagen, das Sprachmodell formuliert daraus die Antwort und nennt die Quellen. Das Modell wird dafür nicht neu trainiert.
Werden unsere Daten zum Training der Modelle verwendet?
RAG trainiert kein Modell. Das Sprachmodell bekommt je Frage nur die gefundenen Abschnitte vorgelegt. Ob ein Anbieter solche Eingaben speichern oder für eigenes Training nutzen darf, regeln sein Vertrag und sein Tarif. Das klären wir vor dem Start, und wenn es nicht passt, bleibt ein lokal betriebenes Modell.
Muss es ChatGPT sein?
Nein, wir sind an keinen Anbieter gebunden. Ein Wissensdienst kann mit Sprachmodellen großer Anbieter arbeiten oder mit einem lokal betriebenen Modell. In unserem internen Prototyp entstanden die Einbettungen lokal, ohne fremde Schnittstelle. Nutzt Ihr Team schon ChatGPT oder Claude, kann der Zugang auch über eine MCP-Schnittstelle laufen.
Sehen Mitarbeitende nur das, was sie sehen dürfen?
Ja, dafür bauen wir die Suche entsprechend. Sie läuft nur über Abschnitte, die zum Konto der fragenden Person gehören, so wie im Lerncoach unserer Lernplattform KeinBock.io. Bei einer Anbindung an Ihr Fachsystem gelten die Rechte des angemeldeten Kontos. Was die Suche nicht findet, kann das Modell auch nicht wiedergeben.
Welche Dokumente und Systeme eignen sich?
Texte, die gepflegt werden und eine gültige Fassung haben, zum Beispiel Handbücher, Arbeitsanweisungen und Vorgaben. Schwierig sind Scans ohne Texterkennung und Ablagen, in denen alte und neue Stände nebeneinander liegen. Zahlen aus Tabellen fragt man besser direkt im Fachsystem ab als über einen Suchindex.
Was passiert, wenn die Antwort nicht in den Unterlagen steht?
Dann soll der Assistent das sagen, statt etwas zu erfinden. Das legen wir in den Regeln des Dienstes fest und prüfen es vor dem Einsatz mit Testfragen. Ganz ausschließen lassen sich Fehler nicht. Die Quellenangabe macht sie aber auffindbar.
Was kostet ein Assistent mit eigenen Daten?
Das hängt von Menge und Zustand der Unterlagen, den beteiligten Systemen und dem gewählten Modell ab. Dazu kommen laufende Kosten für Modellnutzung und Betrieb. Deshalb beginnen wir mit einem Potenzialcheck, danach erhalten Sie eine schriftliche Einschätzung des Aufwands.