Firmen-KI mit Antworten aus internen Dokumenten: So funktioniert es DSGVO-konform

Viele Unternehmen machen beim Einstieg in generative KI dieselbe Erfahrung. Die ersten Tests wirken beeindruckend, doch sobald es um konkrete interne Fragen geht, wird das Ergebnis unbrauchbar. Das Modell erfindet Zuständigkeiten, nennt veraltete Konditionen oder antwortet allgemein, wo eine präzise Auskunft nötig wäre.

Der Grund ist einfach: Ein öffentlich trainiertes Sprachmodell hat die internen Unterlagen nie gesehen. Es kann sie nicht kennen. Und es soll sie in aller Regel auch gar nicht kennen, denn Trainingsdaten aus dem eigenen Haus an einen externen Anbieter zu geben, ist genau der Schritt, den Datenschutzbeauftragte zu Recht verhindern.

Die Lösung liegt nicht darin, ein Modell mit Firmendaten zu trainieren. Sie liegt darin, dem Modell die passenden Dokumente im Moment der Frage bereitzustellen.

Wie eine Firmen-KI auf interne Dokumente zugreift

Das Verfahren dahinter heißt Retrieval Augmented Generation, kurz RAG. Der Name klingt sperriger als das Prinzip. Vereinfacht gesagt bekommt das Sprachmodell vor jeder Antwort einen Auszug aus den eigenen Unterlagen mitgeliefert und formuliert seine Antwort ausschließlich auf dieser Grundlage.

Der Ablauf besteht aus vier Schritten:

1. Dokumente aufbereiten: Handbücher, Verträge, Richtlinien, Protokolle, Wiki-Seiten und FAQ werden eingelesen und in sinnvolle Abschnitte zerlegt.
2. Inhalte durchsuchbar machen: Jeder Abschnitt wird in eine mathematische Repräsentation seiner Bedeutung übersetzt und in einer Vektordatenbank abgelegt. Dadurch findet das System auch dann den richtigen Absatz, wenn die Frage andere Wörter verwendet als das Dokument.
3. Passende Stellen abrufen: Bei einer Nutzerfrage sucht das System die relevantesten Abschnitte heraus, typischerweise eine Handvoll.
4. Antwort erzeugen: Diese Abschnitte gehen zusammen mit der Frage an das Sprachmodell, das daraus eine Antwort formuliert und die Quellen benennt.

Der entscheidende Punkt für den Datenschutz: Bei diesem Verfahren wandern die Dokumente nicht in ein Modell. Sie bleiben in einer Datenbank, die im eigenen Haus oder in einem Rechenzentrum in Deutschland steht. Sie lassen sich jederzeit ändern, ergänzen und löschen.

Warum Training der falsche Weg wäre

Immer wieder taucht die Idee auf, ein Modell mit den eigenen Daten nachzutrainieren. Für die meisten Unternehmen ist das aus mehreren Gründen der schlechtere Weg.

• Aktualität: Ein trainiertes Modell friert den Wissensstand ein. Ändert sich eine Preisliste, müsste neu trainiert werden. Eine Datenbank aktualisiert man in Minuten.
• Löschbarkeit: Informationen aus einem trainierten Modell zu entfernen, ist praktisch kaum möglich. Das kollidiert mit dem Recht auf Löschung nach Artikel 17 DSGVO, sobald personenbezogene Daten im Spiel sind.
• Berechtigungen: Ein trainiertes Modell kennt keine Zugriffsrechte. Es kann Inhalte ausplaudern, die der fragende Mitarbeitende gar nicht sehen dürfte. Beim Abruf aus einer Datenbank lassen sich Rechte dagegen sauber durchsetzen.
• Nachvollziehbarkeit: Ein trainiertes Modell kann nicht sagen, woher eine Aussage stammt. Ein Abrufsystem liefert die Quelle mit.
• Aufwand: Training verlangt Rechenleistung, Fachwissen und saubere Datensätze. Der Nutzen steht für die meisten Anwendungsfälle in keinem Verhältnis dazu.

Nachtraining hat seine Berechtigung, etwa wenn ein Modell einen speziellen Fachjargon oder ein festes Ausgabeformat lernen soll. Für die Frage „Was steht in unseren Unterlagen?" ist der Abruf aus einer Wissensbasis fast immer die bessere Antwort.

Was die Datenschutzfrage tatsächlich entscheidet

Ob eine Firmen-KI datenschutzkonform betrieben werden kann, hängt weniger am Modell als an der Architektur. Vier Punkte sind ausschlaggebend.

Wo die Verarbeitung stattfindet

Läuft das Sprachmodell auf eigener Hardware oder bei einem Anbieter in Deutschland beziehungsweise der EU, bleibt der Datenfluss im kontrollierbaren Rahmen. Wird ein Modell außerhalb der EU angesprochen, braucht es eine tragfähige Rechtsgrundlage für den Drittlandtransfer, einen Auftragsverarbeitungsvertrag und eine Bewertung der zusätzlichen Schutzmaßnahmen.

Was mit den Eingaben passiert

Entscheidend ist, ob Eingaben zur Verbesserung der Modelle des Anbieters verwendet werden. Bei Geschäftskundenverträgen lässt sich das vertraglich ausschließen, bei kostenlosen Zugängen in der Regel nicht. Wer sensible Inhalte verarbeitet, sollte diesen Punkt schriftlich geklärt haben, statt sich auf eine Einstellung in der Oberfläche zu verlassen.

Wer was sehen darf

Eine Wissensbasis ohne Rechtekonzept wird schnell zum Problem. Gehaltsdaten aus dem Personalordner haben in der Antwort für den Vertrieb nichts verloren. Praktikabel ist eine Trennung in Wissensräume je Abteilung, verbunden mit den bestehenden Gruppen aus dem Verzeichnisdienst, damit Berechtigungen nicht doppelt gepflegt werden müssen.

Was protokolliert wird

Für Nachweispflichten braucht es eine Protokollierung der Zugriffe. Gleichzeitig darf daraus keine Verhaltens- oder Leistungskontrolle der Beschäftigten werden. In Unternehmen mit Betriebsrat ist dieser Punkt mitbestimmungspflichtig und sollte früh besprochen werden, nicht erst kurz vor dem Rollout.

Nicht das Modell entscheidet über die Datenschutzkonformität, sondern die Frage, wo verarbeitet wird, wer zugreifen darf und was mit den Eingaben geschieht.

Wo der Nutzen im Alltag entsteht

Der Wert einer solchen Lösung zeigt sich weniger in spektakulären Anwendungsfällen als in vielen kleinen Zeitersparnissen.

• Angebots- und Vertragsprüfung: Fristen, Kündigungsregelungen und Haftungsklauseln lassen sich gezielt herausziehen, statt Dokumente vollständig zu lesen.
• Technischer Support: Servicemitarbeitende finden Fehlerbeschreibungen und Lösungswege aus Handbüchern und alten Tickets, ohne mehrere Systeme zu durchsuchen.
• Einarbeitung: Neue Kolleginnen und Kollegen fragen Prozesse, Zuständigkeiten und Werkzeuge ab, ohne jedes Mal jemanden zu unterbrechen.
• Qualitätsmanagement: Prüfvorgaben und Verfahrensanweisungen werden auffindbar, statt in einer Ordnerstruktur zu verschwinden.
• Ausschreibungen: Wiederkehrende Fragen lassen sich aus früheren Antworten und Leistungsbeschreibungen vorbefüllen.

Auffällig ist, dass der größte Effekt selten dort auftritt, wo er vorher vermutet wurde. Deshalb lohnt es sich, mit zwei oder drei klar umrissenen Anwendungsfällen zu starten und die Ausweitung an messbaren Ergebnissen auszurichten.

Was in der Praxis schiefgeht

Die Technik ist selten das Problem. Die Schwierigkeiten liegen fast immer bei den Inhalten und in der Organisation.

• Widersprüchliche Dokumente: Liegen drei Fassungen derselben Richtlinie in der Wissensbasis, wird die Antwort zufällig. Vor dem Start braucht es eine verbindliche Quelle je Thema.
• Schlecht lesbare Vorlagen: Eingescannte PDF ohne Texterkennung, verschachtelte Tabellen und Präsentationen mit wenig Fließtext liefern schwache Ergebnisse.
• Zu große Wissensbasis: Wer alles einliest, verwässert die Suche. Weniger, dafür gepflegte Dokumente schlagen ein vollständiges Archiv.
• Fehlende Pflege: Eine Wissensbasis altert. Ohne Zuständigkeit für Aktualisierungen sinkt die Qualität still vor sich hin.
• Zu hohe Erwartungen: Auch mit passenden Quellen können Antworten falsch sein. Bei rechtlich oder sicherheitsrelevanten Fragen bleibt die fachliche Prüfung Pflicht.

Aus diesem Grund gehört zu jeder Einführung eine klare Aussage darüber, wofür das System genutzt werden darf und wo weiterhin ein Mensch entscheidet.

Ein realistischer Einstieg

Bewährt hat sich ein schlanker Start statt eines großen Programms:

1. Zwei bis drei Anwendungsfälle mit klarem Nutzen auswählen.
2. Je Anwendungsfall die verbindlichen Quelldokumente benennen und aufräumen.
3. Betriebsmodell festlegen: eigene Server, deutsches Hosting oder eine Mischform.
4. Rechte- und Rollenkonzept an die bestehende Benutzerverwaltung anbinden.
5. Mit einer Pilotgruppe testen und die Antwortqualität an echten Fragen bewerten.
6. Nutzungsregeln, Zuständigkeiten und Pflegeprozess schriftlich festhalten.
7. Erst danach auf weitere Abteilungen ausweiten.

Fazit

Eine Firmen-KI, die aus internen Dokumenten antwortet, ist technisch längst kein Sonderprojekt mehr. Die Bausteine sind verfügbar und lassen sich so betreiben, dass Unterlagen das Unternehmen nicht verlassen.

Der Erfolg entscheidet sich an anderer Stelle: an der Qualität der Dokumente, an einem sauberen Rechtekonzept und an der Bereitschaft, die Wissensbasis dauerhaft zu pflegen. Wer das ernst nimmt, bekommt ein Werkzeug, das im Tagesgeschäft spürbar Zeit spart, ohne die Kontrolle über die eigenen Daten abzugeben.

Wir richten solche Plattformen auf Basis bewährter Open-Source-Systeme ein, angebunden an die vorhandene Infrastruktur und mit einem Rechtekonzept, das zur Organisation passt. Sprich mit uns über dein Vorhaben.