Open WebUI für Unternehmen: Self-Hosted KI-Plattform für interne Sprachmodelle und Wissenssysteme

Im Unterschied zu klassischen KI-Cloud-Diensten wird Open WebUI auf einem eigenen Server, in einem deutschen oder europäischen Rechenzentrum oder innerhalb einer vollständig abgeschotteten IT-Umgebung betrieben. Abhängig von der gewählten Systemarchitektur können dadurch Eingaben, Dokumente, Wissensdatenbanken und Chatverläufe vollständig unter der Kontrolle des Unternehmens bleiben.

Open WebUI eignet sich damit insbesondere für Organisationen, die generative KI produktiv einsetzen möchten, gleichzeitig aber hohe Anforderungen an Datenschutz, Informationssicherheit, Benutzerverwaltung und technische Kontrolle stellen.

Stand dieses Artikels ist Open WebUI v0.9.6 vom 1. Juni 2026. Das Projekt wird aktiv weiterentwickelt und hat auf GitHub mehr als 140.000 Sterne erreicht.

Was ist Open WebUI?

Open WebUI ist eine browserbasierte Benutzeroberfläche für den Zugriff auf große Sprachmodelle und KI-Dienste. Die Anwendung stellt selbst kein Sprachmodell bereit. Sie fungiert vielmehr als zentrale Plattform, über die unterschiedliche Modelle, Schnittstellen und Wissenssysteme eingebunden werden können.

Zu den möglichen Backends gehören unter anderem:

• Ollama
• vLLM
• LM Studio
• OpenAI-kompatible APIs
• interne Unternehmensschnittstellen
• kommerzielle Cloud-Modelle
• selbst betriebene Open-Source-Modelle

Diese Trennung zwischen Benutzeroberfläche und Modellinfrastruktur ist für Unternehmen besonders relevant. Sie ermöglicht es, unterschiedliche Sprachmodelle innerhalb einer zentralen Oberfläche bereitzustellen und je nach Anwendungsfall zwischen lokalen und externen Modellen zu wechseln.

Ein Unternehmen kann beispielsweise sensible Anfragen über ein lokal betriebenes Modell verarbeiten und für weniger kritische Aufgaben leistungsstärkere Cloud-Modelle anbinden.

Open WebUI als interne KI-Plattform

Open WebUI ist nicht nur eine Oberfläche für einzelne KI-Chats. Die Anwendung kann als zentrale Plattform für den unternehmensweiten Einsatz generativer KI aufgebaut werden. Mitarbeitende greifen über den Browser auf eine gemeinsame Umgebung zu. Modelle, Berechtigungen, Wissensquellen und Konfigurationen werden zentral verwaltet.

Typische Einsatzmöglichkeiten sind:

• interne KI-Assistenten
• Dokumenten- und Wissenssuche
• Unterstützung im Kundenservice
• Zusammenfassung interner Dokumente
• Erstellung und Überarbeitung von Texten
• Analyse technischer Unterlagen
• Recherche in internen Wissensbeständen
• Unterstützung von Vertrieb und Marketing
• Zugriff auf interne Prozessinformationen
• Bereitstellung spezialisierter Abteilungsassistenten

Die Plattform kann dabei sowohl für einzelne Teams als auch für größere Unternehmensbereiche eingesetzt werden.

Zentrale Vorteile für Unternehmen

Kontrolle über Daten und Infrastruktur

Bei einer vollständig lokalen Installation können Prompts, Dokumente und Modellausgaben innerhalb der eigenen Infrastruktur verarbeitet werden. Das Unternehmen entscheidet selbst:

• wo Daten gespeichert werden,
• welche Modelle eingesetzt werden,
• welche Nutzer Zugriff erhalten,
• welche externen Dienste angebunden werden,
• wie lange Chatverläufe gespeichert bleiben,
• welche Daten protokolliert werden,
• welche Sicherheitsmaßnahmen gelten.

Diese Kontrolle ist ein wesentlicher Unterschied zu öffentlich verfügbaren KI-Plattformen.

Unabhängigkeit von einzelnen Modellanbietern

Open WebUI ist nicht an einen bestimmten Hersteller gebunden. Unternehmen können unterschiedliche Modelle und Anbieter parallel verwenden. Dadurch lässt sich ein sogenannter Vendor Lock-in reduzieren. Soll ein Modell ersetzt werden, kann das Backend gewechselt werden, ohne dass sich die Benutzeroberfläche für die Mitarbeitenden grundlegend verändert.

Zentrale Benutzerverwaltung

Open WebUI unterstützt Mehrbenutzerumgebungen und rollenbasierte Zugriffsrechte. Dadurch können Unternehmen unterschiedliche Nutzergruppen und Berechtigungen definieren, beispielsweise:

• Administratoren
• interne Mitarbeitende
• Fachabteilungen
• externe Projektbeteiligte
• eingeschränkte Benutzergruppen
• Nutzer mit Zugriff auf bestimmte Modelle
• Nutzer mit Zugriff auf ausgewählte Wissensdatenbanken

Dies ist besonders wichtig, wenn verschiedene Abteilungen mit unterschiedlich sensiblen Daten arbeiten.

Nutzung eigener Wissensbestände

Über Retrieval-Augmented Generation, kurz RAG, können interne Dokumente und Wissensquellen für KI-gestützte Abfragen bereitgestellt werden. Damit lassen sich beispielsweise folgende Inhalte nutzbar machen:

• Unternehmensrichtlinien
• Prozessdokumentationen
• Produktinformationen
• technische Handbücher
• Vertriebsunterlagen
• Schulungsunterlagen
• interne Anleitungen
• Qualitätsmanagement-Dokumente
• Vertragsvorlagen
• Support-Dokumentationen
• häufig gestellte Kundenfragen

Mitarbeitende können anschließend Fragen in natürlicher Sprache stellen und erhalten Antworten auf Basis der hinterlegten Unternehmensinformationen.

Technische Architektur

Open WebUI bildet die zentrale Benutzeroberfläche. Die eigentliche Verarbeitung erfolgt über ein angebundenes Modell-Backend. Eine typische Unternehmensarchitektur besteht aus mehreren Komponenten:

• Open WebUI als Benutzeroberfläche
• ein lokales oder externes Sprachmodell
• ein Inferenz-Backend wie Ollama oder vLLM
• eine Datenbank für Benutzer- und Chatdaten
• eine Vektordatenbank für Dokumentenwissen
• ein Embedding-Modell für die Dokumentenverarbeitung
• ein Reverse Proxy für HTTPS
• eine Authentifizierungs- und Berechtigungsstruktur
• Backup- und Monitoring-Systeme

Für kleinere Installationen können mehrere Komponenten auf einem Server betrieben werden. Bei größeren Installationen empfiehlt sich eine getrennte und skalierbare Architektur.

Unterstützte Modell-Backends

Open WebUI kann mit unterschiedlichen Modellinfrastrukturen verbunden werden.

Ollama

Ollama ist besonders für kleinere Installationen, Pilotprojekte und lokale Modelltests geeignet. Es ermöglicht die unkomplizierte Bereitstellung von Modellen wie Llama, Mistral, Gemma, Qwen, DeepSeek, Phi und weiteren kompatiblen Modellen. Für Unternehmen ist Ollama häufig ein schneller Einstieg, sollte bei größeren Nutzerzahlen jedoch hinsichtlich Skalierbarkeit und Ausfallsicherheit geprüft werden.

vLLM

vLLM eignet sich besonders für leistungsfähigere Serverumgebungen und höhere gleichzeitige Nutzerzahlen. Das System ist auf eine effiziente Modellbereitstellung ausgelegt und kann in professionellen GPU-Infrastrukturen eingesetzt werden.

OpenAI-kompatible APIs

Open WebUI kann grundsätzlich mit jeder Schnittstelle verbunden werden, die das OpenAI-API-Format unterstützt. Dadurch lassen sich unter anderem einbinden: interne KI-Gateways, eigene Modellserver, europäische KI-Anbieter, öffentliche Cloud-Modelle, spezialisierte Branchenmodelle und zentrale Unternehmens-APIs. Diese Kompatibilität erleichtert die Integration in bestehende IT-Strukturen.

Lokaler Betrieb und Cloud-Anbindung

Open WebUI kann in unterschiedlichen Betriebsmodellen eingesetzt werden.

Vollständig lokaler Betrieb

Bei einem vollständig lokalen Aufbau laufen alle Komponenten innerhalb der eigenen Infrastruktur: Open WebUI, das Sprachmodell, das Inferenz-Backend, das Embedding-Modell, die Vektordatenbank, die Dokumentenverarbeitung sowie die Benutzer- und Chatdatenbank. Dieses Modell bietet die größtmögliche technische Kontrolle.

Betrieb im eigenen Rechenzentrum

Unternehmen können Open WebUI auf eigener Hardware oder in einer Private-Cloud-Umgebung betreiben. Dies eignet sich insbesondere für Organisationen mit bestehender Server- oder GPU-Infrastruktur.

Betrieb bei einem europäischen Hosting-Anbieter

Alternativ kann Open WebUI auf dedizierten Servern bei einem Hosting-Anbieter betrieben werden. Dabei sollten unter anderem folgende Punkte geprüft werden: Serverstandort, Auftragsverarbeitungsvertrag, Verschlüsselung, Zugriffsschutz, Backup-Standorte, Administratorzugriffe, Unterauftragnehmer sowie technische und organisatorische Maßnahmen.

Hybrider Betrieb

Bei einer hybriden Architektur werden lokale und externe Modelle parallel eingesetzt. Beispielsweise können vertrauliche Dokumente ausschließlich über ein lokales Modell verarbeitet werden, während allgemeine Aufgaben über externe Cloud-Modelle laufen. Open WebUI dient in diesem Fall als einheitliche Benutzeroberfläche.

Dokumenten-Chat und RAG

Eine der wichtigsten Unternehmensfunktionen von Open WebUI ist die Einbindung eigener Dokumente über Retrieval-Augmented Generation. Bei diesem Verfahren werden Dokumente verarbeitet, in kleinere Abschnitte zerlegt und als Vektoren in einer Datenbank gespeichert. Stellt ein Nutzer eine Frage, sucht das System nach passenden Dokumentenabschnitten und stellt diese dem Sprachmodell als Kontext zur Verfügung.

Der Vorteil besteht darin, dass ein allgemeines Sprachmodell auf unternehmensspezifisches Wissen zugreifen kann, ohne für jeden Anwendungsfall neu trainiert werden zu müssen.

Typische RAG-Anwendungen

• interne Wissensdatenbank
• Mitarbeiterhandbuch
• Produktberater
• Support-Assistent
• Qualitätsmanagement-Assistent
• Vertrags- und Richtliniensuche
• technischer Dokumentationsassistent
• Onboarding-Assistent
• Vertriebsunterstützung
• Compliance-Informationssystem

Anforderungen an ein professionelles RAG-System

Für einen belastbaren Unternehmenseinsatz reicht es nicht aus, Dokumente lediglich hochzuladen. Zu berücksichtigen sind unter anderem:

• Qualität und Aktualität der Dokumente
• Zugriffsrechte auf einzelne Wissensbereiche
• Quellenangaben in Antworten
• Versionierung von Dokumenten
• Löschung veralteter Informationen
• Erkennungsqualität bei PDF-Dateien
• Verarbeitung von Tabellen und Bildern
• Qualität des Embedding-Modells
• Auswahl der Vektordatenbank
• Trennung verschiedener Mandanten oder Abteilungen

RAG-Systeme sollten daher technisch und organisatorisch geplant werden.

Datenschutz und DSGVO

Ein selbst gehostetes System kann im Vergleich zu öffentlichen KI-Diensten erhebliche Vorteile beim Datenschutz bieten. Eine lokale Installation ist jedoch nicht automatisch DSGVO-konform. Entscheidend ist die gesamte Verarbeitungskette.

Es muss geprüft werden, ob Daten über folgende Komponenten an externe Anbieter übertragen werden: Sprachmodelle, Embedding-Modelle, Websuche, Bildgenerierung, Spracherkennung, Übersetzungsdienste, Analyse-Tools, Fehlerprotokollierung und externe APIs. Auch wenn Open WebUI lokal betrieben wird, kann eine angebundene Cloud-API Daten aus dem Unternehmen übertragen.

Relevante Datenschutzmaßnahmen

Für den Unternehmenseinsatz sollten mindestens folgende Maßnahmen geprüft werden:

• rollenbasierte Zugriffskontrolle
• individuelle Benutzerkonten
• verschlüsselte Datenübertragung
• HTTPS
• Zugriffsbeschränkung auf das Unternehmensnetzwerk
• Lösch- und Aufbewahrungskonzepte
• Backup-Richtlinien
• Protokollierung administrativer Zugriffe
• Trennung sensibler Wissensbereiche
• Dokumentation angebundener Anbieter
• Prüfung von Auftragsverarbeitungsverträgen
• Bewertung möglicher Drittlandübermittlungen
• Datenschutz-Folgenabschätzung bei erhöhtem Risiko
• Schulung der Mitarbeitenden

Der Datenschutz sollte nicht nur technisch, sondern auch organisatorisch geregelt werden.

Informationssicherheit

Open WebUI sollte in Unternehmen wie jede andere geschäftskritische Webanwendung behandelt werden. Zu den wesentlichen Sicherheitsmaßnahmen gehören: regelmäßige Updates, abgesicherte Administratorzugänge, Multi-Faktor-Authentifizierung, starke Passwortrichtlinien, Netzwerksegmentierung, Firewall-Regeln, verschlüsselte Verbindungen, Schutz der Datenbank, regelmäßige Backups, Wiederherstellungstests, Protokollierung von Systemereignissen, Überwachung von Ressourcen und Ausfällen, Kontrolle hochgeladener Dateien, Beschränkung externer Schnittstellen sowie Prüfung installierter Erweiterungen.

Eine frei aus dem Internet erreichbare Standardinstallation ohne zusätzliche Absicherung ist für den Unternehmenseinsatz nicht zu empfehlen.

Benutzer-, Rollen- und Berechtigungskonzept

Bei der Einführung sollte vorab definiert werden, welche Nutzer welche Funktionen verwenden dürfen. Mögliche Berechtigungen betreffen: Auswahl bestimmter Modelle, Zugriff auf Wissensdatenbanken, Upload von Dokumenten, Freigabe von Chats, Nutzung externer APIs, Zugriff auf Websuche, Erstellung eigener Assistenten, administrative Einstellungen, Verwaltung anderer Nutzer sowie Einsicht in Protokolle.

Insbesondere bei mehreren Abteilungen sollte verhindert werden, dass alle Nutzer automatisch auf sämtliche Dokumente und Modelle zugreifen können. Ein technisches Berechtigungskonzept sollte daher mit den bestehenden Unternehmensrollen abgestimmt werden.

KI-Governance und EU AI Act

Mit zunehmender Nutzung generativer KI steigen auch die Anforderungen an Governance und Dokumentation. Unternehmen sollten definieren: für welche Aufgaben Open WebUI eingesetzt werden darf, welche Daten eingegeben werden dürfen, welche Daten nicht verarbeitet werden dürfen, welche Modelle freigegeben sind, wie Ergebnisse geprüft werden müssen, wer für das System verantwortlich ist, wie Fehler und Sicherheitsvorfälle gemeldet werden, wie Mitarbeitende geschult werden und welche Anwendungen dokumentiert werden müssen.

Im Zusammenhang mit dem EU AI Act ist insbesondere die KI-Kompetenz der Mitarbeitenden relevant. Unternehmen sollten sicherstellen, dass Nutzer die Möglichkeiten und Grenzen generativer KI verstehen. Dazu gehören beispielsweise mögliche Halluzinationen, fehlerhafte Quellenangaben, unvollständige Antworten, Urheberrechtsrisiken, Datenschutzrisiken, Diskriminierung und Verzerrungen sowie die notwendige menschliche Kontrolle.

Open WebUI stellt die technische Plattform bereit. Die organisatorische Verantwortung bleibt jedoch beim Unternehmen.

Lizenz und kommerzielle Nutzung

Open WebUI kann grundsätzlich kostenlos und kommerziell eingesetzt werden. Seit Version 0.6.6 gilt jedoch eine eigene Open WebUI License. Diese basiert auf der BSD-3-Klausel und enthält zusätzliche Regelungen zum Branding.

Besonders relevant ist die Regelung für größere Installationen. Bei Deployments mit mehr als 50 aktiven Nutzern innerhalb von 30 Tagen darf das Open-WebUI-Branding nicht ohne Weiteres entfernt werden.

Unternehmen sollten die Lizenz insbesondere prüfen, wenn sie Open WebUI für mehr als 50 aktive Nutzer einsetzen, die Oberfläche vollständig unter eigener Marke anbieten, eine White-Label-Lösung entwickeln, Open WebUI als Teil eines eigenen Produkts vertreiben, die Plattform für Kunden betreiben oder die Software verändern und weitergeben.

Die Lizenz ist nicht als klassische OSI-zertifizierte Open-Source-Lizenz einzuordnen. Vor größeren kommerziellen Implementierungen sollte daher der jeweils aktuelle Lizenztext geprüft und gegebenenfalls rechtlich bewertet werden.

Technische Voraussetzungen

Die Anforderungen hängen weniger von Open WebUI selbst als von den eingesetzten Modellen ab.

Für produktive Installationen sollten Kapazitäten anhand der Nutzerzahlen, Modellgrößen und erwarteten Parallelzugriffe geplant werden.

Skalierung und Performance

Die benötigte Infrastruktur hängt von mehreren Faktoren ab: Anzahl der Nutzer, gleichzeitige Anfragen, verwendete Modelle, Größe der Kontextfenster, Umfang der Wissensdatenbanken, Anzahl hochgeladener Dokumente, Antwortgeschwindigkeit, gewünschte Verfügbarkeit sowie Bild- und Sprachfunktionen.

Ein kleines Modell für zehn gelegentliche Nutzer stellt deutlich geringere Anforderungen als eine zentrale KI-Plattform für mehrere hundert Mitarbeitende. Bei größeren Umgebungen sollten folgende Aspekte berücksichtigt werden: mehrere Modellserver, GPU-Auslastung, Lastverteilung, Modell-Caching, getrennte Datenbanken, skalierbare Vektordatenbanken, Hochverfügbarkeit, redundante Systeme, Kapazitätsüberwachung und Benutzerlimits.

Open WebUI ist die Benutzeroberfläche. Die eigentliche Skalierbarkeit wird wesentlich durch die angebundene Modellinfrastruktur bestimmt.

Vergleich mit LM Studio, Jan und AnythingLLM

Open WebUI unterscheidet sich von klassischen Desktop-Anwendungen vor allem durch seinen serverbasierten Ansatz.

LM Studio und Jan eignen sich vor allem für einzelne Anwender und lokale Tests. AnythingLLM legt einen stärkeren Schwerpunkt auf Dokumenten- und Wissenssysteme. Open WebUI ist besonders interessant, wenn Unternehmen eine zentrale Chat-Oberfläche benötigen, unterschiedliche Modelle anbinden und mehrere Nutzer verwalten möchten.

Typische Unternehmensanwendungen

• Interner Wissensassistent: Mitarbeitende können Fragen zu Richtlinien, Prozessen, Produkten und internen Abläufen stellen.
• Support-Assistent: Support-Teams können technische Dokumentationen, Lösungsbeschreibungen und häufige Kundenfragen durchsuchen.
• Vertriebsassistent: Vertriebsmitarbeitende erhalten Zugriff auf Produktinformationen, Argumentationshilfen, Leistungsbeschreibungen und Angebotsgrundlagen.
• Onboarding-Assistent: Neue Mitarbeitende können Fragen zu Organisation, internen Werkzeugen, Prozessen und Zuständigkeiten stellen.
• Qualitätsmanagement: QM-Handbücher, Prozessbeschreibungen und Prüfvorgaben können über eine zentrale Wissensoberfläche zugänglich gemacht werden.
• Technischer Assistent: Entwickler, Ingenieure und IT-Abteilungen können technische Dokumentationen und interne Standards einbinden.
• Abteilungsspezifische Assistenten: Für Personal, Marketing, Vertrieb, IT oder Kundenservice können jeweils eigene Modelle, Systemanweisungen und Wissensbestände bereitgestellt werden.

Einführung im Unternehmen

Eine erfolgreiche Einführung sollte nicht mit der Installation der Software beginnen, sondern mit einer klaren Zieldefinition.

1. Anwendungsfälle definieren: Zunächst sollte festgelegt werden, welche konkreten Probleme gelöst werden sollen.
2. Datenklassen bestimmen: Es muss geklärt werden, welche Informationen verarbeitet werden dürfen und welche ausgeschlossen bleiben.
3. Betriebsmodell auswählen: Das Unternehmen entscheidet zwischen lokalem, gehostetem oder hybridem Betrieb.
4. Modelle auswählen: Die Modelle sollten anhand von Qualität, Sprache, Hardwarebedarf, Lizenz und Datenschutz bewertet werden.
5. Benutzer- und Berechtigungskonzept erstellen: Nutzergruppen, Rollen und Wissenszugriffe müssen definiert werden.
6. Pilotgruppe einrichten: Ein begrenzter Nutzerkreis testet die Plattform mit ausgewählten Anwendungsfällen.
7. Ergebnisse bewerten: Qualität, Nutzbarkeit, Datenschutz, Performance und Akzeptanz werden geprüft.
8. Governance festlegen: Nutzungsrichtlinien, Verantwortlichkeiten und Freigabeprozesse werden dokumentiert.
9. Mitarbeitende schulen: Nutzer müssen im sicheren, kritischen und produktiven Umgang mit generativer KI geschult werden.
10. Betrieb und Weiterentwicklung organisieren: Updates, Support, Monitoring, Backups und Modellwechsel benötigen klare Zuständigkeiten.

Grenzen von Open WebUI

Open WebUI ist keine vollständig fertige Unternehmenslösung, die ohne Konzeption und Betrieb eingeführt werden kann. Zu den möglichen Herausforderungen gehören: technischer Administrationsaufwand, Hardwarekosten für lokale Modelle, schwankende Qualität unterschiedlicher Modelle, notwendige Pflege der Wissensdatenbanken, fehlende oder begrenzte Integrationen, Sicherheitsanforderungen, Lizenzprüfung, notwendige Benutzer- und Rechtekonzepte, laufende Updates sowie Qualitätssicherung der KI-Ausgaben.

Auch lokal betriebene Modelle können falsche, unvollständige oder erfundene Antworten liefern. Open WebUI ersetzt daher weder fachliche Prüfungen noch verbindliche Freigabeprozesse.

Open WebUI ist weniger ein einzelnes KI-Werkzeug, sondern vielmehr die technische Grundlage für eine unternehmenseigene, kontrollierbare und erweiterbare KI-Infrastruktur.

Fazit

Open WebUI bietet Unternehmen eine flexible Grundlage für den Aufbau einer eigenen KI-Plattform. Die Anwendung verbindet eine moderne Chat-Oberfläche mit der Möglichkeit, lokale Sprachmodelle, Cloud-Modelle, interne APIs und unternehmenseigene Wissensbestände innerhalb einer zentralen Umgebung bereitzustellen.

Der wesentliche Vorteil liegt in der technischen und organisatorischen Kontrolle. Unternehmen entscheiden selbst, welche Modelle genutzt werden, wo Daten verarbeitet werden und welche Nutzer auf welche Inhalte zugreifen dürfen. Besonders interessant ist Open WebUI für Organisationen, die generative KI zentral bereitstellen möchten, sensible Daten kontrolliert verarbeiten müssen, eigene Dokumente und Wissensbestände integrieren wollen, unterschiedliche Modelle flexibel einsetzen möchten, eine Alternative zu öffentlichen KI-Chatdiensten suchen oder eine skalierbare Mehrbenutzerplattform benötigen.

Für einen professionellen Betrieb müssen jedoch Datenschutz, Informationssicherheit, Benutzerrechte, KI-Governance, Modellqualität und laufende Administration gemeinsam betrachtet werden. Sprich mit uns über dein Projekt.