Anwendung: Zwischen Cloud- und lokalem Modell einfach wechseln
Dieser Anwendungsfall konkretisiert die Lösungen Kostenkontrolle für den Betrieb von KI-Agenten und Sorgloser, lokaler Betrieb von KI-Agenten. Die Szenarien sind illustrativ und zeigen, wie DAOS im Alltag wirkt.
Auf einen Blick
Das Problem
Cloud-Modelle und lokale Modelle laufen heute meist in getrennten Werkzeugen mit eigenem Login und eigenen Regeln. Wer je nach Aufgabe wechseln will, wechselt in der Praxis auch die Oberfläche – oder bleibt aus Bequemlichkeit bei einer einzigen Option, selbst wenn sie nicht die günstigste oder sicherste ist.
Der Kunde
Fachanwender im Tagesgeschäft
Nutzt mal ein leistungsstarkes Cloud-Modell, mal ein lokales Modell auf dem eigenen Rechner – je nach Aufgabe.
Das System
Open WebUI mit DAOS Policy Engine
Eine Oberfläche für alle freigegebenen Modelle, ob in der Cloud oder auf eigener Hardware.
Das Ziel
Für jede Aufgabe das passende Modell nutzen, ohne das Werkzeug zu wechseln
Geschwindigkeit und Fähigkeiten der Cloud, wo es passt – Kontrolle und Kosten der eigenen Hardware, wo es reicht.
Das Ergebnis
In Open WebUI steht jedes freigegebene Modell nebeneinander zur Auswahl – ein Dropdown, keine getrennten Werkzeuge, keine Extra-Anmeldung.
Der Weg im Überblick
Eine Oberfläche
Modell gewählt
Freigabe geprüft
Verarbeitung passend
Antwort mit Herkunft
Illustrativer Ablauf – die Schritte im Detail stehen unten.
Der Ablauf aus Kundensicht
- 1
Eine Oberfläche für alles
Der Mitarbeiter öffnet Open WebUI wie einen gewohnten Chat – Cloud-Modelle und lokale Modelle stehen im selben Fenster zur Auswahl, nicht in getrennten Anwendungen.
- 2
Modell nach Bedarf wählen
Für eine Recherche wählt er ein leistungsstarkes Cloud-Modell, für die Arbeit mit internen Unterlagen ein lokales Modell auf dem eigenen Rechner oder dem firmeninternen Server – ein Klick im Dropdown genügt.
- 3
Freigabe läuft automatisch mit
Im Hintergrund prüft die Policy Engine, ob die gewählte Kombination aus Modell und Daten erlaubt ist. Nicht freigegebene Cloud-Anbieter stehen für kritische Daten gar nicht erst zur Auswahl.
- 4
Verarbeitung dort, wo sie hingehört
Läuft die Anfrage lokal, verlässt keine Information den eigenen Rechner oder Server. Läuft sie in der Cloud, geht ausschließlich das, was dafür freigegeben ist.
- 5
Antwort mit Herkunft
Die Antwort erscheint zusammen mit der Angabe, welches Modell sie erzeugt hat – der Mitarbeiter weiß immer, ob er gerade lokal oder in der Cloud arbeitet, ohne danach fragen zu müssen.
Weitere Szenarien
Bestehende Hardware nutzen
Läuft das lokale Modell auf ohnehin vorhandenen Rechnern oder einem firmeninternen Server, entstehen für diese Anfragen keine zusätzlichen Inferenzkosten.
Zentral konfiguriert, lokal genutzt
Welche Cloud-Anbieter und lokalen Modelle in Open WebUI überhaupt zur Auswahl stehen, legt die IT einmal zentral über die Policy Engine fest – pro Rechner oder Nutzergruppe.