Dienst einkaufen oder Betrieb übernehmen?
Cloud-KI verlagert Teile von Infrastruktur, Skalierung und Aktualisierung zum Anbieter. Lokale KI verlagert Kontrolle und zugleich mehr Betriebsverantwortung ins eigene Unternehmen. Die Entscheidung wird pro Workflow und Datenklasse getroffen, nicht als Ideologie für die gesamte Organisation.
Grenze: Kontrolle braucht Betriebsfähigkeit
Ein lokaler Datenpfad ist nur belastbar, wenn Zugriff, Patchen, Modell- und Lizenzstand, Monitoring, Backup und Incident-Verantwortung geregelt sind. In der Cloud sind Vertrag, Region, Subprozessoren, Aufbewahrung, Identität und Exit-Weg zu belegen.
Pilot: Qualität und Betrieb getrennt testen
- Dieselben redigierten Fälle und dieselbe Hardwareklasse dokumentieren
- Antwortqualität, Latenz und Durchsatz getrennt messen
- Update, Ausfall, Backup und manuellen Ersatzweg simulieren
- Gesamtkosten inklusive interner Betriebsstunden vergleichen
Entscheidungsmatrix
| Kriterium | Cloud-KI | lokale KI |
|---|---|---|
| Datenpfad | Vertrag, Region, Aufbewahrung und Subprozessoren belegen | Speicher, Netzwerk, Zugriff und Telemetrie selbst belegen |
| Betriebsarbeit | Anbieterbetrieb plus interne Konfiguration und Kontrolle | Hardware, Modelle, Updates, Monitoring und Support intern |
| Exit-Nachweis | Datenexport, Löschung und Anbieterwechsel testen | Backup, Wiederherstellung und Komponentenwechsel testen |
Nachvollziehbar bleiben
Primärquellen
- Ollama quickstartQuellenstand:
- Ollama API authenticationQuellenstand:
- vLLM OpenAI-compatible serverQuellenstand:
- Hugging Face model cardsQuellenstand:
- EU AI ActQuellenstand:
- EDPB: data protection and AIQuellenstand:
