AI Hub bedeutet: Ein AI Hub ist die zentrale, kontrollierte Infrastruktur einer Organisation für den Betrieb von KI-Modellen — mit einheitlichem Zugang, Governance und Monitoring für alle KI-Nutzung. Das ist wichtig, weil KI-Systeme heute überall eingesetzt werden und Regeln brauchen, damit sie sicher und fair funktionieren.
Ein AI Hub ist die zentrale, kontrollierte Infrastruktur einer Organisation für den Betrieb von KI-Modellen — mit einheitlichem Zugang, Governance und Monitoring für alle KI-Nutzung. [IIO Framework] AI Hub: Zentrale Infrastruktur für lokale KI-Modelle. IIO AI Hub: Ollama + LiteLLM + OpenWebUI auf dedizierten GPU-Servern. Privacy by default, DSGVO-konform. [IIO Framework] AI Hub: Zentrale Infrastruktur für den sicheren, kontrollierten Betrieb von KI-Modellen in einer Organisation. Typisch: lokale Modelle (Ollama), Benutzeroberfläche (OpenWebUI), Zugangssteuerung (Keycloak), Monitoring. *IIO-Kontext: AI Hub als Produkt von Int [IIO-SRC-005] IIO Tenant: Intelego GmbH (intelego). Domain: AI-enabled IT system house. Size: SME (10-50 staff). Region: DACH. ISO 42001: 100% — first fully certified tenant. EU AI Act: 95%. GDPR: compliant. Key services: IIO framework development, AI governance consulting, AI Hub (inhzgx9), monitoring stack, por
AI Hub Architektur
Nutzer (Browser/API)
↓ SSO (Keycloak)
OpenWebUI (Chat UI, RAG, Knowledge Base)
↓ OpenAI-kompatible API
LiteLLM (Routing, Budget, Logging)
↓ Modell-spezifisches Protokoll
Ollama (Modell-Laufzeit, GPU)
└── Modelle: Qwen, Llama, Mistral, Deepseek...
Monitoring: VictoriaMetrics + Grafana
Audit: Logging optionales Opt-in
IIO AI Hub
IIO betreibt den AI Hub auf dedizierten GPU-Servern:
| Server | GPU | Modelle |
|---|---|---|
| inhzgx4 | RTX 4090 | Mittlere Modelle (7B–32B) |
| inhzgx9 | H100 | Große Modelle (72B+) |
Zugang: Über SSO (Keycloak) — keine öffentlichen Endpoints.
Governance-Features
- Budget-Kontrolle — pro Team, User, Projekt (LiteLLM)
- Audit-Log — optionales Prompt-/Response-Logging
- Rollensystem — RBAC über Keycloak-Gruppen
- Modell-Governance — nur freigegebene Modelle verfügbar
- Monitoring — Token-Verbrauch, Kosten, Latenz in Grafana
DSGVO-Vorteil
Alle Prompts bleiben in der eigenen Infrastruktur:
- Kein Drittland-Transfer
- Kein AVV mit US-Anbietern nötig
- Vollständige Datenlöschkontrolle
- Keine Nutzung für Modell-Training durch Anbieter
Citation
"AI 허브." Open Cognition Commons Foundation. https://opencognitioncommons.org/ko/glossary/ai-hub. CC-BY 4.0. Machine-readable metadata
{
"@context": "https://schema.org",
"@type": "DefinedTerm",
"name": "AI 허브",
"description": "Ein AI Hub ist die zentrale, kontrollierte Infrastruktur einer Organisation für den Betrieb von KI-Modellen — mit einheitlichem Zugang, Governance und Monitoring für alle KI-Nutzung.\n",
"url": "https://opencognitioncommons.org/ko/glossary/ai-hub",
"license": "https://creativecommons.org/licenses/by/4.0/",
"alternateName": [
"AI Hub",
"KI-Hub",
"AI Platform"
]
}