AI Hub Architektur
Nutzer (Browser/API)
↓ SSO (Keycloak)
OpenWebUI (Chat UI, RAG, Knowledge Base)
↓ OpenAI-kompatible API
LiteLLM (Routing, Budget, Logging)
↓ Modell-spezifisches Protokoll
Ollama (Modell-Laufzeit, GPU)
└── Modelle: Qwen, Llama, Mistral, Deepseek...
Monitoring: VictoriaMetrics + Grafana
Audit: Logging optionales Opt-in
IIO AI Hub
IIO betreibt den AI Hub auf dedizierten GPU-Servern:
| Server | GPU | Modelle |
|---|---|---|
| inhzgx4 | RTX 4090 | Mittlere Modelle (7B–32B) |
| inhzgx9 | H100 | Große Modelle (72B+) |
Zugang: Über SSO (Keycloak) — keine öffentlichen Endpoints.
Governance-Features
- Budget-Kontrolle — pro Team, User, Projekt (LiteLLM)
- Audit-Log — optionales Prompt-/Response-Logging
- Rollensystem — RBAC über Keycloak-Gruppen
- Modell-Governance — nur freigegebene Modelle verfügbar
- Monitoring — Token-Verbrauch, Kosten, Latenz in Grafana
DSGVO-Vorteil
Alle Prompts bleiben in der eigenen Infrastruktur:
- Kein Drittland-Transfer
- Kein AVV mit US-Anbietern nötig
- Vollständige Datenlöschkontrolle
- Keine Nutzung für Modell-Training durch Anbieter
AI Hub hilft bei der Verwaltung von KI-Modellen durch einheitlichen Zugang und Überwachung.
已批准
- 生成方式
- scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
- 生成日期
- 2026-09-21T00:11:29.079655+00:00
- 标准
- 简单语言 ~B1 — 非德国易读标准 DIN SPEC 33429
- 审核人
- zolo · 2026-09-21T00:30:10.463422+00:00
AI-Hub dient als zentrale, kontrollierte Plattform innerhalb einer Organisation zur Verwaltung von KI-Modellen. Sie bietet einheitlichen Zugriff, Governance-Funktionen sowie umfassende Monitoring-Möglichkeiten für alle KI-Anwendungen.
已批准
- 生成方式
- scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
- 生成日期
- 2026-09-21T00:11:29.079655+00:00
- 标准
- 简单语言 ~B1 — 非德国易读标准 DIN SPEC 33429
- 审核人
- zolo · 2026-09-21T00:30:10.463422+00:00
引用
"AI枢纽." Open Cognition Commons Foundation. https://opencognitioncommons.org/zh/glossary/ai-hub. CC-BY 4.0. 机器可读元数据
{
"@context": "https://schema.org",
"@type": "DefinedTerm",
"name": "AI枢纽",
"description": "Ein AI Hub ist die zentrale, kontrollierte Infrastruktur einer Organisation für den Betrieb von KI-Modellen — mit einheitlichem Zugang, Governance und Monitoring für alle KI-Nutzung.\n",
"url": "https://opencognitioncommons.org/zh/glossary/ai-hub",
"license": "https://creativecommons.org/licenses/by/4.0/",
"alternateName": [
"AI Hub",
"KI-Hub",
"AI Platform"
]
}