🟢 Plain Language

Ein zentraler Zugangspunkt für KI-Dienste in einem Unternehmen — verwaltet Modelle, Kosten, Sicherheit und Compliance an einem Ort.

🔵 Expert Level

AI Hub als zentrales LLM-Gateway: LiteLLM-basiert, unterstützt 11+ Modelle via einheitliche OpenAI-kompatible API. Features: Cost-Tracking per Agent, Rate-Limiting, Model-Fallback, Audit-Log. IIO AI Hub: WireGuard-geschützt auf 10.10.10.1:4000, Key-Management via Vault, Modell-Routing via YAML-Config.

AI Hub Architektur

Nutzer (Browser/API)
    ↓ SSO (Keycloak)
OpenWebUI (Chat UI, RAG, Knowledge Base)
    ↓ OpenAI-kompatible API
LiteLLM (Routing, Budget, Logging)
    ↓ Modell-spezifisches Protokoll
Ollama (Modell-Laufzeit, GPU)
    └── Modelle: Qwen, Llama, Mistral, Deepseek...
    
Monitoring: VictoriaMetrics + Grafana
Audit: Logging optionales Opt-in

IIO AI Hub

IIO betreibt den AI Hub auf dedizierten GPU-Servern:

Server	GPU	Modelle
inhzgx4	RTX 4090	Mittlere Modelle (7B–32B)
inhzgx9	H100	Große Modelle (72B+)

Zugang: Über SSO (Keycloak) — keine öffentlichen Endpoints.

Governance-Features

Budget-Kontrolle — pro Team, User, Projekt (LiteLLM)
Audit-Log — optionales Prompt-/Response-Logging
Rollensystem — RBAC über Keycloak-Gruppen
Modell-Governance — nur freigegebene Modelle verfügbar
Monitoring — Token-Verbrauch, Kosten, Latenz in Grafana

DSGVO-Vorteil

Alle Prompts bleiben in der eigenen Infrastruktur:

Kein Drittland-Transfer
Kein AVV mit US-Anbietern nötig
Vollständige Datenlöschkontrolle
Keine Nutzung für Modell-Training durch Anbieter

Cytowanie

"AI Hub." Open Cognition Commons Foundation. https://opencognitioncommons.org/pl/glossary/ai-hub. CC-BY 4.0.

Metadane czytelne maszynowo

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "AI Hub",
  "description": "Ein AI Hub ist die zentrale, kontrollierte Infrastruktur einer Organisation für den Betrieb von KI-Modellen — mit einheitlichem Zugang, Governance und Monitoring für alle KI-Nutzung.\n",
  "url": "https://opencognitioncommons.org/pl/glossary/ai-hub",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "AI Hub",
    "KI-Hub",
    "AI Platform"
  ]
}