Was ist Ollama?

Ollama vereinfacht das lokale Betreiben von KI-Modellen auf:

Mac (M1/M2/M3, Metal GPU)
Linux (NVIDIA/AMD CUDA)
Windows (WSL2 + NVIDIA)

Kernfunktionen:

Modell-Download und -Verwaltung (ollama pull llama3)
Automatische GPU-Nutzung
OpenAI-kompatible REST-API (localhost:11434)
Modelfile-System für Custom-Modelle

Unterstützte Modelle (Auswahl)

Familie	Modelle	Stärke
Llama	3.1 8B, 70B, 405B	General Purpose
Qwen	2.5 7B, 32B, 72B	Coding, Reasoning
Mistral	7B, Large	Europäisches Modell
Deepseek	Coder-V2, R1	Coding, Math
Phi	3.5, 4	Kleine, schnelle Modelle
Gemma	2 2B, 9B	Google Open Source

Ollama API

# Chat
curl http://localhost:11434/api/chat -d '{
  "model": "qwen2.5:7b",
  "messages": [{"role": "user", "content": "Was ist EU AI Act?"}]
}'

# Generate
curl http://localhost:11434/api/generate -d '{
  "model": "qwen2.5:7b",
  "prompt": "Erkläre HITL in einem Satz"
}'

# Modelle auflisten
curl http://localhost:11434/api/tags

IIO AI Hub Setup

IIO nutzt Ollama als Inference-Backend:

GPU-Server (inhzgx4/inhzgx9)
    └── Ollama (Port 11434)
            ↓
        LiteLLM (Port 4000) ← Routing + Aliase
            ↓
        OpenWebUI (Port 3000) ← UI für Nutzer

DSGVO und Ollama

Ollama ist die DSGVO-konforme KI-Lösung:

Keine Daten verlassen den Server — vollständig lokal
Kein API-Vertrag mit US-Anbietern — kein Drittland-Transfer
Vollständige Kontrolle über Modellversion und Updates

Ollama ist ein Tool, das KI-Sprachmodelle leichter lokal betreiben lässt. Es lädt Modelle automatisch herunter, nutzt GPUs und bietet eine benutzerfreundliche Artikelverwaltung.

승인됨

생성 방식: scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
생성일: 2026-09-21T00:11:29.079655+00:00
기준: 쉬운 언어 ~B1 — 독일 쉬운 읽기 표준 DIN SPEC 33429 아님
검토자: zolo · 2026-09-21T00:30:10.463422+00:00

Ollama dient als Open-Source-Lösung zur Vereinfachung des lokalen Betriebs von KI-Sprachmodellen. Es automatisiert den Download-Vorgang, unterstützt die Nutzung von GPUs und bietet eine OpenAI-kompatible REST-API sowie einfache Mechanismen für das Modellverwaltung.

승인됨

생성 방식: scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
생성일: 2026-09-21T00:11:29.079655+00:00
기준: 쉬운 언어 ~B1 — 독일 쉬운 읽기 표준 DIN SPEC 33429 아님
검토자: zolo · 2026-09-21T00:30:10.463422+00:00

참조

"Ollama." Open Cognition Commons Foundation. https://opencognitioncommons.org/ko/glossary/ollama. CC-BY 4.0.

기계로 읽을 수 있는 메타데이터

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "Ollama",
  "description": "Ollama ist ein Open-Source-Tool, das den lokalen Betrieb von KI-Sprachmodellen vereinfacht — mit automatischem Download, GPU-Nutzung, OpenAI-kompatibler REST-API und einfacher Modellverwaltung.\n",
  "url": "https://opencognitioncommons.org/ko/glossary/ollama",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Ollama"
  ]
}