Skip to main content
← Glossary
concept

복합용 AI

Dual-Use KI · Dual-Use AI · Dual-Use Technology

1 min read 2026년 5월 19일
Dual-Use KI bezeichnet KI-Systeme oder -Modelle, die je nach Verwendung entweder nützliche oder schädliche Zwecke erfüllen können — ohne dass die Technologie selbst intrinsisch gefährlich ist.
🟢 Plain Language

Dual-Use KI bedeutet: Dual-Use KI bezeichnet KI-Systeme oder -Modelle, die je nach Verwendung entweder nützliche oder schädliche Zwecke erfüllen können — ohne dass die Technologie selbst intrinsisch gefährlich ist. Das ist wichtig, weil KI-Systeme heute überall eingesetzt werden und Regeln brauchen, damit sie sicher und fair funktionieren.

🔵 Expert Level

Dual-Use KI bezeichnet KI-Systeme oder -Modelle, die je nach Verwendung entweder nützliche oder schädliche Zwecke erfüllen können — ohne dass die Technologie selbst intrinsisch gefährlich ist. [IIO Framework] Dual-Use KI: KI-Systeme die sowohl für zivile als auch potenziell schädliche Zwecke genutzt werden können. EU AI Act reguliert bestimmte Dual-Use-Anwendungen. [NIST GenAI RMF] a cross-sectoral profile of and companion resource for the AI Risk Management Framework (AI RMF 1.0) for Generative AI, 1 pursuant to President Biden’s Executive Order (EO) 14110 on Safe, Secure, and Trustworthy Artificial Intelligence. 2 The AI RMF was released in January 2023, and is intended for vo [EC Ethics Guidelines] system does not undermine human autonomy or causes other adverse effects. Oversight may be achieved through governance mechanisms such a s a human-in-the- loop (HITL), human-on-the-loop (HOTL), or human-in-command (HIC) approach. HITL refers to the capability for human intervention in every decision

Dual-Use Beispiele

TechnologieZivile NutzungSchädliche Nutzung
BildgenerierungKreative KunstDeepfakes, Desinformation
SprachmodelleAssistenz, ÜbersetzungManipulation, Phishing
Computer VisionMedizinische DiagnoseÜberwachung
Voice CloningBarrierefreiheitBetrug, Impersonation
Code-GenerierungProduktivitätMalware

EU AI Act und Dual-Use

GPAI-Modelle (Kap. V)

Foundation Models sind per Definition Dual-Use — sie können für alles verwendet werden. EU AI Act verlangt:

  • Dokumentation möglicher Missbrauchsszenarien
  • Technische Maßnahmen gegen vorhersehbaren Missbrauch
  • Bei systemischem Risiko: Adversarial Testing

Verbotene Nutzungen (Art. 5)

Bestimmte Dual-Use-Anwendungen sind verboten:

  • Biometrische Echtzeit-Überwachung im öffentlichen Raum
  • Soziale Bewertungssysteme
  • Kognitive Manipulation

Verantwortung bei Dual-Use

Anbieter (Foundation Model):

  • Nutzungsbedingungen: Schädliche Zwecke verbieten
  • Technische Safeguards: Content-Filter, Output-Moderation
  • Dokumentation: Bekannte Missbrauchsszenarien

Betreiber (Deployment):

  • Use-Case-Bewertung: Ist meine Anwendung risikobehaftet?
  • Endnutzer-Prüfung bei kritischen Anwendungen
  • Monitoring: Erkennung von Missbrauch

IIO Dual-Use Policy

IIO definiert erlaubte Nutzung für alle AI-Hub-Modelle:

  • Interne Produktivität: Erlaubt
  • Externe Kommunikation: HITL-Gate
  • Personenbezogene Entscheidungen: HITL + DSFA
  • Generierung täuschender Inhalte: Verboten

Citation

"복합용 AI." Open Cognition Commons Foundation. https://opencognitioncommons.org/ko/glossary/dual-use-ki. CC-BY 4.0.
Machine-readable metadata 
{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "복합용 AI",
  "description": "Dual-Use KI bezeichnet KI-Systeme oder -Modelle, die je nach Verwendung entweder nützliche oder schädliche Zwecke erfüllen können — ohne dass die Technologie selbst intrinsisch gefährlich ist.\n",
  "url": "https://opencognitioncommons.org/ko/glossary/dual-use-ki",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Dual-Use KI",
    "Dual-Use AI",
    "Dual-Use Technology"
  ]
}