KI-Glossar
KI-Begriffe, einfach erklärt.
Die Begriffe, die in meinen Gesprächen mit Geschäftsführern aus dem Mittelstand am häufigsten fallen – kurz erklärt und mit dem, was sie für Ihren Alltag bedeuten.
Direkt zu: Generative KI · Large Language Model (LLM) · Prompt und Prompting · Halluzination · Schatten-KI · KI-Richtlinie · KI-Kompetenz (Art. 4 AI Act) · EU AI Act (KI-Verordnung) · Datenschutz bei KI-Werkzeugen · KI-Agent · RAG (Retrieval Augmented Generation) · KI-Reifegrad
Stand: Oktober 2026 · Autor: Stefan Quisdorf, AI Professional (IHK)
Grundlagen
Generative KI
Generative KI erzeugt neue Inhalte – Texte, Bilder, Tabellen oder Programmcode – auf Basis von Mustern, die sie aus großen Datenmengen gelernt hat. Bekannte Beispiele sind ChatGPT, Microsoft Copilot, Google Gemini und Claude.
In der Praxis: Im Mittelstand hilft generative KI vor allem bei Entwürfen, Zusammenfassungen und Routinetexten. Die Entscheidung und die Prüfung bleiben beim Menschen.
Mehr dazu: KI im Mittelstand: Wo sie heute hilft
Grundlagen
Large Language Model (LLM)
Ein Large Language Model ist ein Sprachmodell, das mit sehr großen Textmengen trainiert wurde. Es sagt Wort für Wort voraus, was am wahrscheinlichsten folgt – deshalb klingt das Ergebnis flüssig, ist aber nicht automatisch richtig.
In der Praxis: Für die Praxis wichtig: Ein LLM „weiß“ nur, was in seinen Trainingsdaten stand oder was Sie ihm mitgeben. Aktuelle Preise oder interne Abläufe kennt es nicht von selbst.
Anwendung
Prompt und Prompting
Ein Prompt ist die Anweisung, die Sie einer KI geben. Prompting heißt, diese Anweisung so zu formulieren, dass ein brauchbares Ergebnis entsteht: mit Ziel, Kontext, Beispielen und dem gewünschten Format.
In der Praxis: Gute Prompts sind kein Geheimwissen. Wer sagt, für wen der Text ist, welchen Umfang er haben soll und was auf keinen Fall hinein darf, bekommt spürbar bessere Ergebnisse.
Mehr dazu: KI-Workshop für Teams
Risiken
Halluzination
Von Halluzination spricht man, wenn eine KI falsche Fakten, Zahlen oder Quellen erfindet und sie überzeugend präsentiert. Das ist kein seltener Fehler, sondern eine Folge davon, wie Sprachmodelle funktionieren.
In der Praxis: Deshalb gilt: Ergebnisse prüfen, bevor sie beim Kunden landen – besonders bei Zahlen, Rechtsfragen und Zitaten.
Mehr dazu: KI-Kompetenz im Team
Risiken
Schatten-KI
Schatten-KI ist die Nutzung von KI-Werkzeugen ohne Wissen oder Freigabe des Unternehmens – oft mit privaten Konten. Sie entsteht meist nicht aus böser Absicht, sondern weil es keine Regeln und keine freigegebenen Werkzeuge gibt.
In der Praxis: Verbote helfen selten. Besser sind freigegebene Werkzeuge, einfache Spielregeln und eine Schulung, die zeigt, wie es richtig geht.
Mehr dazu: KI-Kompetenz-Paket · KI-Reifegrad-Check
Regeln
KI-Richtlinie
Eine KI-Richtlinie legt fest, welche KI-Werkzeuge im Unternehmen erlaubt sind, welche Daten hinein dürfen, wer Ergebnisse prüft und wer Ansprechpartner ist. Für den Anfang reicht oft eine Seite.
In der Praxis: Die Richtlinie ist kein Selbstzweck: Sie gibt dem Team Sicherheit und macht aus vielen Einzelversuchen eine gemeinsame Linie.
Regeln
KI-Kompetenz (Art. 4 AI Act)
KI-Kompetenz bezeichnet das Wissen und die Fähigkeiten, KI-Systeme sachkundig einzusetzen und ihre Chancen und Risiken einzuschätzen. Artikel 4 des EU AI Act verlangt seit Februar 2025, dass Unternehmen sich darum kümmern; seit dem „Digital Omnibus“ vom 27. Juli 2026 müssen sie die KI-Kompetenz ihrer Mitarbeitenden fördern, aber kein bestimmtes Niveau garantieren.
In der Praxis: Pragmatisch heißt das: eine passende Schulung, einfache Spielregeln und eine kurze Dokumentation, wer wann teilgenommen hat. Keine Rechtsberatung – im Zweifel fragen Sie Ihre Rechtsberatung.
Mehr dazu: KI-Kompetenz im Team aufbauen
Regeln
EU AI Act (KI-Verordnung)
Der EU AI Act ist die europäische Verordnung für künstliche Intelligenz. Er ordnet KI-Systeme nach Risiko ein und stellt für Hochrisiko-Anwendungen – etwa in Personalauswahl oder Kreditvergabe – strenge Anforderungen.
In der Praxis: Für die meisten Büroanwendungen im Mittelstand, etwa Texte, Zusammenfassungen oder Recherche, ist vor allem die Pflicht zur KI-Kompetenz relevant – kein Grund zur Panik.
Mehr dazu: Was der AI Act verlangt
Regeln
Datenschutz bei KI-Werkzeugen
Sobald personenbezogene Daten oder Geschäftsgeheimnisse in ein KI-Werkzeug gelangen, gelten DSGVO und Vertraulichkeit. Entscheidend ist, ob der Anbieter die Eingaben zum Training nutzt, wo die Daten verarbeitet werden und ob ein Auftragsverarbeitungsvertrag (AVV) besteht.
In der Praxis: Faustregel für den Alltag: Business-Versionen mit AVV nutzen, keine Kundendaten in private Konten, und im Zweifel anonymisieren.
Mehr dazu: KI-Workshop: DSGVO-konform arbeiten
Anwendung
KI-Agent
Ein KI-Agent erledigt nicht nur eine einzelne Antwort, sondern mehrere Schritte selbstständig – etwa recherchieren, eine Tabelle füllen und eine E-Mail entwerfen. Dafür bekommt er Zugriff auf Werkzeuge wie Kalender, Dateien oder Shopsysteme.
In der Praxis: Agenten sparen viel Zeit, brauchen aber klare Grenzen: Was darf der Agent selbst tun, und was muss ein Mensch freigeben?
Anwendung
RAG (Retrieval Augmented Generation)
Bei RAG sucht die KI vor der Antwort in Ihren eigenen Unterlagen – etwa Handbüchern, Preislisten oder FAQ – und stützt sich darauf. So antwortet sie auf Basis Ihres Wissens statt nur aus ihren Trainingsdaten.
In der Praxis: Typische Einsätze sind interne Wissensdatenbanken und Kundenservice. Die Qualität hängt stark davon ab, wie aktuell und sauber die Unterlagen sind.
Strategie
KI-Reifegrad
Der KI-Reifegrad beschreibt, wie weit ein Unternehmen beim Einsatz von KI ist. Ich unterscheide vier Stufen: Ausprobieren, Regeln, Anwenden und Verankern.
In der Praxis: Die meisten mittelständischen Unternehmen stehen zwischen der ersten und der zweiten Stufe – ein guter Ausgangspunkt für einen Fahrplan.
Mehr dazu: KI-Selbstcheck (5 Minuten, kostenlos) · KI-Reifegrad-Check · KI-Strategie: Fahrplan statt Strategiepapier
Ein Begriff fehlt – oder Sie wollen wissen, was er für Ihr Unternehmen heißt?
30 Minuten, kostenfrei und unverbindlich. Sie schildern, wo Sie stehen – ich sage Ihnen ehrlich, ob und wie ich helfen kann.