KI-Glossar

KI-Begriffe – verständlich erklärt für den Mittelstand

Von KI und LLM über Prompting bis zu Art. 4 und Art. 50 EU AI Act: die wichtigsten Begriffe rund um Künstliche Intelligenz – kurz, ehrlich und ohne Beratersprech. Damit Sie mitreden, richtig einordnen und fundiert entscheiden können.

KI-Grundlagen

Künstliche Intelligenz (KI): KI ist ein Sammelbegriff für Computerprogramme, die Muster in Daten erkennen und daraus Texte, Bilder, Einschätzungen oder Entscheidungen ableiten – statt starr einem vorab programmierten Ablauf zu folgen. Für den Mittelstand heißt das praktisch: Routineaufgaben wie Texten, Sortieren, Zusammenfassen oder Recherchieren lassen sich teilweise abgeben. KI ist ein Werkzeug, kein Mitarbeiter – die Verantwortung für das Ergebnis bleibt beim Menschen.
Large Language Model (LLM): Ein Large Language Model ist ein KI-Modell, das auf riesigen Mengen Text trainiert wurde und daraus Sprache versteht und erzeugt. Es sagt im Kern immer das nächste wahrscheinlichste Wort voraus – dadurch wirkt es kompetent, „weiß" aber nichts im menschlichen Sinn und kann sich irren. Bekannte LLMs sind GPT (ChatGPT), Claude und Gemini. Für den Betrieb sind sie stark bei Sprache: formulieren, umschreiben, zusammenfassen, erklären.
Generative KI: Generative KI erstellt neue Inhalte, statt nur bestehende zu sortieren oder zu bewerten. Dazu gehören Texte, Bilder, Präsentationen, Sprachaufnahmen oder Programmcode. Im Mittelstand ist sie am häufigsten im Einsatz: Angebotstexte, Produktbeschreibungen, E-Mail-Entwürfe oder Social-Media-Posts. Wichtig: Ergebnisse immer prüfen und – wo Art. 50 EU AI Act greift – als KI-erzeugt kennzeichnen.
Prompt / Prompting: Ein Prompt ist die Eingabe, mit der Sie eine KI steuern: eine Frage, ein Auftrag oder eine Vorgabe. Die Qualität der Antwort hängt stark davon ab, wie klar Sie Rolle, Ziel, Kontext und gewünschtes Format beschreiben. „Prompting" ist die Fähigkeit, gute Anweisungen zu formulieren – die wichtigste Alltagskompetenz im Umgang mit KI und ein Kernbestandteil von KI-Kompetenz nach Art. 4 EU AI Act.
Halluzination: Als Halluzination bezeichnet man frei erfundene, aber plausibel klingende Aussagen einer KI – etwa erfundene Quellen, Zahlen, Paragraphen oder Namen. Ursache ist die Funktionsweise: das Modell erzeugt wahrscheinliche Formulierungen, keine geprüften Fakten. Deshalb gilt im Betrieb die eiserne Regel: KI-Ergebnisse mit Faktenbezug (Recht, Preise, Zahlen) immer gegenprüfen, bevor sie nach außen gehen.
Maschinelles Lernen (Machine Learning): Maschinelles Lernen ist die Technik hinter den meisten KI-Systemen: Ein Modell wird mit vielen Beispielen trainiert und leitet daraus selbst Muster ab, statt für jede Situation eine feste Regel programmiert zu bekommen. Das macht es stark bei Aufgaben, die sich schlecht in starre Regeln fassen lassen – Sprache, Bilder, Prognosen. Es bedeutet aber auch: Die Qualität hängt an den Trainingsdaten.
Token: Ein Token ist ein Text-Baustein – grob ein Wortteil oder kurzes Wort. KI-Modelle zerlegen jede Ein- und Ausgabe in Token; als Faustregel entsprechen 1.000 Token etwa 750 deutschen Wörtern. Für Unternehmen ist das relevant, weil viele KI-Dienste nach Token abrechnen und weil jedes Modell ein Limit hat, wie viele Token es auf einmal verarbeiten kann (Kontextfenster).
Fine-Tuning: Beim Fine-Tuning wird ein bestehendes KI-Modell mit zusätzlichen, meist eigenen Beispieldaten weitertrainiert, damit es einen bestimmten Stil, ein Fachgebiet oder eine Aufgabe besser trifft. Für die meisten KMU ist das selten der erste Schritt – oft reichen gute Prompts und das Bereitstellen von Kontext (siehe RAG) völlig aus und sind deutlich günstiger und einfacher.
RAG (Retrieval-Augmented Generation): RAG kombiniert ein Sprachmodell mit einer Suche in Ihren eigenen Unterlagen: Zu einer Frage werden zuerst passende Textstellen aus Ihren Dokumenten herausgesucht und dann der KI als Grundlage für die Antwort mitgegeben. So antwortet die KI auf Basis Ihres Wissens (Handbücher, Angebote, Richtlinien) statt aus dem allgemeinen Training – das reduziert Halluzinationen und ist ein häufiger, praxistauglicher KMU-Einstieg.
KI-Agent: Ein KI-Agent löst eine Aufgabe in mehreren Schritten weitgehend selbstständig – er plant, nutzt Werkzeuge (z. B. Suche, E-Mail, Kalender) und arbeitet ein Ziel ab, statt nur eine einzelne Frage zu beantworten. Das Potenzial ist groß, aber auch das Risiko: Wo eine KI eigenständig handelt, braucht es klare Grenzen, Freigaben und Kontrolle. Für die meisten Betriebe ist das ein Thema für später, nicht für den Einstieg.

Recht & EU AI Act

EU AI Act: Der EU AI Act (Verordnung (EU) 2024/1689) ist das erste umfassende KI-Gesetz der EU. Er ordnet KI nach Risiko und knüpft daran Pflichten – von unbedenklich bis verboten. Er gilt schrittweise und betrifft ausdrücklich auch kleine und mittlere Unternehmen, die KI nur nutzen. Für den Mittelstand am wichtigsten sind zwei Regeln: die KI-Kompetenz-Pflicht (Art. 4) und die Kennzeichnungspflicht (Art. 50). Dies ist keine Rechtsberatung, sondern praktische Orientierung.
KI-Kompetenz-Pflicht (Art. 4 EU AI Act): Art. 4 verpflichtet Anbieter und Betreiber von KI-Systemen, für ausreichende KI-Kompetenz ihres Personals zu sorgen – passend zu Rolle, Vorwissen und Einsatz. Die Pflicht gilt seit dem 2. Februar 2025 und greift schon bei alltäglicher Nutzung wie ChatGPT oder Copilot; durchgesetzt wird sie ab dem 2. August 2026. Ein Zertifikat ist nicht vorgeschrieben, aber die Kompetenz sollte belegbar sein: wer wurde wann wozu befähigt. Genau hier setzt der KI-Führerschein von KI-Kompass an.
Kennzeichnungspflicht (Art. 50 EU AI Act): Art. 50 verlangt Transparenz: Menschen müssen erkennen können, wann sie mit einer KI sprechen (z. B. einem Chatbot) und wann sie KI-erzeugte oder -manipulierte Inhalte sehen. Synthetische Bilder, Audios, Videos und Texte sind entsprechend zu kennzeichnen. Die Pflicht gilt ab dem 2. August 2026. Es gibt Ausnahmen – etwa wenn die KI-Nutzung offensichtlich ist oder Texte unter menschlicher redaktioneller Verantwortung stehen. Verstöße können teuer werden (bis 15 Mio. € oder 3 % des weltweiten Jahresumsatzes).
Hochrisiko-KI: Der EU AI Act stuft bestimmte Einsatzfelder als „hochriskant" ein, etwa KI bei Personalauswahl, Kreditvergabe, kritischer Infrastruktur oder in sicherheitsrelevanten Produkten. Für solche Systeme gelten strenge Pflichten (Risikomanagement, Dokumentation, menschliche Aufsicht). Die typische KMU-Nutzung – Texte schreiben, zusammenfassen, recherchieren – fällt in der Regel nicht darunter. Wer aber KI in sensiblen Entscheidungen einsetzt, sollte genau hinsehen.
KI & DSGVO: Der EU AI Act ersetzt nicht die DSGVO, er kommt obendrauf. Sobald Sie personenbezogene Daten (Kundennamen, Bewerbungen, Gesundheitsdaten) in ein KI-Tool geben, gelten die DSGVO-Grundsätze: Rechtsgrundlage, Zweckbindung, Datensparsamkeit. Praktisch heißt das: keine sensiblen oder personenbezogenen Daten in unkontrollierte KI-Dienste kopieren, auf den Serverstandort und Auftragsverarbeitungsverträge achten und im Zweifel anonymisieren.

Praxis im Betrieb

KI-Readiness: KI-Readiness beschreibt den Reifegrad eines Unternehmens für Künstliche Intelligenz – über Technik hinaus: Wo gibt es sinnvolle Anwendungsfälle, wie ist die Datenlage, wie offen ist das Team, welche rechtlichen Grundlagen fehlen noch? Der kostenlose KI-Readiness-Check von KI-Kompass macht diesen Stand in 12 Fragen sichtbar und zeigt konkrete erste Hebel – ohne IT-Wissen und ohne Beratersprech.
Automatisierung: Automatisierung bedeutet, wiederkehrende Arbeitsschritte durch Software auszuführen. In Kombination mit KI lassen sich auch Aufgaben automatisieren, die bisher menschliche Einschätzung brauchten – etwa E-Mails vorsortieren, Angebote vorbereiten oder Daten aus Dokumenten übernehmen. Der größte Nutzen im Mittelstand entsteht meist nicht durch spektakuläre KI, sondern durch das konsequente Automatisieren kleiner, häufiger Zeitfresser.
Copilot / KI-Assistent: Ein Copilot oder KI-Assistent ist KI, die direkt in bekannte Programme eingebettet ist und dort unterstützt – etwa beim Schreiben in Word/Outlook, beim Rechnen in Excel oder in Branchensoftware. Der Mensch bleibt am Steuer, die KI schlägt vor. Für viele KMU ist das der niedrigschwelligste Einstieg, weil keine neue Insellösung nötig ist. Auch hier gilt: Vorschläge prüfen, nicht blind übernehmen.
Use Case (Anwendungsfall): Ein Use Case ist ein klar umrissener Anwendungsfall: eine konkrete Aufgabe, bei der KI messbar Zeit oder Geld spart – zum Beispiel „Angebotstexte in der Hälfte der Zeit erstellen" oder „Kundenanfragen vorsortieren". Erfolgreiche KI-Einführung beginnt nicht mit der Technik, sondern mit ein bis zwei guten Use Cases. Genau die zu finden, ist Kern des 3-Phasen-Ansatzes von KI-Kompass: Klarheit schaffen, Hebel finden, umsetzen.
KI-Governance (Spielregeln): KI-Governance sind die internen Spielregeln für den Umgang mit KI: Welche Tools sind erlaubt, welche Daten dürfen hinein, wer prüft Ergebnisse, wie wird gekennzeichnet? Schon eine einfache, verständliche KI-Richtlinie schafft Sicherheit im Team, verhindert Datenschutz-Pannen und ist zugleich ein Baustein der KI-Kompetenz nach Art. 4. Sie muss nicht dick sein – sie muss gelebt werden.

Von der Theorie zur Praxis

Sie wissen jetzt, worüber alle reden. Finden Sie in 12 Fragen heraus, wo KI in Ihrem Betrieb wirklich Zeit und Geld spart – oder machen Sie Ihr Team mit dem KI-Führerschein fit für die Kompetenz-Pflicht nach Art. 4 EU AI Act.

Kostenlosen KI-Check starten KI-Führerschein ansehen