Das Problem ist nicht die KI. Es ist die Art, wie man sie einsetzt

Viele italienische KMU haben im letzten Jahr begonnen, generative KI-Tools zu nutzen. Das ist nachvollziehbar: Die Kosten sind gering, die Lernkurve ist flach und die betrieblichen Vorteile zeigen sich schnell.

Das Problem ist nicht die Einführung an sich. Es ist, dass sie häufig ohne schriftliche Regeln, ohne dedizierte Unternehmensaccounts und ohne die Frage erfolgt, welche Daten in den Prompts landen.

Stellen Sie sich vor, ein Buchhalter kopiert in ChatGPT eine Excel-Tabelle mit Namen, Steuernummern und Gehältern, um Hilfe bei einer Formel zu erhalten. Aus Sicht der DSGVO kann diese Handlung eine Übermittlung personenbezogener Daten an einen externen Dienst ohne Rechtsgrundlage darstellen. Aus Sicht des AI Act ist das Unternehmen bereits außerhalb des Rahmens der Mindestanforderungen, wenn es nicht einmal geprüft hat, welche Art von System es verwendet.

Das ist kein Extremfall. Das ist der Normalfall.

Der Rechtsrahmen 2026: zwei Verordnungen, ein Problem

Ab dem 2. August 2026 ist die Verordnung (EU) 2024/1689 — AI Act vollständig in Kraft. Die Aufsichtsbehörden haben volle Kontroll- und Sanktionsbefugnisse.

Der AI Act ersetzt die DSGVO nicht. Wenn ein KI-System personenbezogene Daten verarbeitet — und das tut es fast immer — gelten beide Verordnungen, jede mit ihren eigenen Anforderungen und Pflichten.

Die DSGVO fragt: Dürfen diese Daten verarbeitet werden? Der AI Act fragt: Darf dieses System verwendet werden, und mit welchen Vorsichtsmaßnahmen? Das sind unterschiedliche Fragen. Beide müssen gestellt werden.

Die Bußgelder des AI Act für schwerwiegende Verstöße können bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes betragen. Bei KMU gilt der jeweils niedrigere Wert, aber eine Ausnahme von den Pflichten gibt es nicht: Transparenz und Personalschulung gelten für alle, unabhängig von der Unternehmensgröße.

Es lohnt sich, das zu betonen: Die Pflichten betreffen auch jene, die KI nur verwenden, ohne sie zu entwickeln. Man muss kein Softwareunternehmen sein, um in den Geltungsbereich der Verordnung zu fallen.

Shadow AI: Das Risiko, das bereits in Ihrem Unternehmen existiert

Die Daten des Observatoriums Künstliche Intelligenz des Polytechnikums Mailand 2026 zeigen, dass nur 19 % der Nutzer ausschließlich vom Unternehmen genehmigte KI-Tools verwenden.

Alle anderen — 81 % — nutzen private Accounts, kostenlose Consumer-Versionen oder vom Unternehmen nicht freigegebene Dienste. Dieses Phänomen nennt sich Shadow AI.

Das konkrete Problem: Ein privater Account bei einem externen KI-Dienst unterliegt anderen Nutzungsbedingungen als ein Unternehmensvertrag. Die eingegebenen Daten können zum Training der Modelle verwendet werden. Es gibt kein Data Processing Agreement. Es gibt keine Nachvollziehbarkeit, wer was getan hat.

Im Falle einer Prüfung durch die Datenschutzbehörde — der Prüfplan 2026 schließt ausdrücklich den Einsatz von KI-Tools im Unternehmen ein — wird genau diese Nachvollziehbarkeit benötigt.

Die Mindestmaßnahmen zur Eindämmung des Shadow-AI-Risikos sind einfach und nicht kostspielig:

  • Unternehmensaccounts für die genehmigten KI-Tools bereitstellen, mit Verträgen, die ein Data Processing Agreement enthalten.
  • Eine interne Nutzungsrichtlinie schreiben: kurz, klar, von den Mitarbeitenden unterzeichnet. Es braucht kein 40-seitiges Dokument.
  • Ausdrücklich angeben, welche Datenkategorien niemals in einen Prompt eingegeben werden dürfen: personenbezogene Daten von Kunden, Verträge, Gehaltsabrechnungen, Zugangsdaten.
  • Eine interne Ansprechperson benennen — auch informell —, die ein Verzeichnis der im Einsatz befindlichen KI-Tools führt.

Schulung ist seit Februar 2025 eine gesetzliche Pflicht

Artikel 4 des AI Act — anwendbar ab dem 2. Februar 2025 — verpflichtet alle, die KI-Systeme einsetzen, ein ausreichendes Maß an KI-Kompetenz beim eigenen Personal sicherzustellen.

Eine offizielle Zertifizierung ist nicht erforderlich. Erforderlich ist die Fähigkeit, nachzuweisen, dass die Schulung stattgefunden hat: Kursprogramm, Teilnahmeliste, Bescheinigungen.

Das Prinzip ist dasselbe wie bei der Rechenschaftspflicht der DSGVO: Es reicht nicht, die Dinge richtig zu machen — man muss beweisen können, dass man sie getan hat.

Was soll die Schulung abdecken? Mindestens diese Punkte:

  • Wie die wichtigsten im Unternehmen eingesetzten KI-Tools funktionieren.
  • Was Halluzinationen sind und warum die Ausgabe eines Modells niemals ungeprüft übernommen werden sollte.
  • Welche Daten nicht in Prompts eingegeben werden dürfen und warum.
  • Die unternehmensinternen Regeln für den Einsatz von KI-Tools.

Eine gut strukturierte Einheit von zwei Stunden deckt bereits die meisten dieser Punkte für ein nicht-technisches Team ab.

Wo anfangen: Die drei vorrangigen Maßnahmen für ein KMU

Die KI-Governance in italienischen KMU ist noch sehr fragil. Laut Daten, die Confindustria in einem Papier vom Februar 2026 zitiert, hat mehr als 60 % der KMU, die regelmäßig generative KI-Tools einsetzen, noch keinen strukturierten Anpassungsprozess eingeleitet.

Es braucht kein riesiges Projekt als Ausgangspunkt. Es braucht einen festen Ausgangspunkt.

Drei konkrete Maßnahmen, nach Priorität geordnet:

  1. Die im Einsatz befindlichen KI-Tools erfassen. Welche Tools nutzt das Team, auf welchen Accounts, für welche Tätigkeiten? Ohne diese Liste ist jeder weitere Schritt blind.
  2. Die Verträge prüfen. Haben die unternehmensinternen KI-Tools ein unterzeichnetes Data Processing Agreement? Wenn die Antwort Nein lautet — oder man es nicht weiß — ist das das erste Problem, das gelöst werden muss.
  3. Das Personal schulen. Nicht mit einem allgemeinen KI-Webinar, sondern mit einem auf die Rollen und die tatsächlich im Unternehmen genutzten Tools ausgerichteten Kurs, mit entsprechender Dokumentation.

Diese drei Schritte lösen nicht alles. Sie beseitigen die unmittelbarsten Schwachstellen — jene, die bei einer Prüfung als Erstes auffallen.

Der Rest — Klassifizierung der KI-Systeme nach Risikoniveau, Folgenabschätzungen, Aktualisierung des DSGVO-Verarbeitungsverzeichnisses — kommt danach, aufgebaut auf einer soliden Grundlage.

KI ist ein nützliches Werkzeug. Es falsch einzusetzen ist jedoch nicht nur ein technisches Risiko: Es ist ein rechtliches Risiko, das 2026 mit konkreten Zahlen verbunden ist.