Die KI darf alles. Oder?

Wenn ein Mitarbeiter Bewerber aussortiert, weil ihm Alter, Herkunft oder Geschlecht nicht passen, nennt man das Diskriminierung. Wenn eine Software dasselbe macht, heißt es plötzlich „algorithmische Vorauswahl“.

Wenn ein Autor fremde Texte übernimmt, steht schnell der Vorwurf des Plagiats im Raum. Wenn ein KI-Modell Millionen Bücher, Artikel, Bilder und Websites verarbeitet, nennt man es Training.

Und wenn ein Immobilienmakler Eigenschaften erfindet, die eine Wohnung gar nicht besitzt, hat er ein Problem. Erfindet ein Chatbot eine Antwort, sprechen wir freundlich von einer Halluzination. Klingt fast ein wenig poetisch. Ist aber schlicht falsch.

Darf KI also Dinge, die Menschen verboten sind?

Die juristisch korrekte Antwort lautet: nein. Genau genommen darf eine KI überhaupt nichts. Sie ist weder Bürgerin noch Unternehmen, weder schuldfähig noch haftbar. Sie kann keinen Vertrag unterschreiben, keine Strafe bezahlen und sich auch nicht vor Gericht verantworten. Das Recht richtet sich daher an jene, die KI entwickeln, anbieten oder einsetzen.

Der Unterschied liegt weniger im Gesetz als in der Wahrnehmung. Bei einem Menschen suchen wir einen Verantwortlichen. Bei einer Maschine suchen wir eine technische Erklärung. Der Mensch hat gelogen. Die KI hat halluziniert. Der Mensch hat diskriminiert. Der Algorithmus war nicht sauber trainiert. Der Mensch hat kopiert. Das Modell hat Muster gelernt.

Aus einem Fehlverhalten wird ein Systemfehler. Und damit verdampft die Verantwortung gerne irgendwo zwischen Entwickler, Anbieter, Datenlieferant und Anwender.

Ganz rechtsfrei ist dieser Raum längst nicht mehr. Der europäische AI Act verbietet unter anderem Social Scoring, bestimmte manipulative Anwendungen, das wahllose Absaugen von Gesichtsbildern und die Emotionserkennung am Arbeitsplatz. Menschen müssen außerdem erkennen können, wenn sie mit einer Maschine kommunizieren oder bestimmte KI-generierte Inhalte vor sich haben. Anwendungen bei Personalauswahl, Kreditprüfung oder dem Zugang zu wesentlichen Dienstleistungen gelten als besonders sensibel. Der Computer darf also nicht einfach entscheiden, wer einen Job, einen Kredit oder vielleicht künftig eine Wohnung bekommt, nur weil seine Prozentzahl wichtig aussieht. Der EU Ai Act ist seit August 2026 grundsätzlich anwendbar, auch wenn einzelne Pflichten für Hochrisikosysteme erst später greifen.

Auch beim Datenschutz gilt nicht: Maschine sticht Mensch. Wer personenbezogene Daten durch KI verarbeiten lässt, braucht weiterhin eine Rechtsgrundlage. Vollautomatische Entscheidungen mit erheblichen Folgen sind durch die DSGVO eingeschränkt. Das hat der Europäische Gerichtshof beim Thema Bonitätsscoring deutlich gemacht: Eine mathematisch erzeugte Zahl wird nicht dadurch neutral, dass kein Mensch dabei die Stirn runzelt. 

Beim Urheberrecht bleibt es komplizierter. Text- und Data-Mining kann unter bestimmten Voraussetzungen zulässig sein. Gleichzeitig müssen Anbieter großer KI-Modelle eine Strategie zur Einhaltung des europäischen Urheberrechts verfolgen und Informationen über ihre Trainingsinhalte veröffentlichen. Das ist keine allgemeine Erlaubnis zum digitalen Raubzug. Dennoch bleibt ein gewaltiges Ungleichgewicht: Ein einzelner Mensch könnte niemals in wenigen Wochen das kreative Lebenswerk von Millionen Menschen verarbeiten. Eine Maschine kann es – und bis geklärt ist, ob sie es durfte, ist das Modell längst am Markt.

Das eigentliche Privileg der KI ist daher nicht, dass für sie keine Regeln gelten. Ihr Privileg besteht darin, dass sie selbst niemals die Konsequenzen trägt.

Gerade Unternehmen sollten sich deshalb einen Satz über den Bildschirm hängen: „Die KI hat entschieden“ ist keine Erklärung. Es ist der Versuch, einen Menschen aus der Verantwortung verschwinden zu lassen.

Und darin ist künstliche Intelligenz tatsächlich schon erstaunlich gut.