KI-Washing: Woran man Produkte erkennt, die KI nur im Namen haben

KI-Washing erkennen Sie daran, dass ein Anbieter KI verspricht, aber weder Modell noch Daten noch Messwerte nennt. Ein Produkt mit echter KI lässt sich benennen: Es gibt eine Aufgabe, die das Modell löst, Daten, mit denen es arbeitet, eine Kennzahl, an der seine Qualität gemessen wird, und einen Test mit Ihren eigenen Daten. Fehlt einer dieser Punkte, handelt es sich um ein Versprechen, das Sie vor dem Kauf belegen lassen sollten.

Seit ChatGPT im November 2022 erschien, führen Produktseiten und Präsentationen sowie Angebote das Wort KI häufig im Titel. Dieser Beitrag zeigt, wie Entscheider Aussagen von Anbietern prüfen, welche Warnsignale es gibt und wie ein Pilot aufgebaut ist, der das Versprechen mit eigenen Daten belegt. Dieser Beitrag gibt einen Überblick und ersetzt keine Rechtsberatung.

Was bedeutet KI-Washing?

KI-Washing bezeichnet Marketing, das Produkten oder Leistungen künstliche Intelligenz zuschreibt, obwohl sie diese gar nicht oder nur in einem unwesentlichen Teil einsetzen. Der Begriff ist an das „Greenwashing“ angelehnt. Das Muster ist älter als die aktuelle Welle: 1770 führte Wolfgang von Kempelen den „Schachtürken“ vor, einen angeblichen Schachautomaten, in dem ein verborgener Mensch die Züge ausführte. Das moderne Gegenstück ist ein Produkt, dessen Ergebnisse Beschäftigte im Hintergrund von Hand erzeugen oder dessen „intelligente“ Funktion aus festen Regeln besteht.

Das Problem reicht über ein Ärgernis im Einkauf hinaus. Im März 2024 gab die US-Börsenaufsicht SEC bekannt, dass zwei Anlageberater, nämlich Delphia und Global Predictions, wegen falscher und irreführender Aussagen zu ihrem KI-Einsatz in einem Vergleich Geldstrafen von 225.000 und 175.000 US-Dollar akzeptiert hatten. Die amerikanische Handelsbehörde FTC hatte bereits im Februar 2023 in einem Hinweis an Unternehmen darauf aufmerksam gemacht, dass Aussagen über KI belegbar sein müssen. Die Behörden behandeln überzogene KI-Versprechen wie jedes andere Werbeversprechen: Sie müssen stimmen. Für Käufer folgt daraus ein praktischer Schluss. Wer ein Produkt wegen seiner KI-Funktion beschafft, sollte diese Funktion vor dem Vertragsschluss belegt bekommen.

Warum ist KI-Washing so verbreitet?

KI-Washing ist verbreitet, weil der Begriff keine scharfe Grenze hat, Käufer die Technik von außen schlecht beurteilen können und der Erwartungsdruck im eigenen Unternehmen Nachfrage nach „irgendetwas mit KI“ erzeugt. Vom einfachen Regelwerk über statistische Verfahren bis zum großen Sprachmodell wird vieles so genannt, und ein Etikett kostet den Anbieter weniger als die Entwicklung eines Modells. Wie der Erwartungsdruck entsteht, beschreibt der Beitrag zum Druck, KI einzusetzen. Wie sich Erwartungen im Zeitverlauf entwickeln, zeigt der Beitrag zum Hype-Zyklus.

Woran erkennt man Produkte, die KI nur im Namen haben?

Sie erkennen sie an vier Mustern: Der Anbieter bleibt bei der Technik unkonkret, nennt keine Messwerte, verweigert einen Test mit Ihren Daten oder zeigt eine Demonstration, die sich nicht auf Ihren Fall übertragen lässt. Hinzu kommen Aussagen, die für lernende Systeme untypisch sind.

Der Zusammenhang mit gemessener Qualität verdient eine nähere Betrachtung. Ein Modell lässt sich nur beurteilen, wenn Sie wissen, woran Qualität gemessen wird. Bei einer Klassifikation sind das etwa der Anteil richtiger Zuordnungen und der Anteil übersehener Fälle, bei einem Sprachmodell die Bewertung einer Stichprobe von Antworten durch Fachleute aus dem Bereich. Eine einzelne Prozentzahl ohne Messbasis sagt wenig, denn sie schwankt mit der Schwierigkeit der Testfälle. Der Beitrag zur Prüfung von KI-Erfolgsgeschichten zeigt dasselbe Vorgehen für Fallstudien.

Muss ein Produkt maschinelles Lernen enthalten, um nützlich zu sein?

Nein, ein nützliches Produkt muss kein maschinelles Lernen enthalten, und ein Regelwerk kann die bessere Lösung sein, wenn die Aufgabe stabil und die Regeln bekannt sind. Entscheidend ist die Ehrlichkeit der Bezeichnung und der Nutzen für Ihren Prozess. Ein Regelwerk ist nachvollziehbar, günstig im Betrieb und verhält sich vorhersehbar. Ein lernendes Modell hat dort Vorteile, wo Regeln sich nicht aufschreiben lassen, etwa bei freiem Text, Bildern oder vielen Ausnahmen.

Für Ihre Entscheidung zählt deshalb die Frage, welche Technik zur Aufgabe passt. Ein Anbieter, der klar sagt „Das ist ein Regelwerk mit einer Texterkennung davor“, ist ein besserer Partner als einer, der unscharf von KI spricht. Wer so argumentiert, lässt sich prüfen, und das ist die Grundlage für einen belastbaren Business Case.

Wie prüft man ein KI-Versprechen mit einem Pilot?

Ein KI-Versprechen prüfen Sie mit einem Pilot an Ihren eigenen Daten, mit einer vorab festgelegten Kennzahl und mit Kriterien, die über Fortsetzung oder Abbruch entscheiden. Der Pilot ist ein wirksamer Schutz, weil er die Beweislast zum Anbieter verschiebt.

1. Aufgabe festlegen: Welcher konkrete Ablauf soll sich verbessern, und welcher Wert gilt heute?
2. Testdaten bereitstellen: Eine Stichprobe aus dem echten Betrieb, einschließlich der schwierigen Fälle, mit bekannten richtigen Ergebnissen, die der Anbieter vorher nicht kennt.
3. Kennzahl und Schwelle festlegen: Ab welchem Ergebnis ist der Pilot bestanden, etwa Trefferquote, Zeitersparnis oder Anteil der Fälle ohne Nacharbeit?
4. Durchführung: Der Anbieter verarbeitet die Testdaten, und Fachleute aus dem Bereich bewerten die Ergebnisse.
5. Entscheidung: Besteht das Produkt, folgt die Einführung. Besteht es nicht, endet der Pilot, ohne dass eine Verpflichtung entsteht.

Der Aufwand ist überschaubar, weil die Messung nach einer Vorbereitung rasch gelingt. Der Beitrag zum Hype um ChatGPT im Unternehmen zeigt, wie sich dieses Muster auf Sprachmodelle übertragen lässt.

KI-Washing erkennen mit Niehues Consulting

Niehues Consulting ist eine Beratung für KI-Management und Organisationsdesign aus der Lieferperspektive mit Sitz in Düsseldorf. Im Leistungsfeld KI-Management gehören Business Analysis und Anforderungen, der Business Case und die Auswahl und Reihenfolge der Anwendungen zur Arbeit, ebenso die Prüfung von Anbietern gegen die Anforderungen des Betriebs. Gründer Marin Niehues bringt KI in den Betrieb, in Projekten von VC-finanzierten Scaleups bis zu DAX-40-Konzernen und in über 20 Ländern auf sechs Kontinenten.

Das Vorgehen folgt dem Niehues Delivery Model. Für die Beschaffung von KI-Produkten zählen drei Prüffragen: Welches Geschäftsergebnis soll sich messbar verändern? Beweist der Prototyp den Nutzen im echten Ablauf mit echten Daten? Ist der Business Case mit realen Werten bestätigt? Umfang und Konditionen eines Vorhabens werden in der kostenfreien Erstberatung besprochen, die Sie über den Kontakt vereinbaren.