# KI-Washing: Woran man Produkte erkennt, die KI nur im Namen haben Autor: Marin Niehues, Niehues Consulting · Veröffentlicht: 2024-04-22 · KI-Strategie & Business Case Quelle: https://www.niehuesconsulting.de/blog/ki-washing-woran-man-produkte-erkennt/ KI-Washing erkennen Sie daran, dass ein Anbieter KI verspricht, aber weder Modell noch Daten noch Messwerte nennt. Ein Produkt mit echter KI lässt sich benennen: Es gibt eine Aufgabe, die das Modell löst, Daten, mit denen es arbeitet, eine Kennzahl, an der seine Qualität gemessen wird, und einen Test mit Ihren eigenen Daten. Fehlt einer dieser Punkte, handelt es sich um ein Versprechen, das Sie vor dem Kauf belegen lassen sollten. Seit ChatGPT im November 2022 erschien, führen Produktseiten und Präsentationen sowie Angebote das Wort KI häufig im Titel. Dieser Beitrag zeigt, wie Entscheider Aussagen von Anbietern prüfen, welche Warnsignale es gibt und wie ein Pilot aufgebaut ist, der das Versprechen mit eigenen Daten belegt. Dieser Beitrag gibt einen Überblick und ersetzt keine Rechtsberatung. **Ein KI-Versprechen gilt erst, wenn der Anbieter Aufgabe, Datengrundlage und Messwert benennt und das Produkt an Ihren Daten besteht. Der Name des Produkts beweist nichts.** ## Was bedeutet KI-Washing? KI-Washing bezeichnet Marketing, das Produkten oder Leistungen künstliche Intelligenz zuschreibt, obwohl sie diese gar nicht oder nur in einem unwesentlichen Teil einsetzen. Der Begriff ist an das „Greenwashing“ angelehnt. Das Muster ist älter als die aktuelle Welle: 1770 führte Wolfgang von Kempelen den „Schachtürken“ vor, einen angeblichen Schachautomaten, in dem ein verborgener Mensch die Züge ausführte. Das moderne Gegenstück ist ein Produkt, dessen Ergebnisse Beschäftigte im Hintergrund von Hand erzeugen oder dessen „intelligente“ Funktion aus festen Regeln besteht. Das Problem reicht über ein Ärgernis im Einkauf hinaus. Im März 2024 gab die US-Börsenaufsicht SEC bekannt, dass zwei Anlageberater, nämlich Delphia und Global Predictions, wegen falscher und irreführender Aussagen zu ihrem KI-Einsatz in einem Vergleich Geldstrafen von 225.000 und 175.000 US-Dollar akzeptiert hatten. Die amerikanische Handelsbehörde FTC hatte bereits im Februar 2023 in einem Hinweis an Unternehmen darauf aufmerksam gemacht, dass Aussagen über KI belegbar sein müssen. Die Behörden behandeln überzogene KI-Versprechen wie jedes andere Werbeversprechen: Sie müssen stimmen. Für Käufer folgt daraus ein praktischer Schluss. Wer ein Produkt wegen seiner KI-Funktion beschafft, sollte diese Funktion vor dem Vertragsschluss belegt bekommen. ## Warum ist KI-Washing so verbreitet? KI-Washing ist verbreitet, weil der Begriff keine scharfe Grenze hat, Käufer die Technik von außen schlecht beurteilen können und der Erwartungsdruck im eigenen Unternehmen Nachfrage nach „irgendetwas mit KI“ erzeugt. Vom einfachen Regelwerk über statistische Verfahren bis zum großen Sprachmodell wird vieles so genannt, und ein Etikett kostet den Anbieter weniger als die Entwicklung eines Modells. Wie der Erwartungsdruck entsteht, beschreibt der Beitrag zum [Druck, KI einzusetzen](/blog/ki-fomo-unternehmen-angst-verpassen-falsch/). Wie sich Erwartungen im Zeitverlauf entwickeln, zeigt der Beitrag zum [Hype-Zyklus](/blog/ki-hype-zyklus/). ## Woran erkennt man Produkte, die KI nur im Namen haben? Sie erkennen sie an vier Mustern: Der Anbieter bleibt bei der Technik unkonkret, nennt keine Messwerte, verweigert einen Test mit Ihren Daten oder zeigt eine Demonstration, die sich nicht auf Ihren Fall übertragen lässt. Hinzu kommen Aussagen, die für lernende Systeme untypisch sind. **Warnsignale im Anbietergespräch** Warnsignal | Was dahinterstecken kann | Rückfrage „Unsere KI erledigt das automatisch“ ohne Details | Festes Regelwerk oder manuelle Nacharbeit | Welche Aufgabe löst das Modell, und was passiert, wenn es unsicher ist? Keine Angabe zu Modell und Daten | Zugekaufte Standardkomponente ohne eigene Entwicklung | Welches Modell läuft, womit wurde es angepasst, wo liegen die Daten? Genauigkeit „über 95 Prozent“ ohne Messbasis | Messung an leichten Beispielen oder auf Trainingsdaten | An welchen Daten und mit welcher Kennzahl wurde gemessen? Demonstration mit vorbereiteten Beispielen | Beispiele wurden ausgewählt | Können wir mit eigenen Daten eine Stunde testen? Kein Weg für Fehlerfälle | Menschliche Prüfung im Hintergrund | Wie viel Prozent der Fälle prüfen Menschen, und wer sind sie? Der Preis steigt mit der Bezeichnung KI | Aufschlag für ein Etikett | Was kostet die gleiche Funktion ohne die KI-Komponente? Der Zusammenhang mit gemessener Qualität verdient eine nähere Betrachtung. Ein Modell lässt sich nur beurteilen, wenn Sie wissen, woran Qualität gemessen wird. Bei einer Klassifikation sind das etwa der Anteil richtiger Zuordnungen und der Anteil übersehener Fälle, bei einem Sprachmodell die Bewertung einer Stichprobe von Antworten durch Fachleute aus dem Bereich. Eine einzelne Prozentzahl ohne Messbasis sagt wenig, denn sie schwankt mit der Schwierigkeit der Testfälle. Der Beitrag zur [Prüfung von KI-Erfolgsgeschichten](/blog/ki-erfolgsgeschichten-pruefen/) zeigt dasselbe Vorgehen für Fallstudien. ## Muss ein Produkt maschinelles Lernen enthalten, um nützlich zu sein? Nein, ein nützliches Produkt muss kein maschinelles Lernen enthalten, und ein Regelwerk kann die bessere Lösung sein, wenn die Aufgabe stabil und die Regeln bekannt sind. Entscheidend ist die Ehrlichkeit der Bezeichnung und der Nutzen für Ihren Prozess. Ein Regelwerk ist nachvollziehbar, günstig im Betrieb und verhält sich vorhersehbar. Ein lernendes Modell hat dort Vorteile, wo Regeln sich nicht aufschreiben lassen, etwa bei freiem Text, Bildern oder vielen Ausnahmen. Für Ihre Entscheidung zählt deshalb die Frage, welche Technik zur Aufgabe passt. Ein Anbieter, der klar sagt „Das ist ein Regelwerk mit einer Texterkennung davor“, ist ein besserer Partner als einer, der unscharf von KI spricht. Wer so argumentiert, lässt sich prüfen, und das ist die Grundlage für einen belastbaren Business Case. ## Wie prüft man ein KI-Versprechen mit einem Pilot? Ein KI-Versprechen prüfen Sie mit einem Pilot an Ihren eigenen Daten, mit einer vorab festgelegten Kennzahl und mit Kriterien, die über Fortsetzung oder Abbruch entscheiden. Der Pilot ist ein wirksamer Schutz, weil er die Beweislast zum Anbieter verschiebt. 1. Aufgabe festlegen: Welcher konkrete Ablauf soll sich verbessern, und welcher Wert gilt heute? 2. Testdaten bereitstellen: Eine Stichprobe aus dem echten Betrieb, einschließlich der schwierigen Fälle, mit bekannten richtigen Ergebnissen, die der Anbieter vorher nicht kennt. 3. Kennzahl und Schwelle festlegen: Ab welchem Ergebnis ist der Pilot bestanden, etwa Trefferquote, Zeitersparnis oder Anteil der Fälle ohne Nacharbeit? 4. Durchführung: Der Anbieter verarbeitet die Testdaten, und Fachleute aus dem Bereich bewerten die Ergebnisse. 5. Entscheidung: Besteht das Produkt, folgt die Einführung. Besteht es nicht, endet der Pilot, ohne dass eine Verpflichtung entsteht. Der Aufwand ist überschaubar, weil die Messung nach einer Vorbereitung rasch gelingt. Der Beitrag zum [Hype um ChatGPT im Unternehmen](/blog/chatgpt-unternehmen-jahr-hype-nuechtern-betrachtet/) zeigt, wie sich dieses Muster auf Sprachmodelle übertragen lässt. **Zehn Prüffragen an Anbieter mit KI-Versprechen** Frage | Gute Antwort | Warnsignal Welche Aufgabe löst die KI? | Konkreter Ablauf mit Ein- und Ausgabe | Allgemeine Beschreibung Welche Technik steckt dahinter? | Modellart und Herkunft werden genannt | Ausweichen auf Betriebsgeheimnis Womit wurde das Modell trainiert oder angepasst? | Datenart und Umfang | Keine Angabe Wie wird Qualität gemessen? | Kennzahl, Testdaten, Ergebnis | Eine Prozentzahl ohne Messbasis Wie verhält sich das System bei Fehlern? | Dokumentierter Weg mit menschlicher Prüfung | Es macht keine Fehler Welche Daten verlassen unser Haus? | Klare Auskunft über Speicherort und Verarbeitung | Unklare Antwort Können wir mit eigenen Daten testen? | Ja, vor dem Vertrag | Nur Demonstration Was passiert ohne die KI-Komponente? | Funktionsumfang ist beschrieben | Das Produkt fällt aus Gibt es Referenzen mit vergleichbarer Aufgabe? | Ansprechpartner und Messwerte | Nur Logos Wie sieht der Ausstieg aus? | Datenexport, Kündigungsweg | Keine Antwort ## KI-Washing erkennen mit Niehues Consulting [Niehues Consulting](/) ist eine Beratung für KI-Management und Organisationsdesign aus der Lieferperspektive mit Sitz in Düsseldorf. Im Leistungsfeld KI-Management gehören Business Analysis und Anforderungen, der Business Case und die Auswahl und Reihenfolge der Anwendungen zur Arbeit, ebenso die Prüfung von Anbietern gegen die Anforderungen des Betriebs. Gründer Marin Niehues bringt KI in den Betrieb, in Projekten von VC-finanzierten Scaleups bis zu DAX-40-Konzernen und in über 20 Ländern auf sechs Kontinenten. Das Vorgehen folgt dem Niehues Delivery Model. Für die Beschaffung von KI-Produkten zählen drei Prüffragen: Welches Geschäftsergebnis soll sich messbar verändern? Beweist der Prototyp den Nutzen im echten Ablauf mit echten Daten? Ist der Business Case mit realen Werten bestätigt? Umfang und Konditionen eines Vorhabens werden in der kostenfreien Erstberatung besprochen, die Sie über den [Kontakt](/#kontakt) vereinbaren. **Fazit** KI-Washing endet dort, wo die Aufgabe, die Datengrundlage sowie der Messwert auf dem Tisch liegen. Ein Test mit den eigenen Daten, eine vorab festgelegte Kennzahl und zehn Prüffragen genügen, um Versprechen von Leistung zu trennen. Ein ehrliches Regelwerk ist besser als eine unbelegte KI. **Grundlage** - US Securities and Exchange Commission: Pressemitteilung 2024-36 zu Verfahren gegen Delphia (USA) Inc. und Global Predictions Inc., März 2024 - US Federal Trade Commission: Keep your AI claims in check, Hinweis für Unternehmen, Februar 2023 ## Häufige Fragen ### Was ist KI-Washing? KI-Washing bezeichnet Marketing, das Produkten künstliche Intelligenz zuschreibt, obwohl sie diese nicht oder nur am Rande einsetzen. Der Begriff ist an Greenwashing angelehnt. Käufer erkennen es daran, dass die Aufgabe, die Datengrundlage sowie die Messwerte fehlen. ### Wie erkenne ich, ob ein Produkt wirklich KI enthält? Fragen Sie nach der Aufgabe, die das Modell löst, nach den Daten, mit denen es arbeitet, und nach der Messung seiner Qualität. Ein Produkt mit echter KI kann diese Fragen konkret beantworten. Ein Test mit Ihren Daten vor dem Vertrag liefert den Beleg. ### Ist ein Regelwerk keine KI? Ein festes Regelwerk gilt in der Regel nicht als maschinelles Lernen. Es kann dennoch die richtige Lösung sein, wenn Aufgabe und Regeln stabil sind. Problematisch wird es erst, wenn es als lernendes System ausgegeben wird. ### Welche Fragen stelle ich einem KI-Anbieter? Die zehn Prüffragen in diesem Beitrag decken die wichtigsten Punkte ab: Aufgabe, Technik, Trainingsdaten, Messung, Fehlerverhalten, Datenfluss, Test mit eigenen Daten, Funktionsumfang ohne KI sowie Referenzen und Ausstieg. Notieren Sie die Antworten schriftlich, damit sie sich vergleichen lassen. ### Was kostet ein Test mit eigenen Daten? Der Aufwand besteht vor allem aus der Vorbereitung einer Stichprobe mit bekannten Ergebnissen und aus der Zeit der Fachleute, die die Ausgabe bewerten. Seriöse Anbieter stellen einen Test vor dem Vertrag bereit. Umfang und Konditionen eines Vorhabens werden in der kostenfreien Erstberatung besprochen. ### Kann KI-Washing rechtliche Folgen haben? Ja, überzogene Werbeaussagen können rechtliche Folgen haben, wie die Verfahren der US-Börsenaufsicht im März 2024 zeigen. Für Einkäufer zählt zuerst der Beleg im Vertrag und im Pilot. Die rechtliche Bewertung im Einzelfall ist Sache von Fachjuristen. ### Ist ein Produkt mit menschlicher Nacharbeit unseriös? Nein, eine menschliche Prüfung im Hintergrund ist oft richtig und sogar gewünscht. Unseriös wird sie, wenn der Anbieter sie verschweigt und das Ergebnis als vollautomatisch ausgibt. Fragen Sie nach dem Anteil geprüfter Fälle und nach den Datenschutzfolgen. ### Wie unterscheide ich echte generative KI von einer Oberfläche über einem fremden Modell? Fragen Sie, welches Modell läuft und welchen eigenen Anteil der Anbieter leistet, etwa die Datenanbindung und die Anpassung sowie die Qualitätssicherung. Ein Produkt auf einem fremden Modell kann wertvoll sein, wenn die Zutaten offen genannt werden. Preis und Eigenleistung sollten zusammenpassen.