Immer öfter werden Unternehmen Zielscheibe von DeepFakes. Beim KI Festival der Ipai Foundation will Vordenkerin und Tech-Gründerin Alexandra Wudel aufklären. Dem PROMAGAZIN hat sie den wichtigsten Tipp schon verraten: in die Offensive gehen.
Frau Wudel, Sie möchten als Gründerin von FemAI Menschen für den ethischen Umgang mit KI sensibilisieren. Was ist aktuell der kritischste Aspekt an Künstlicher Intelligenz?
Alexandra Wudel: Die fehlende Transparenz. Es wird oft immer noch nicht klar gekennzeichnet, wo KI autark Entscheidungen trifft oder beeinflusst. Gleichzeitig ist für die meisten Menschen nicht nachvollziehbar, wie diese Entscheidungen zustande kommen. Wenn wir KI sinnvoll nutzen oder kritisch einordnen wollen, müssen wir wissen, wo sie eingesetzt wird und wo Lücken im System sind – gerade in sensiblen Bereichen wie dem Rechtssystem.
Wo ist das System denn lückenhaft?
Alexandra Wudel: Ein gutes Beispiel sind DeepFake-Detection-Tools. Diese Systeme sollen manipulierte Inhalte erkennen, damit DeepFakes – etwa Videos von einer Person – nicht hochgeladen werden können. Das Problem ist, dass die Menschen, von denen am häufigsten DeepFakes kreiert werden, leider auch diejenigen sind, die weniger in den Daten vertreten sind, mit denen die Tools trainiert werden. Dies führt dazu, dass die Erkennung für die schützenswertesten Gruppen nicht immer zuverlässig ist.
Für wen gilt das nach Ihrer Erfahrung?
Alexandra Wudel: Insbesondere für Frauen mit Migrationshintergrund, Kinder und Menschen mit Behinderungen funktionieren diese Tools unzuverlässiger. Wenn aber 96 Prozent aller DeepFakes gegen Frauen ausgeführt werden und eine bestimmte Gruppe gar nicht in den Daten repräsentiert ist, wird sie auch vom Detection-Tool nicht erkannt. Und dann haben wir ein großes Problem.
DeepFakes und ihre Risiken
DeepFakes treffen immer öfter auch bekannte Unternehmer und Persönlichkeiten. Auch in Heilbronn-Franken gibt es ein prominentes Beispiel: Reinhold Würth. Sein KI-generierter Zwilling bot dubiose Finanzprodukte an.
Alexandra Wudel: Das ist ein super Beispiel und Teil unserer KI-Kompetenzschulung bei FemAI, denn wir alle können Opfer von DeepFake werden. Die Verbreitung findet heutzutage meist kostenlos in wenigen Sekunden statt. Melde-und juristische Durchsetzungswege sind aber ein Flickenteppich.
Ist das Vorgehen der Täter im Fall Würth typisch, oder kommen auch andere DeepFake-Varianten in Unternehmen vor?
Alexandra Wudel: In Unternehmen sind sexualisierte DeepFakes ein relativ häufiger Fall, der oft sehr tragisch ist. Aber auch Fake-Ads, Finanzbetrug und politische Reden, die komplett von KI-Avataren geführt werden, sind definitiv ein Problem für unsere Demokratie – und natürlich auch für unsere Wirtschaft.
Welcher Schaden kann durch so einen Identitätsraub entstehen?
Alexandra Wudel: Zum einen entsteht ein Schaden für den Betroffenen im Unternehmen. DeepFakes haben psychologisch negative Folgen. Die Forschung zeigt: Wenn ich mich in einem DeepFake sehe, löst das dieselben Gefühle aus, als ob ich in der Realität gehandelt hätte. Es ist psychologisch sehr wichtig, das Gesehene einzuordnen und sich abzugrenzen von negativen Folgen.
Auf der betriebswirtschaftlichen Ebene ist ein Reputationsschaden eines der größten Risiken. Der kann sehr stark sein und ähnelt dem Schaden durch einen Finanzbetrug. Eine Studie von Deloitte hat errechnet, dass in den USA bis 2027 40 Milliarden Dollar Verluste durch DeepFake-Betrug entstehen werden. In Europa fehlen vergleichbare Studie derzeit noch.
Krisenkommunikation im KI-Zeitalter
Was sollten Unternehmen im Ernstfall tun?
Alexandra Wudel: Es gibt verschiedene Krisenkommunikationsstrategien. Sehr inspirierend finde ich den Gedanken, dass Unternehmen, die einen DeepFake-Angriff erleiden, den Vorfall kommunikativ für sich nutzen können. Denn die Opfer trifft in der Regel keine Schuld. Es gibt häufig einen wirtschaftlichen Hintergrund, warum ausgerechnet mit diesem CEO oder dieser Person DeepFakes kreiert werden. Wenn ich Ziel eines Angriffes bin, dann bin ich auch immer Ziel eines Interesses.
Doch wie lässt sich aus einem Imageverlust ein strategischer Nutzen ziehen?
Alexandra Wudel: Mit Ambiguitäten – Mehrdeutigkeiten – umzugehen, wird im KI-Zeitalter von uns Menschen immer stärker gefragt. Als Unternehmer kann ich den Kopf in den Sand stecken. Oder ich nutze den Vorfall, um zu zeigen, wie mein Unternehmen sich mit dem Thema beschäftigt: Wie gehen wir strategisch mit dem KI-Zeitalter um, wie sieht Digitalisierung und Transformation bei uns aus.
Um zu zeigen: Bei uns sind die Menschen wichtig, von der Chefetage bis zur Rezeption. Und wir haben eigene Meldewege entwickelt, denn der Gesetzgeber hat an dieser Stelle noch nicht klar und verlässlich genug reguliert. Das kann sogar als Employer-Branding-Aspekt genutzt werden.
Trotzdem wünscht sich keiner, diese Art von Mitarbeiterbindung einsetzen zu müssen.
Alexandra Wudel: Das beste Mittel gegen Angst ist Information. Es ist an der Zeit, dass wir uns grundlegend damit beschäftigen, was ein DeepFake ist, wie es reguliert ist, und welche persönlichen, aber auch unternehmensstrategischen Handlungswege es gibt. Es ist gut zu wissen, dass es Konzepte gibt. Allein schon, um sich sicherer zu fühlen.
KI-Kompetenz als Gemeinschaftsaufgabe
Ist es nicht selbstverständlich, dass Unternehmen, die KI einsetzen, über Schutzkonzepte verfügen?
Alexandra Wudel: Tatsächlich sehe ich gerade die Unternehmen in diesem Punkt am stärksten in der Verantwortung. Company heißt auf Deutsch eigentlich Gemeinschaft. Wenn ich Anführer dieser Gemeinschaft bin, sollte es meine Verantwortung sein, meiner Gruppe zu sagen, falls X passiert, machen wir Y. Das ist nicht neu, ähnliche Strategien gibt es schon im Cyber Security Incident Reporting.
Über DeepFakes traut man sich aber noch nicht zu sprechen. Warum? Weil leider 98 Prozent aller DeepFakes pornografisch sind, und 99 Prozent davon betreffen Frauen. Und da traut man sich natürlich aus unternehmerischer Perspektive nicht so richtig heran, was ich auch verstehe. Wir bei Fem.AI bieten Kompetenzkurse, um individualisierte Strategien zu entwickeln, etwa unseren Vier-Punkte-Plan. Leider muss oft erstmal was Schlimmes passieren, bevor gehandelt wird.
Was verbirgt sich dahinter?
Alexandra Wudel: Der Vier-Punkte-Plan basiert auf dem Lebenszyklus eines DeepFakes anhand der Erstellung, denn die Technologie entwickelt sich rasant weiter. Aber vier Phasen sind immer gleich: Erstellung, Verbreitung, Erkennung und Entfernung. Das bedeutet, dass wir uns damit auseinandersetzen, welche Erstellungsmöglichkeiten es heute schon gibt.
Die sollte man in den Unternehmensrichtlinien explizit verbieten und schauen, wo diese Tools auf Endgeräten der Mitarbeiter nutzbar sind. Denn man sollte zunächst vermeiden, dass jemand im eigenen Unternehmen auf dumme Ideen kommt, etwa mit Nudify-Apps. Klar festzuschreiben, dass das in der eigenen Unternehmensgovernance keinen Platz hat, ist wichtig.
Die Erstellung bekommen Opfer aber oft erst in Phase zwei oder drei mit, der Verbreitung und Entdeckung.
Alexandra Wudel: Deswegen sollte man erstmal für sich persönlich checken, wo überhaupt das eigene Bild im Internet kursiert. Die wenigsten Menschen prüfen regelmäßig ihre Profilbilder und die Fotos auf Unternehmenswebsites. Das könnte dazu führen, dass Unternehmen entscheiden, keine Mitarbeiterinnen mehr mit Bild auf ihrer Webseite zu haben.
Maßnahmen nach dem DeepFake
Wenn ein DeepFake entfernt ist – können Unternehmen dann aufatmen?
Alexandra Wudel: Für die Erkennung sind auf Unternehmensebene einzelne Punkte durchzuführen, aber auch auf individueller Ebene. Im besten Fall kann man anschließend öffentlich sagen: Es ist passiert, aber wir haben uns damit auseinandergesetzt. Haben Nudify-Apps konsequent in unserer AI-Governance verboten. Haben unsere Mitarbeiter und Mitarbeiterinnen darin sensibilisiert, wie sie DeepFakes erkennen, obwohl wir wissen, dass das immer schwerer wird. Das soll kein PR-Gag sein, sondern es sind Maßnahmen für den Ernstfall, die einem Reputationsschaden vorbeugen können, und von denen man hofft, dass man sie wie eine Berufsunfähigkeitsversicherung nie brauchen wird.
War es Ihnen deshalb so wichtig, nach Heilbronn zu kommen und auf dem KI Festival zu sprechen?
Alexandra Wudel: Ich bin tatsächlich gespannt, was mich erwartet, weil ich das erste Mal zum Ipai fahre. Die Vision, die da entsteht, getrieben von einem deutschen Urgestein des Unternehmertums, entspricht meiner Vorstellung von europäischer Innovation. Die Schwarz Gruppe bringt nicht nur Größe, sondern auch Tatendrang an einen Standort, wo Menschen zusammenkommen.
Die Forschung zeigt, dass Innovation digital nicht funktioniert. Wir müssen dafür zusammen sein, fühlen, Energie zulassen. Solche Orte brauchen wir in Europa, um tatsächlich zur Innovation zu befähigen. Das Festival ist ein Event, an dem auch Du und ich teilnehmen können. Die Betroffenen zu Beteiligten machen: Genau das sollte unser Ansatz sein. Wenn wir KI weiterhin so schnell in die Gesellschaft integrieren, dann bitte partizipativ.
Interview von Natalie Kotowski
Zur Person
Alexandra Wudel gründete 2023 FemAI, ein Start-up für ethische Künstliche Intelligenz. Sie wurde als „AI Person of the Year 2024“ und als eine von „35 under 35 Young Leaders“ ausgezeichnet. Zuvor arbeitete sie als Expertin für KI-Governance im Deutschen Bundestag und wirkte an Richtlinien für Organisationen wie UN und der Bundesregierung mit.
KI-Strategien auf dem Vormarsch: Wie generative KI die deutsche Wirtschaft verändert
KI-Standort Heilbronn-Franken: Wie die Region zum Hotspot für Transformation, Digitalisierung und Künstliche Intelligenz wird
