Eine Werbung für die KI-Videobearbeitungs-App PixVideo wurde von der Advertising Standards Authority (ASA) verboten, nachdem sie digital veränderte Bilder enthielt, die den Körper einer Frau ohne deren Zustimmung freilegten. Die Anzeige, die im Januar auf YouTube lief, zeigte explizit, wie die App verwendet werden kann, um einer Person auf einem Bild die Kleidung auszuziehen, was zu Beschwerden von Zuschauern führte, die die App als zutiefst beleidigend und schädlich empfanden.
Der Inhalt und die Beschwerden der Anzeige
Die verbotene Werbung zeigte ein „Vorher-Nachher“-Bild. Das „Vorher“-Bild zeigte eine junge Frau mit roter Schrift, die ihre Taille verdeckte; Das „Danach“ zeigte ihre nackte Haut, auch unter ihren Shorts. Der Begleittext lautete: „Alles löschen [Herz-Augen-Emoji].“ Dies löste Empörung aus und es wurden acht Beschwerden gegen Saeta Tech Ltd, das Unternehmen hinter PixVideo, eingereicht, in denen der Anzeige vorgeworfen wurde, Frauen zu sexualisieren und zu objektivieren.
Die Antwort des Unternehmens und das ASA-Urteil
Saeta Tech argumentierte, dass die Kontroverse auf die Präsentation der Anzeige und nicht auf die beabsichtigte Funktionalität der App zurückzuführen sei. Sie behaupteten, dass ihre Nutzungsbedingungen nackte oder sexuell eindeutige Inhalte verbieten und dass ihre KI-basierten Filter die Generierung solcher Bilder verhinderten. Dennoch entschied die ASA gegen sie und erklärte, dass die Anzeige die Frau immer noch auf ein Sexualobjekt reduzierte und die nicht einvernehmliche Veränderung und Entblößung ihres Körpers duldete.
Die ASA erkannte die freiwillige Entfernung der Anzeige durch Saeta Tech und ihre Verpflichtung zu einer internen Prüfung an, beharrte jedoch darauf, dass die Werbung unverantwortlich sei, ein schädliches Geschlechterstereotyp aufrechterhalte und wahrscheinlich schwere Straftaten hervorrufe. Das Urteil sieht vor, dass die Anzeige nie wieder erscheint, und gibt PixVideo eine Warnung, sicherzustellen, dass zukünftige Anzeigen sozial verantwortlich sind und eine Objektivierung vermieden wird.
Dieser Fall verdeutlicht die ethischen Bedenken im Zusammenhang mit KI-gestützten Bildbearbeitungswerkzeugen. Auch wenn solche Technologien legitime Verwendungszwecke haben können, erfordert das Potenzial für Missbrauch – insbesondere im Zusammenhang mit nicht einvernehmlicher Nutzung – eine strengere Regulierung und verantwortungsvolle Marketingpraktiken.
