Een advertentie voor de AI-videobewerkingsapp PixVideo is door de Advertising Standards Authority (ASA) verboden nadat deze digitaal gewijzigde beelden bevatte waarin het lichaam van een vrouw zonder haar toestemming werd blootgelegd. De advertentie, die in januari op YouTube te zien was, liet expliciet zien hoe de app kon worden gebruikt om kleding van een persoon op een afbeelding te verwijderen, wat aanleiding gaf tot klachten van kijkers die de app zeer aanstootgevend en schadelijk vonden.
De inhoud en klachten van de advertentie
De verboden advertentie presenteerde een “voor-en-na”-visual. De ‘voor’-afbeelding toonde een jonge vrouw met een rode krabbel die haar middenrif verduisterde; de “na” toonde haar blote huid, ook onder haar korte broek. De begeleidende tekst luidde: “Wis alles [hart-ogen emoji].” Dit leidde tot verontwaardiging, waarbij acht klachten werden ingediend tegen Saeta Tech Ltd, het bedrijf achter PixVideo, waarin de advertentie werd beschuldigd van het seksualiseren en objectiveren van vrouwen.
Reactie van het bedrijf en ASA-uitspraak
Saeta Tech voerde aan dat de controverse voortkwam uit de presentatie van de advertentie, en niet uit de beoogde functionaliteit van de app. Ze beweerden dat hun servicevoorwaarden naakt- of seksueel expliciete inhoud verboden, en dat hun op AI gebaseerde filters verhinderden dat dergelijke beelden werden gegenereerd. Desondanks oordeelde de ASA tegen hen en stelde dat de advertentie de vrouw nog steeds tot een seksueel object reduceerde en de wijziging en blootstelling van haar lichaam zonder wederzijds goedvinden goedkeurde.
De ASA erkende de vrijwillige verwijdering van de advertentie door Saeta Tech en hun inzet voor een interne audit, maar hield vol dat de advertentie onverantwoordelijk was, een schadelijk genderstereotype in stand hield en waarschijnlijk tot ernstige overtredingen zou leiden. De uitspraak schrijft voor dat de advertentie nooit meer zal verschijnen, met een waarschuwing aan PixVideo om ervoor te zorgen dat toekomstige advertenties sociaal verantwoord zijn en objectificatie vermijden.
Deze zaak benadrukt de ethische zorgen rond AI-aangedreven hulpmiddelen voor beeldmanipulatie. Hoewel dergelijke technologie legitieme toepassingen kan hebben, vereist het potentieel voor misbruik – vooral in de context van niet-consensuele uitbuiting – strengere regelgeving en verantwoorde marketingpraktijken.
