Una pubblicità per l’app di editing video AI, PixVideo, è stata bandita dalla Advertising Standards Authority (ASA) perché conteneva immagini alterate digitalmente che esponevano il corpo di una donna senza il suo consenso. L’annuncio, pubblicato su YouTube a gennaio, mostrava esplicitamente come l’app potesse essere utilizzata per rimuovere i vestiti da una persona in un’immagine, suscitando lamentele da parte degli spettatori che la trovavano profondamente offensiva e dannosa.
Contenuto e reclami dell’annuncio
La pubblicità vietata presentava un’immagine “prima e dopo”. L’immagine “prima” mostrava una giovane donna con scarabocchi rossi che le nascondevano l’ombelico; il “dopo” mostrava la sua pelle nuda, anche sotto i pantaloncini. Il testo di accompagnamento diceva: “Cancella qualsiasi cosa [emoji occhi-cuore]”. Ciò ha suscitato indignazione, con otto denunce presentate contro Saeta Tech Ltd, la società dietro PixVideo, accusando la pubblicità di sessualizzare e oggettivare le donne.
Risposta della Società e sentenza ASA
Saeta Tech ha sostenuto che la controversia derivava dalla presentazione dell’annuncio, non dalla funzionalità prevista dell’app. Affermavano che i loro termini di servizio proibivano contenuti di nudo o sessualmente espliciti e che i loro filtri basati sull’intelligenza artificiale impedivano la generazione di tali immagini. Nonostante ciò, l’ASA si è pronunciata contro di loro, affermando che la pubblicità riduceva comunque la donna a un oggetto sessuale e condonava l’alterazione e l’esposizione non consensuale del suo corpo.
L’ASA ha riconosciuto la rimozione volontaria della pubblicità da parte di Saeta Tech e il suo impegno a effettuare un audit interno, ma ha sostenuto che la pubblicità era irresponsabile, perpetuava uno stereotipo di genere dannoso e poteva causare gravi offese. La sentenza impone che l’annuncio non venga mai più visualizzato, con un avvertimento per PixVideo di garantire che gli annunci futuri siano socialmente responsabili ed evitino l’oggettivazione.
Questo caso evidenzia le preoccupazioni etiche che circondano gli strumenti di manipolazione delle immagini basati sull’intelligenza artificiale. Sebbene tale tecnologia possa avere usi legittimi, il potenziale di uso improprio, in particolare nel contesto di sfruttamento non consensuale, richiede una regolamentazione più rigorosa e pratiche di marketing responsabili.
