Një reklamë për një aplikacion redaktimi me inteligjencë artificiale (AI), i cili pretendonte se mund të “hiqte çdo gjë” nga imazhet, është ndaluar në Mbretërinë e Bashkuar nga rregullatori i reklamave, Autoriteti i Standardeve të Reklamimit (ASA). Ky vendim vjen pas shqetësimeve të thella se reklama “nxiste ndryshimin dhe ekspozimin e trupave të grave në mënyrë dixhitale pa pëlqimin e tyre”, duke shkaktuar ofendim serioz dhe duke përforcuar stereotipe gjinore të dëmshme. Incidenti thekson sfidat etike dhe rregullatore që lindin me avancimin e shpejtë të teknologjive të AI dhe potencialin e tyre për keqpërdorim, veçanërisht në fushën e manipulimit të imazheve.
Reklama në fjalë, e shfaqur në YouTube në janar, ishte për “PixVideo – AI Video Maker” dhe tregonte imazhe “para” dhe “pas” të një gruaje të re. Në imazhin “para”, pjesa e mesme e trupit të gruas ishte e mbuluar me një shkarravinë të kuqe, ndërsa imazhi “pas” zbulonte lëkurën e zhveshur, duke përfshirë edhe poshtë shkurtrave të saj. Bashkë me këto imazhe, teksti poshtë fotografisë thoshte: “Fshini çdo gjë [emoji me sy zemër]”, duke sugjeruar qartë funksionin e aplikacionit për të eliminuar rrobat në mënyrë dixhitale. Tetë ankesa zyrtare u paraqitën në ASA, me ankesat që argumentonin se reklama seksualizonte dhe objektivizonte gratë, ishte e papërgjegjshme, fyese dhe e dëmshme.
Saeta Tech Ltd, kompania që tregton “PixVideo – AI Video Maker”, u shpreh se e kuptonte pse reklama u konsiderua fyese, por theksoi se shqetësimet lidheshin me prezantimin dhe mesazhin e reklamës, dhe jo me përdorimin e synuar apo të lejuar të produktit. Kompania pohoi se kushtet e saj ndalojnë krijimin e përmbajtjeve nudo ose seksualisht eksplicite, dhe se kishte vendosur detektim të automatizuar të bazuar në AI për të parandaluar gjenerimin e imazheve të ekspozuara apo eksplicite. Ata gjithashtu shtuan se aplikacioni nuk mbështeste dhe nuk ishte projektuar për të mundësuar heqjen e rrobave ose krijimin e imazheve nudo. Megjithatë, ASA vendosi se, pavarësisht nga kufizimet e deklaruara të aplikacionit, reklama krijonte një përshtypje të gabuar rreth asaj që përdoruesit mund të arrinin me mjetin.
Vendimi i ASA-s theksoi se reklama e reduktonte gruan në një objekt seksual dhe, duke nënkuptuar se përdoruesit mund të përdornin aplikacionin për të hequr rrobat e një gruaje, ajo miratonte në mënyrë dixhitale ndryshimin dhe ekspozimin e trupave të grave pa pëlqimin e tyre. Ky rast nxjerr në pah nevojën urgjente për një shqyrtim më të rreptë rregullator rreth sistemeve të AI që mund të lejojnë imazhe intime pa pëlqim. Rregullatorët po ndërmarrin një qëndrim më të gjerë, duke kërkuar që teknologjitë e AI të mos promovohen në mënyra që normalizojnë ose banalizojnë keqpërdorimin, veçanërisht në fushat që përfshijnë privatësinë dhe pëlqimin personal. Qeveria e Mbretërisë së Bashkuar madje ka njoftuar synimin e saj për të kriminalizuar krijimin dhe shpërndarjen e mjeteve të AI që lejojnë heqjen dixhitale të rrobave nga imazhet pa pëlqim.
Kjo ndalesë shërben si një kujtesë e rëndësishme se, ndërsa AI ofron mundësi të jashtëzakonshme, zhvillimi dhe marketingu i saj duhet të mbajnë gjithmonë në qendër konsideratat etike dhe respektin për privatësinë dhe autonominë individuale. Reagimi i shpejtë i rregullatorit sinjalizon një forcim të mbikëqyrjes mbi praktikat e marketingut të AI, me implikime të rëndësishme për kompanitë teknologjike, reklamuesit dhe platformat që lundrojnë në një peizazh gjithnjë e më të shqetësuar për pretendimet mashtruese dhe rreziqet e manipulimit dixhital. Këto veprime rregullatore janë thelbësore për të mbrojtur publikun dhe për të siguruar që inovacioni teknologjik të përparojë në një mënyrë të përgjegjshme dhe etike.