Epl i Gugl pod metom kritike zbog pornografskih aplikacija
Dve od najmoćnijih tehnoloških kompanija na svetu, Epl i Gugl, našle su se pod public pressure nakon što je novi izveštaj objavio da njihove prodavnice aplikacija i dalje nude alate koji mogu da stvore eksplicitni sadržaj sa licima realnih ljudi. Izveštaj organizacije Tech Transparency Project (TTP) otkriva da su aplikacije koje uklanjaju odeću sa fotografija ili zamenjuju lica u pornografskim snimcima i dalje dostupne — neke čak i sa oznakom za sve uzraste.
Korisnici mogu da pronađu ove aplikacije jednostavnim pretraživanjem ključnih reči kao što su „nudify“ ili „undress“. Jedna od njih, Video Face Swap AI: DeepFace, omogućava da se lice bilo koje osobe postavi na telo oskudno obučene žene. TTP navodi da su ove aplikacije ukupno preuzete više od 483 miliona puta i da su ostvarile prihod od 122 miliona dolara, što ukazuje na značajan market impact i potencijalno lošu monetizaciju etički problematičnog sadržaja.
Direktorka TTP, Kejti Pol, izjavila je za Bloomberg da ove kompanije ne samo što ne kontrolišu štetni sadržaj, već ga actively promote kroz svoje platforme. Ovo izaziva ozbiljne pitanje o corporate responsibility i podešavanju algoritama koji preporučuju sadržaj. Ako aplikacije za kreiranje lažne pornografije dobijaju vidljivost kao bilo koji drugi proizvod, to znači da je user safety postavljena niže od prometa i angažovanja.
U odgovoru, Epl je saopštio da je uklonio 15 aplikacija pomenutih u izveštaju, dok je Gugl rekao da je suspendovao određeni broj njih i da investigation još traje. Ovakav sporadičan pristup podstiče kritičare da sumnjaju u doslednost politika. Ako se zabrane primenjuju tek nakon medijalnog pritiska, to ukazuje na reaktivnu, a ne proaktivnu content moderation — što može imati dugoročne posledice po public trust u ove platforme.
Poslovni model obe kompanije zavisi od pouzdanosti i široke upotrebe njihovih ekosistema. Kada takve aplikacije prolaze kroz approval process , postavlja se pitanje koliko su rigorozni standardi. Pored etičkih implikacija, ovo može privući pažnju regulatornih tela, što bi moglo dovesti do novih regulatory rules i finansijskih kazni. U svetu gde je digital reputation ključna, svaki propušten slučaj može značiti gubitak korisnika, partnera i ulagača.
Ako aplikacije koje prave lažnu pornografiju imaju oznaku 'E' za sve uzraste, to je apsurd. Ko kontroliše age rating ocenu po uzrastu kad očigledno ne radi?
Gugl kaže da istraga traje, ali zar ne bi trebalo da imaju automated systems automatizovane sisteme koji ovo detektuju u realnom vremenu?
Zaradile 122 miliona dolara — to znači da neko značajno profitira. Pitanje je: da li i platforme imaju deo tog revenue prihoda kroz provizije?
Sve dok algoritmi nagradjuju šok i angažovanje, ove aplikacije će se pojavljivati. Motiv dobiti je jači od etike.
Epl uklanja tek kad istrči medijima — gde je bio pre toga? Ovo je klasičan slučaj reputation risk rizika za reputaciju koji se ignoriše dok ne postane javni skandal.
Ne mogu da verujem da neko može da preuzme takvu aplikaciju jednostavnom pretragom. Gde je safety filter filter za bezbednost?