Deepfake onderzoekers hebben lang gevreesd voor de dag dat dit zou gebeuren.
De website valt op door zijn eenvoud. Tegen een witte achtergrond nodigt een grote blauwe knop bezoekers uit om een foto van een gezicht te uploaden. Onder de knop staan vier AI-gegenereerde gezichten waarmee je de dienst kunt testen. Daarboven verkondigt de tagline brutaal het doel: iedereen in een pornoster veranderen door gebruik te maken van deepfake technologie om het gezicht van de persoon in een pornovideo te veranderen. Het enige wat nodig is, is de foto en een druk op de knop.
MIT Technology Review heeft ervoor gekozen de naam van de dienst, die we Y zullen noemen, niet te noemen en geen directe citaten en screenshots van de inhoud te gebruiken, om te voorkomen dat er verkeer naar de site wordt gestuurd. De dienst werd ontdekt en onder onze aandacht gebracht door deepfake onderzoeker Henry Ajder, die de evolutie en opkomst van synthetische media online heeft gevolgd.
Voorlopig bestaat Y in relatieve obscuriteit, met een kleine groep gebruikers die de maker actief feedback geven op online forums. Maar onderzoekers hebben gevreesd dat een app als deze zou opduiken en een ethische grens zou overschrijden die geen enkele andere dienst eerder heeft overschreden.
Lees verder op: https://www.technologyreview.com/2021/09/13/1035449/ai-deepfake-app-face-swaps-women-into-porn