“We komen snel in een wereld waarin alles, zelfs video’s, gemanipuleerd kan worden door zo’n beetje iedereen die dat wil,” zegt Hany Farid, professor aan de Universiteit van Californië in Berkeley en expert op het gebied van deepfakes. “Wat kan er fout gaan?”
De onthulling komt aan het eind van een hectische zomer in de wereld van deepfakes, die gebruik maken van het deep-learning van kunstmatige intelligentie om nepmedia te creëren (voorstanders geven de voorkeur aan “synthetisch” of “AI-gegenereerd”).
Terwijl veel Amerikanen zich gelukzalig bezighielden met schilderachtige analoge activiteiten zoals naar het strand gaan, bood een start-up genaamd Midjourney “AI art-generation” aan, waarbij iedereen met een eenvoudige grafische kaart met een paar toetsaanslagen verbluffend echte beelden kon creëren. Wie er zelfs maar een paar minuten mee werkt – Gordon Ramsay brandt in zijn Hell’s Kitchen; hier is Gandalf aan het scheuren op een gitaar – ervaart een technologie die Photoshop op Wite-Out doet lijken. Midjourney heeft meer dan een miljoen gebruikers verzameld op zijn Discord-kanaal.
En drie weken geleden heeft een start-up genaamd Stable AI een programma uitgebracht genaamd Stable Diffusion. De AI beeldgenerator is een open-source programma dat, in tegenstelling tot sommige rivalen, weinig beperkingen stelt aan de beelden die mensen kunnen maken, waardoor critici zeggen dat het kan worden gebruikt voor oplichting, politieke desinformatie en privacy schendingen.
“We moeten ons zorgen maken. Ik volg de technologie elke dag, en ik maak me zorgen,” zei Subbarao Kambhampati, een professor aan de School of Computing & AI aan de Arizona State University die deepfakes en virtuele identiteiten heeft bestudeerd. Hij zei te verwachten dat het “AGT”-moment ervoor zal zorgen dat platforms als deze een nog grotere vlucht zullen nemen, zelfs nu de technologie met de dag beter wordt.
“Het gaat zo snel. Binnenkort kan iedereen een maanlanding maken die op echt lijkt,” zei hij.
Ume en Graham zeggen dat bedrog niet hun doel is. Ume benadrukt de amusementswaarde: Het bedrijf zal zichzelf op de markt brengen voor Hollywood-studio’s die overleden acteurs in films willen presenteren (met toestemming van de nalatenschap) of acteurs tegen hun jongere zelf willen laten spelen.
Wat de gewone gebruikers betreft, zegt Ume dat het doel van de nieuwe site van Metaphysic is om online interacties echter te laten aanvoelen – zonder de grillen van videogames of de platheid van Zoom. “Ik stel me voor dat ik vanuit Bangkok kan ontbijten met mijn grootouders in België en het gevoel heb dat ik daar echt ben,” zegt Ume vanuit zijn huidige basis.
Geschreven door: Steven Zeitchik
Lees verder op:
https://www.washingtonpost.com/technology/2022/08/30/deep-fake-video-on-agt/
