Er is een nepvideo opgedoken waarin Jill Biden Joe Biden oproept om een staakt-het-vuren in Gaza te vragen. Hoewel de audio nep is, zijn de video, afbeeldingen en nieuws echt1. Dit incident benadrukt een groeiende zorg over de verspreiding van mis- en desinformatie aangedreven door AI in de huidige digitale landschap.
Implicaties
Het wordt steeds moeilijker voor het publiek om echt van nep te onderscheiden, vooral met de snelle vooruitgang van generatieve AI-technologieën die hoogwaardige nepaudio en -video kunnen produceren. Het is niet langer nodig om goedgelovig te zijn om in deze misleidingen te trappen; de vervalsingen worden zo overtuigend dat ze bijna niet te onderscheiden zijn van de realiteit.
Distributiekanalen: de echte bottleneck
Het verspreiden van deze nepcontent wordt verder versterkt door sociale mediaplatforms, die fungeren als de belangrijkste distributiekanalen. Hoewel AI het mogelijk maakt om misleidende content te creëren, is het de alomtegenwoordigheid en het gemak van sociale media die de verspreiding ervan mogelijk maken.
Kwaliteitsverbeteringen in Generatieve AI
De meeste mensen zijn zich niet bewust van de snelle kwaliteitsverbeteringen in generatieve AI en zullen waarschijnlijk voor desinformatie vallen. Zelfs degenen die op de hoogte zijn, kunnen vals vertrouwen hebben in hun vermogen om nep van echt te onderscheiden, vooral als de kwaliteit van de vervalsingen hoog is. Er is ook een soort overlevingsbias op het spel; mensen kunnen denken dat ze nepcontent kunnen identificeren, maar alleen als de kwaliteit slecht is.
Detectie en remedie
Er is hoop dat detectoren deze nepcontent kunnen stoppen, maar ze zijn nog niet opgewassen tegen de taak. En zelfs als ze dat waren, zou bijna niemand ze gebruiken. Dit versterkt het idee dat we misschien niet goed voorbereid zijn op de epidemie van nepaudio en -video die op ons afkomt.
Een somber vooruitzicht
De conclusie is somber voor degenen die accepteren dat het vrije, open internet snel sterft en we zullen zelfs het lijk niet zien. De combinatie van perfecte nepaudio en -video vormt een bedreiging voor een gezond informatie- en kennisekosysteem.