Het Federal Bureau of Investigation (FBI) waarschuwt voor een toenemende trend van kwaadwillende actoren die deepfake-inhoud creëren om sextortion-aanvallen uit te voeren.
Sextortion is een vorm van online chantage waarbij kwaadwillende actoren hun doelwit bedreigen met het openbaar maken van expliciete afbeeldingen en video’s die zij hebben gestolen (via hacking) of verkregen (door dwang), meestal eisen ze geldbetalingen om het materiaal niet te verspreiden.
In veel gevallen van sextortion is compromitterende inhoud niet echt, maar doen de bedreigers alsof ze toegang hebben om slachtoffers bang te maken om losgeld te betalen.
Het FBI waarschuwt dat sextortionisten nu openbaar beschikbare afbeeldingen van hun doelwitten schrapen, zoals onschuldige foto’s en video’s gepost op sociale media platforms. Deze afbeeldingen worden vervolgens gevoed in tools voor het creëren van deepfake-inhoud die ze omzetten in AI-gegenereerde seksueel expliciete inhoud.
Hoewel de geproduceerde afbeeldingen of video’s niet echt zijn, zien ze er zeer realistisch uit, dus kunnen ze dienen voor het doel van de bedreiger, aangezien het verzenden van dat materiaal naar de familie, collega’s, enz. van het doelwit nog steeds grote persoonlijke en reputatieschade kan veroorzaken.
Het tempo waarin bekwame AI-mogelijke tools voor het maken van inhoud beschikbaar worden voor een breder publiek creëert een vijandige omgeving voor alle internetgebruikers, met name degenen in gevoelige categorieën.
Het FBI beveelt ouders aan om de online activiteit van hun kinderen te controleren en met hen te praten over de risico’s van het online delen van persoonlijke media.
Volwassenen die afbeeldingen of video’s online plaatsen, moeten de toegang tot het bekijken beperken tot een kleine privékring van vrienden om blootstelling te verminderen. Tegelijkertijd moeten de gezichten van kinderen altijd worden vervaagd of gemaskeerd.
Tot slot, als je deepfake-inhoud ontdekt die jou voorstelt op pornografische sites, meld dit dan bij de autoriteiten en neem contact op met het hostingplatform om te verzoeken om de verwijdering van de aanstootgevende media.
Het VK heeft onlangs een wet geïntroduceerd in de vorm van een wijziging van de Online Safety Bill die het niet-consensuele delen van deepfakes classificeert als een misdaad.
Lees verder op: https://www.bleepingcomputer.com/news/security/sextortionists-are-making-ai-nudes-from-your-social-media-images/