Man voor meer dan 100 miljoen dollar opgelicht door neppe vriendin die door AI is gegenereerd

Een inwoner van Shanghai verloor meer dan 27.000 dollar (ongeveer 111 miljoen Colombiaanse pesos) nadat hij werd misleid en een virtuele relatie aanging met een vermeende partner die was gecreëerd met behulp van kunstmatige intelligentie, meldden Chinese staatsmedia.

De oplichters gebruikten generatieve kunstmatige intelligentie om realistische video's en foto's te maken van een niet-bestaande vrouw, meldde de publieke omroep CCTV.

Overtuigd van de authenticiteit van hun relatie, maakte de man geld over van in totaal ongeveer 200.000 yuan (ongeveer 27.580 dollar of 113 miljoen Colombiaanse peso) naar de rekening waarvan hij dacht dat die van zijn partner was.

De oplichters gebruikten deze gemanipuleerde inhoud om hem over te halen geld bij te dragen om een ​​zakelijke onderneming te financieren en de medische kosten van een familielid te dekken. Om hun zaak te versterken, vervalsten ze medische documenten en een vals identiteitsbewijs.

CCTV verwees naar een onderzoek door de autoriteiten en meldde dat de operatie werd uitgevoerd door een "team van oplichters die video's en foto's stuurden die waren gemaakt met behulp van AI of door meerdere afbeeldingen te combineren."

De staatsmedia benadrukten ook dat het slachtoffer de vrouw waarmee hij in contact was, “nooit persoonlijk heeft ontmoet”. In een video die door CCTV is vrijgegeven, zijn beelden te zien van een vrouw in verschillende situaties, bijvoorbeeld terwijl ze een palet met verf vasthoudt en door een stadsstraat loopt.

Hulpmiddelen voor kunstmatige intelligentie die zeer realistische visuele en geschreven content kunnen genereren, worden steeds vaker gebruikt bij frauduleuze praktijken.

Eerder deze maand waarschuwde het technologiebedrijf Meta gebruikers voor de risico's van online daten en stelde dat generatieve AI-fraude in opkomst is.

Meta heeft gebruikers gewaarschuwd voor de opkomst van online liefdesfraude, waarbij criminelen valse identiteiten creëren om misbruik te maken van mensen die op zoek zijn naar een partner.

Deze tactieken bestaan ​​onder andere uit het gebruik van generatieve kunstmatige intelligentie om hun hoaxes overtuigender te maken.

"Dit is een nieuw instrument in het arsenaal van oplichters", aldus David Agranovich, directeur van het wereldwijde beleid ter bestrijding van bedreigingen bij Meta. Volgens hem veranderen de verantwoordelijken voor deze fraude voortdurend hun strategieën. Daarom moeten platforms hun detectiemethoden updaten.

Meta-apps zoals Instagram en WhatsApp maken gebruik van systemen die verdacht gedrag identificeren in plaats van zich uitsluitend op afbeeldingen te richten . Hierdoor kunnen ze ondanks AI-trucs toch frauduleuze activiteiten detecteren. "Hierdoor zijn onze detectie en toepassing beter bestand tegen generatieve AI", aldus Agranovich. Als voorbeeld noemde hij een onlangs ontmantelde operatie die in Cambodja was ontstaan ​​en gericht was op mensen die Chinees en Japans spraken.

Onderzoekers van OpenAI ontdekten dat bij de fraude gebruik werd gemaakt van tools van het in San Francisco gevestigde bedrijf voor kunstmatige intelligentie om content te creëren en te vertalen, zo meldt Meta.

Volgens Rachel Tobac, CEO van SocialProof Security, is generatieve kunstmatige intelligentie al ruim een ​​jaar beschikbaar, maar is het gebruik ervan door fraudeurs de afgelopen maanden toegenomen. "Ze kunnen ook gebruikmaken van nepbots waarmee je een personage kunt creëren of telefoongesprekken kunt voeren met behulp van een stemkloon, zonder dat er menselijke tussenkomst nodig is", waarschuwde Tobac. Hij voegde toe: "Ze noemen ze agenten, maar ze worden niet gebruikt voor klantenservicewerk. Ze worden op een geautomatiseerde manier gebruikt voor oplichting."

Nu Valentijnsdag op 14 februari nadert en het winterweer op het noordelijk halfrond toeslaat, zien oplichters hun kans schoon om hun slachtoffers emotioneel te manipuleren. "We zien absoluut een toestroom van oplichters die misbruik maken van de eenzaamheid midden in de winter", aldus Tobac.

Het hoofddoel van deze oplichtingspraktijken is om geld te verkrijgen door het vertrouwen van het slachtoffer te winnen en vervolgens om financiële hulp of persoonlijke gegevens te vragen om toegang te krijgen tot bankrekeningen . "Het helpt enorm om beleefd paranoïde te zijn, en om te controleren of mensen zijn wie ze zeggen dat ze zijn", aldus Tobac.

Fraudeactiviteiten vinden plaats op meerdere platforms en Meta detecteert slechts een deel daarvan. In 2023 verwijderde het bedrijf meer dan 408.000 accounts in West-Afrikaanse landen die werden gebruikt om zich voor te doen als militair personeel of zakenlieden en slachtoffers te lokken in Australië, het Verenigd Koninkrijk, Europa en de Verenigde Staten.

Als onderdeel van de strijd tegen deze vormen van fraude test Meta een gezichtsherkenningssysteem om verdachte profielen te identificeren die door gebruikers worden gemeld of door de beveiligingstools van Meta worden gedetecteerd.

*Deze content is herschreven met behulp van kunstmatige intelligentie, op basis van informatie van AFP, en is beoordeeld door een journalist en een redacteur.