Spaanse tiener onderzocht vanwege naakte AI-beelden van klasgenoten

Het onderzoek werd gestart nadat 16 jonge vrouwen bij een onderwijsinstelling in de regio Valencia klaagden over door AI gegenereerde afbeeldingen van hen die op sociale media en internet circuleerden.

De eerste klacht werd in december ingediend door een adolescent die zei dat er op een social media-account dat onder haar naam was aangemaakt, een door AI gegenereerde video en vervalste foto's waren geplaatst waarop ze "volledig naakt" te zien was.

Naarmate er meer beschuldigingen binnenkwamen, vermoedde de politie dat de beelden het werk waren van een student van hetzelfde instituut, aldus een verklaring van de politie.

Door de IP-adressen te traceren die gebruikt werden om de valse accounts aan te maken, kwamen ze terecht bij de woning van de 17-jarige jongen die nu onderzocht wordt op verdenking van corruptie van minderjarigen.

Het is niet de eerste keer dat de Spaanse autoriteiten pornografische afbeeldingen van minderjarigen opsporen die door kunstmatige intelligentie zijn gemaakt.

De regering maakte in maart bekend dat er een wet zou worden ingediend om dergelijke deepfake seksuele beelden, die zonder toestemming door AI zijn gemaakt, als een misdrijf te beschouwen.

Het wetsvoorstel, dat volgens Madrid een primeur is in Europa, is nog niet door het parlement aangenomen.