Premieră în UE: o autoritate din Spania a sancționat un adolescent care a distribuit imagini create cu ajutorul AI. Ce conțineau fotografiile

Agenția Spaniolă pentru Protecția Datelor (AEPD) a amendat părinții unui adolescent care a creat cu ajutorul inteligenței artificiale (AI) și a distribuit fotografii cu colegele sale dezbrăcate. Incidentul a ieșit la iveală în septembrie 2023.

Cum au creat adolescentul fotografiile cu colegele lor dezbrăcate

Tehnica utilizată pentru crearea imaginilor, cunoscută sub numele de deepfake, implică utilizarea inteligenței artificiale (IA) pentru a suprapune fața victimei peste imaginea unei alte persoane, dezbrăcate. Aceasta este prima dată când justiția din Spania aplică o amendă pentru distribuirea de imagini ale unei persoane, modificate de inteligență artificială.

În prima zi de școală din anul 2023-2024, fotografii cu mai multe fete dezbrăcate au început să circule printre locuitorii municipiului Badajoz, care are o populație de 30.000 de oameni. Deepfake-uri s-au răspândit rapid prin intermediul rețelelor de socializare, ba chiar au fost încărcate pe platforme precum OnlyFans și diverse site-uri web pornografice, potrivit El Pais.

Ce amendă au primit părinții adolescentului care a distribuit fotografii create cu AI

Agenția Spaniolă pentru Protecția Datelor (AEPD) este prima autoritate de protecție a datelor din Uniunea Europeană care emite o sancțiune pentru diseminarea unui deepfake. Amenda însumează 2.000 de euro sau 1.200 de euro, dacă este plătită într-un număr de zile de la emiterea ei.

Motivul invocat de AEPD pentru sancționarea adolescentului care a creat și distribuit fotografiile false cu minore dezbrăcate este prelucrarea ilegală de date a unei terțe persoane. În paralel, s-a inițiat și un proces penal pentru diseminarea de pornografie infantilă.

Potrivit unor experți, cuantumul amenzii este nejustificat de mic, având în vedere amploarea prejudiciului. Unele sancțiuni anterioare aplicate pentru publicarea datelor cu caracter personal au însumat până la 60.000 de euro.

„Foarte puține riscuri legate de inteligența artificială provoacă atâta alarmă publică precum crearea de deepfake-uri sexuale fără consimțământ ale minorilor. Nu spun că impunerea unei amenzi de 1 milion de euro în acest caz ar rezolva problema, dar o sancțiune corectă este minimul care se poate cere în acest moment”, spune Jorge García Herrero, avocat și responsabil cu protecția datelor.

Aplicația utilizată pentru crearea videoclipului (ClothOff), precum și platformele prin care acesta a fost diseminat, sunt exceptate de răspundere în temeiul rezoluției AEPD.