Keress valós vagy képzelt szituációt, amikor adatbázisokat használtak fel AI-modell tanítására. Elemezd jogszerűségét, és tégy javaslatot. Max. 4000 karakter.
Két eset összehasonlítása: valós és képzelt szituáció – jogszerűségi elemzés az EU AI Act és GDPR tükrében.
Valós amerikai vállalat, amelyet több EU-s adatvédelmi hatóság bírságolt meg a GDPR és az EU AI Act megsértéséért.
Arcfelismerő keresőrendszer, elsősorban bűnüldöző szervek számára. Egyetlen fénykép feltöltésével azonosítja az ismeretlen személyt az internetes képadatbázisból.
Mélytanulás – konvolúciós neurális hálózat (CNN). Részben felügyelt (névtaggal ellátott arcpárok), részben önfelügyelt (self-supervised kontraszt-tanulás). Manuális emberi címkézés nem volt jellemző – a metaadatok (pl. Facebookos névtag) végezték a párosítást.
Felügyelt + önfelügyelt hibrid
CNN – konvolúciós neurális hálózat
Minimális – metaadatok alapján automatikus
Az arcképek tömeges, nem célzott, nyilvánosan elérhető forrásokból történő gyűjtése biometrikus adatbázis-építéshez kifejezetten tiltott gyakorlat. Bűnüldözési célú felhasználás: nagy kockázatú kategória (III. melléklet).
Biometrikus adatok kezeléséhez explicit hozzájárulás vagy törvényes kivétel szükséges (9. cikk). Érintetti tájékoztatás, opt-out lehetőség nem volt biztosítva.
⚠ Egyik bírságot sem fizette be a Clearview – az EU extraterritoriális jogérvényesítésének korlátai miatt.
Kizárólag explicit, tájékoztatott hozzájárulásra épülő adatgyűjtés; szintetikus adatok alkalmazása valós arcképek helyett.
Átlátható adatkezelési tájékoztató, törlési jog tényleges biztosítása minden érintett számára.
Uniós szintű végrehajtási mechanizmus megerősítése: GDPR 27. cikk szerinti EU-képviselet kikényszerítése harmadik országbeli cégeknél.
Képzelt magyarországi edutech startup rendszere, amely középiskolai diákok morzsolódási kockázatát jelzi előre MI segítségével.
Az első félév adatai alapján előrejelzi, hogy egy diák kimarad-e a tanulmányaiból („morzsolódik-e"), illetve megbecsüli a továbbtanulás valószínűségét. Az iskola igazgatóinak, osztályfőnökeinek és a fenntartónak készít egyéni előrejelzéseket.
Felügyelt mélytanulás – gradient boosting + neurális hálózat hibrid architektúra. ~12 000 tanuló (5 tanév). A célváltozó visszamenőleg, automatikusan lett megcímkézve – külső audit nélkül.
Nagy kockázatú – III. melléklet, 3. pont (oktatás): az oktatási pályát befolyásoló MI-rendszerek kiterjedt kötelezettségekkel járnak.
A lakóhely és szülői foglalkozás korrelálhat etnikai és anyagi helyzettel – szisztematikus hátrány hátrányos helyzetű csoportoknál.
Kiskorúak profilalkotása (22. cikk). Szülői hozzájárulás és tájékoztatás hiányzik. Automatikus határozat érintetti jogorvoslat nélkül.
Szocioökonómiai és lakóhelyi adatok kizárása, vagy torzításvizsgálat (bias audit) elvégzése független féltől.
Átlátható tájékoztatás a diákoknak és szüleiknek, opt-out lehetőséggel (GDPR 13–14. cikk).
A rendszer csak döntéstámogatásként alkalmazható – automatikus határozat nem hozható belőle.
EU AI Act 43–49. cikk: kockázatértékelési dokumentáció és uniós nyilvántartásba vétel.
Mindkét esetben: jogszerűtlen adatkezelés · GDPR-sértés · EU AI Act-kötelezettségek elmulasztása