Një drejtor atletik i shkollës së mesme në Baltimore u arrestua dhe u akuzua të enjten për përdorimin e inteligjencës artificiale për të imituar një drejtori në një regjistrim zanor që përfshinte komente nënçmuese për studentët dhe stafin, thanë autoritetet.
Dazhon Darien, një mësues i edukimit fizik dhe drejtor atletik në shkollën e mesme Pikesville, akuzohet për përdorimin e softuerit të inteligjencës artificiale për të falsifikuar një regjistrim zëri të drejtorit të shkollës Eric Eiswert, sipas shefit të policisë së qarkut Baltimore, Robert McCullough. Regjistrimi i fabrikuar u bë viral pasi qarkulloi në mediat sociale në janar, duke shkaktuar zemërim dhe dënim të gjerë në mesin e komunitetit të Shkollave Publike të Qarkut Baltimore.
“Tani kemi prova bindëse se regjistrimi nuk ishte autentik. Departamenti i Policisë së Qarkut Baltimore arriti në atë përcaktim pasi kreu një hetim të gjerë,” tha McCullough gjatë një konference shtypi të enjten. “Bazuar në këto gjetje dhe hetime të mëtejshme, është përcaktuar se regjistrimi është krijuar përmes përdorimit të teknologjisë së inteligjencës artificiale”.
Darien, 31 vjeç, u arrestua të enjten dhe përballet me disa akuza, duke përfshirë vjedhjen, përndjekjen, ndërprerjen e operacioneve të shkollës dhe hakmarrjen ndaj një dëshmitari, tha policia. Pas një paraqitjeje në gjykatë të enjten pasdite, Darien u lirua me një garanci prej 5,000 dollarësh të pasiguruar.
Scott Shellenberger, avokati i shtetit të Baltimore County, tha të enjten se rasti duket të jetë një nga të parët e këtij lloji në mbarë vendin. Ai vuri në dukje se ligjvënësit e shtetit duhet të përditësojnë legjislacionin për të përfshirë teknologjinë e re.
Rasti Baltimore është i fundit në një rritje të keqpërdorimit të inteligjencës artificiale, ose AI, në shkolla në të gjithë vendin. Shumica e rasteve përfshijnë “deepfakes” ose media sintetike të krijuara nga AI, të cilat janë imazhe, video dhe audio që manipulojnë në mënyrë dixhitale pamjen, zërin ose veprimet e një individi.
Vitin e kaluar, shkollat kanë luftuar për të kontrolluar teknologjinë pasi studentët meshkuj në shkollën e mesme dhe të mesme përdorin AI për të krijuar foto nudo të shokëve të klasës. Ndërsa disa raste kanë rezultuar në arrestime, të tjera janë përballur me pasoja më pak të rënda për shkak të politikave të ndryshme të rrethit dhe ligjeve të shtetit.
Deepfakes janë pjesë e zgjedhjeve të 2024:A do t’i rregullojë qeveria federale?
Policia: Regjistrimi i rremë mund të jetë bërë si hakmarrje ndaj hetimit të shkollës
Departamenti i Policisë së Qarkut Baltimore nisi një hetim më 17 janar pasi një regjistrim zëri i dyshuar i Eiswert duke bërë komente raciste dhe antisemitike për studentët dhe stafin u postua në Instagram. Regjistrimi shkaktoi një përgjigje masive në internet dhe nxiti një hetim nga distrikti shkollor.
Në regjistrim, zëri tha se studentët me ngjyrë nuk ishin në gjendje të “provonin rrugën e tyre nga një qese letre” dhe pyeti “sa e vështirë është t’i bësh këta studentë të përmbushin pritshmëritë e tyre të nivelit të klasës”. Regjistrimi bëri gjithashtu komente poshtëruese për hebrenjtë dhe përmendte emrat e anëtarëve të stafit që “nuk duhej të ishin punësuar kurrë”.
Baltimore Banner raportoi se anëtarët e komunitetit të shkollës besonin se Eiswert i kishte bërë ato komente diskriminuese. Eiswert mohoi të bënte komente dhe nuk ka punuar në shkollë që nga fillimi i hetimit, sipas gazetës.
Si pjesë e hetimit të policisë, McCullough tha se hetuesit punuan me analistë mjeko-ligjorë nga FBI dhe Universiteti i Kalifornisë, Berkeley, të cilët përcaktuan se regjistrimi nuk ishte autentik. “Rezultatet nga ajo analizë treguan se regjistrimi përmbante gjurmë të përmbajtjes së gjeneruar nga AI,” tha McCullough.
Sipas McCullough, policia beson se Darien e ka fabrikuar regjistrimin në shenjë hakmarrjeje ndaj Eiswert, i cili po ndiqte një hetim për keqpërdorimin e mundshëm të fondeve të shkollës në atë kohë.
Oficerët e Autoritetit të Transportit të Maryland-it e morën Darien në paraburgim në Aeroportin Ndërkombëtar Thurgood Marshall në Baltimore/Washington të enjten në mëngjes, tha McCullough. Darien po përpiqej të hipte në një fluturim kur u ndalua dhe u pyet se si ishte paketuar arma e tij e deklaruar e zjarrit.
Oficerët kontrolluan historikun e Darienit dhe u shfaq një urdhër arresti i hapur për të, shtoi McCullough.
Shkollat Publike të Qarkut Baltimore thanë në një deklaratë se distrikti po merr “veprimet e duhura” kundër sjelljes së Darien, duke përfshirë një rekomandim për përfundimin.
Ngritja e deepfakes: ‘Hyrja në një kufi të ri, thellësisht shqetësues’
Deepfakes shpesh përdoren me qëllim të keq ose për të përhapur dezinformata. Sipas Qendrës për Demokraci dhe Teknologji, mediat sintetike të krijuara nga AI tashmë janë “provuar se janë forca të dëmshme në shkolla, pasi studentët krijojnë falsifikime të thella të bashkëmoshatarëve të tyre në poza intime për të tallur dhe ngacmuar njëri-tjetrin”. Ka pasur edhe raste të studentëve që kanë krijuar “deepfake” të mësuesve të tyre.
“Është e qartë se ne po hyjmë gjithashtu në një kufi të ri, thellësisht shqetësues,” tha të enjten ekzekutivi i qarkut Baltimore, Johnny Olszewski. “Ndërsa ne vazhdojmë të përqafojmë teknologjinë në zhvillim dhe potencialin e saj për inovacion dhe të mirën sociale, ne duhet të jemi vigjilentë ndaj atyre që e kanë përdorur atë për qëllime keqdashëse.”
Prillin e kaluar, një student në Houston, Teksas, u akuzua për ndryshimin dixhital të fotografive të një mësuesi dhe ndarjen e atyre imazheve të qarta në internet, raportoi FOX 26 Houston.
Në dhjetor, dy djem të shkollës së mesme në Florida u arrestuan me dyshimin se përdornin një aplikacion AI për të krijuar foto nudo të shokëve të tyre të klasës, të cilët ishin midis moshës 12 dhe 13 vjeç, sipas një urdhër arresti. Djemtë u akuzuan për krime të shkallës së tretë sipas një ligji shtetëror të vitit 2022.
Dhe në shkurt, administratorët e shkollave akuzuan nxënësit e shkollave të mesme në Beverly Hills, Kaliforni, për përdorimin e AI për të krijuar foto të rreme nudo të shokëve të tyre të klasës, sipas NBC News. Mbikëqyrësi i tha NBC News se imazhet përfshinin fytyrat e studentëve të manipuluara në mënyrë dixhitale në trupa nudo.
Kontribuar: Zachary Schermele dhe Natasha Lovato, USA TODAY