Një raport i ri nga Departamenti i Thesarit mbi mënyrën se si sektori i shërbimeve financiare po i afrohet menaxhimit të rreziqeve të sigurisë kibernetike të drejtuara nga AI zbulon sfida të njohura për shumë sektorë – mendoni fuqinë punëtore, cilësinë e të dhënave dhe financimin. Por ai që dallon nga pjesa tjetër zbret në nivelin shumë themelor të të kuptuarit të këtyre rreziqeve: arritja e një marrëveshjeje të gjerë mbi atë që do të thotë inteligjenca artificiale dhe miratimi i termave të përbashkëta që do të lejojnë një kuptim më të madh të teknologjisë.
Raporti i Thesarit i publikuar sot – Menaxhimi i rreziqeve të sigurisë kibernetike specifike të inteligjencës artificiale në sektorin financiar – u urdhërua nga urdhri ekzekutiv i AI i administratës Biden, i botuar tetorin e kaluar. Raporti u përgatit nga Zyra e Agjencisë për Sigurinë Kibernetike dhe Mbrojtjen e Infrastrukturës Kritike, e cila merr përsipër përgjegjësitë e agjencisë së menaxhimit të rrezikut të sektorit të Thesarit për sektorin e shërbimeve financiare.
Agjencia u zotua për të ardhur më shumë në frontin e AI, pasi planifikon të “punojë me sektorin privat, agjencitë e tjera federale, rregullatorët e sektorit financiar federal dhe shtetëror, dhe partnerët ndërkombëtarë në iniciativat kryesore për të adresuar sfidat që rrethojnë AI në sektorin financiar. ”
“Ndërsa ky raport fokusohet në rrezikun operacional, sigurinë kibernetike dhe çështjet e mashtrimit, Thesari do të vazhdojë të shqyrtojë një sërë çështjesh të lidhura me AI, duke përfshirë ndikimin e AI tek konsumatorët dhe komunitetet e margjinalizuara,” tha agjencia.
Raporti i ri ofron dhjetë pika që i quan “mundësi dhe sfida të rëndësishme që AI paraqet për sigurinë dhe qëndrueshmërinë e sektorit të shërbimeve financiare”.
Midis tyre janë rritja e boshllëqeve të aftësive të AI midis institucioneve të mëdha dhe të vogla financiare, duke përfshirë aftësinë për të zhvilluar sisteme të brendshme dhe për të mbledhur të dhëna të mjaftueshme për të trajnuar modele, veçanërisht të dhëna që lidhen me mashtrimet financiare. Një tjetër është hendeku i talenteve të fuqisë punëtore të AI në përgjithësi, por gjithashtu një “hendek i kompetencave teknike” në ekipet që menaxhojnë rreziqet e AI, duke përfshirë ato në fushat ligjore dhe të pajtueshmërisë.
Për më tepër, raporti i Thesarit thekson “një mungesë konsistence në të gjithë sektorin në përcaktimin se çfarë është ‘inteligjenca artificiale'”.
“Institucionet financiare, rregullatorët dhe konsumatorët do të përfitonin shumë nga një leksik i përbashkët specifik për AI”, thuhet në raport.
Thesari tha se raporti i ri bazohet në intervista me 42 shërbime financiare dhe kompani teknologjike dhe zbulon se “shumë pjesëmarrës deklaruan se ‘inteligjenca artificiale’ në vetvete është një term i pasaktë dhe mund të nënkuptojë shumë gjëra të ndryshme. Kishte pak marrëveshje midis pjesëmarrësve për kuptimin e etiketës.”
“Ajo për të cilën të gjithë ranë dakord, megjithatë, ishte nevoja për një leksik të përbashkët për të promovuar mirëkuptimin e përbashkët,” thotë raporti. “Një leksik i përbashkët jo vetëm që do të lehtësonte diskutimin e duhur me palët e treta dhe rregullatorët, por mund të ndihmonte në përmirësimin e të kuptuarit të aftësive që sistemet e AI mund të kenë për të përmirësuar menaxhimin e rrezikut ose për të përforcuar rreziqe të reja.”
“Shqyrtimi i kujdesshëm i terminologjisë mund të ndihmojë në adresimin e mungesës aktuale të qartësisë rreth matjes dhe identifikimit të rreziqeve, veçanërisht me miratimin e shpejtë të AI Gjenerative”, thuhet në raport.
“Për shembull, një firmë përdor ‘inteligjencën e shtuar’ për të zhvendosur përgjegjësinë te përdoruesi duke theksuar se sistemi po rrit inteligjencën e përdoruesit, në vend që të ketë inteligjencën e vet,” thotë raporti. Në mënyrë të ngjashme, përdorimi i ‘halucinacioneve’ për të përshkruar rezultatet e rreme nga AI gjeneruese sugjeron që këto sisteme gjeneruese të AI-së synojnë kuptimin në rezultatet e tyre kur ajo që ata ofrojnë është semantikë probabiliste. Ky antropomorfizëm mund të nënkuptojë në mënyrë mashtruese qëllimin dhe të krijojë një ndjenjë të rreme besimi në një sistem.”
Si hap i parë drejt adresimit të nevojës për një leksik të përbashkët, raporti i ri përfshin një fjalor të bazuar në Kornizën e Menaxhimit të Riskut të Institutit Kombëtar të Standardeve dhe Teknologjisë (NIST).
Në një gjetje të lidhur, raporti gjithashtu tregon nevojën për shpjegueshmëri për zgjidhjet e inteligjencës artificiale të “kutisë së zezë”.
“Shpjegueshmëria e modeleve të avancuara të mësimit të makinerive, veçanërisht AI gjeneruese, vazhdon të jetë një sfidë për shumë institucione financiare”, thuhet në raport. “Sektori do të përfitonte nga kërkimi dhe zhvillimi shtesë mbi zgjidhjet e shpjegueshmërisë për sistemet e kutisë së zezë si AI gjeneruese, duke marrë parasysh të dhënat e përdorura për të trajnuar modelet dhe rezultatet dhe testimin dhe auditimin e fuqishëm të këtyre modeleve.”
“Në mungesë të këtyre zgjidhjeve, sektori financiar duhet të adoptojë praktikat më të mira për përdorimin e sistemeve gjeneruese të AI që u mungon shpjegueshmëria,” ofron raporti.
“Inteligjenca artificiale po ripërcakton sigurinë kibernetike dhe mashtrimin në sektorin e shërbimeve financiare dhe administrata e Biden-it është e përkushtuar të punojë me institucionet financiare për të përdorur teknologjitë në zhvillim duke u mbrojtur nga kërcënimet ndaj elasticitetit operacional dhe stabilitetit financiar”, tha nënsekretarja për financat e brendshme Nellie Liang. publikimi i raportit të ri.
“Raporti i AI i Thesarit bazohet në partneritetin tonë të suksesshëm publiko-privat për adoptimin e sigurt të reve kompjuterike dhe paraqet një vizion të qartë se si institucionet financiare mund të përcaktojnë në mënyrë të sigurt linjat e tyre të biznesit dhe të prishin mashtrimet e drejtuara nga AI në zhvillim të shpejtë,” tha Liang.