Ndërsa inteligjenca artificiale ka pushtuar botën, rritja e saj nuk ka qenë e lirë.
Pasoja e AI multimodale është se sasia e të dhënave dhe fuqisë llogaritëse që përdoret për të trajnuar sistemet moderne të AI është rritur në mënyrë eksponenciale. RK Anandbashkëthemelues dhe shef i produktit në Njohini tha PYMNTS për “Efekti i AI” seriale.
Ai shpjegoi se për të stërvitur disa nga të sotmet më i madhi modelet themelorefirmat duhet të shpenzojnë muaj për të a vit, dhe më shumë se qindra miliona dollarë.
Dhe ajo shpenzimet nuk ndalet pasi modelet të jenë gati. Si vetëm një shembull, MetaParashikimet e veta të vitit fiskal për shpenzimet kapitale për AI dhe zhvillimin metaverse janë vendosur të shkojnë nga 35 miliardë deri në 40 miliardë dollarë deri në fund të këtij viti, pasi në vend që të përshpejtojë kthimin e investimit në AI, Meta planifikon të shpenzojë 5 miliardë dollarë më shumë se sa kishte fillimisht planifikuar.
Kjo është arsyeja pse nxitja e zhvillimit të sistemeve të gjeneratës së ardhshme për zgjidhjet e konkluzioneve të AI që mund të rrisin performancën dhe efikasitetin e energjisë duke ofruar koston totale më të ulët të pronësisë është kaq kritike, tha Anand.
“Përfundimi është vendi ku shkon shkalla dhe kërkesa e AI të realizohetdhe kështu do të jetë ndërtimi i teknologjisë më efikase nga perspektiva e kostos së energjisë dhe kostos totale të operacioneve Celës për AI, tha ai.
Efikasiteti i përmirësuar i energjisë përkthehet drejtpërdrejt në kosto më të ulëta operative.
Lexoni gjithashtu: Pse është kështu matja e ROI të teknologjisë transformuese si GenAI E vështirë
Ndërtimi i infrastrukturës më të mirë të projektuar për ngarkesa më të zgjuara të inteligjencës artificiale
Siç shpjegoi Anand, përfundimi i AI është hapi tjetër pas AI trajnimi, dhe ai me të cilin janë më të njohur përdoruesit përfundimtarë.
Trajnimi i AI është procesi i ndërtimit një model me peshat e duhura dhe algoritmet e dëshiruara hyrëse-dalëse që mund t’i mundësojë sistemit të AI të bëjë konkluzione të sakta mbi një prag të caktuar cilësie. Konkluzioni i AI është procesi i sistemit të AI që prodhon parashikime ose përfundime që plotësojnë atë prag të prodhimit.
“Përfundimi është kur modeli nuk po mëson asgjë të re, por kur ai bën punën e tij për t’iu përgjigjur kërkesave të përdoruesit ose një thirrjeje API,” tha Anand. “Dhe kjo detyrë tani mund të optimizohet.”
Pothuajse çdo aplikim i AI në botën reale mbështetet në përfundimin e AI, dhe konkluzioni paraqet një fuqi e vazhdueshme dhe kosto llogaritëse. Nëse një model i AI është në përdorim aktiv, ai vazhdimisht po bën konkluzione shtesë, të cilat munden përfundojnë duke qenë mjaft e shtrenjtë, të paktën nëse ekonomia e njësisë së një sistemi AI nuk është e optimizuar në mënyrë strategjike për të kundërshtuar atë kosto.
“Trajnimi është një qendër kostoje e pashmangshme,” shpjegoi Anand. “Duhet të shpenzoni shumë para për të ndërtuar modelet. Por konkluzioni mund të jetë një qendër fitimi, dhe kjo për shkak se elementët që lidhen me përfundimin janë se sa më kushton mua për të drejtuar atë sistem konkluzion dhe sa jam une do të tarifojë klientët për ta përdorur atë, dhe është atje një diferencial që rezulton në një fitim për mua për të ofruar atë shërbim? Ekonomia e konkluzionit ka më shumë rëndësi.”
Shiko gjithashtu: Recogni mbledh 102 milionë dollarë për të përmbushur llogaritjen e aplikacioneve të AI Kërkesa
Shkurtimi i peshave të tepërta dhe zvogëlimi i saktësisë së modelit përmes kuantizimit janë dy metoda të njohura për dizajnimin e modeleve më efikase që performojnë më mirë në kohën e përfundimit.ai shtoi.
Sepse deri në 90% të jetës së një modeli të AI është shpenzuar në modalitetin e përfundimit, pjesa më e madhe e kostos dhe gjurmës së energjisë së AI është gjithashtu aty, duke e bërë optimizimin e saj dhe uljen e kostos së operacioneve një propozim tërheqës.
“Ndërmarrjet do të fillojnë të marrin modele që janë të fuqishme, kanë cilësi të lartë dhe t’i sjellin ato në shtëpi, pavarësisht nëse i bëjnë ato në cloud ose në prem, dhe t’i përdorin ato për të marrë produktivitet më të lartë, kthime më të larta nga investimi dhe për të bërë detyra konkluzionesh. si punë e përditshme”, tha Anand. “Dhe për këtë, përfundimi duhet të jetë më efikasi, duhet të jetë më ekonomiki, duhet të jetë më efikasi në fuqi.”
Pa filluar të ketë më shumë kuptim ekonomia e njësisë së AI nga baza e kostos, industria “do të jetë në telashe”, shpjegoi Anand, duke vënë në dukje se peizazhi i biznesit vetëm po gjeneron më shumë të dhëna dhe ne kemi arritur një pikë kthese ku vetëm AI Zgjidhjet janë pozicionuar më së miri për ta analizuar dhe njohur në mënyrë efektive Celës modele.
“Nuk ka asnjë mënyrë njerëzore për të analizuar, kuptuar dhe gdhendur ato të dhëna,” tha ai. “Dhe kështu, ju keni nevojë për makina të mëdha AI.”
“Njerëzit do të përdorin mjete dhe sisteme vetëm kur rrisin produktivitetin, por nuk bëjnë më shumë kosto se sa kushton sot për të zgjeruar dhe drejtuar një biznes,” tha Anand. “Kompanitë nuk mund të kenë rritje të mëdha në shpenzimet operative vetëm sepse duan të përdorin AI. Sot jemi në një rregull 80/20, ku është 80% e llogaritjes duke u përdorur për trajnimin e AI, dhe kjo do të zhvendoset në 80% për përfundimin kur më shumë prej nesh përdorin AI për punën tonë të përditshme.”
Për të gjithë mbulimin e PYMNTS AI, abonohuni në të përditshmen Buletini i AI.