Google Cloud upozorava da AI bezbednost mora biti temelj platforme

Uvođenje veštačke inteligencije u poslovne procese donelo je revoluciju, ali je istovremeno otvorilo Pandorinu kutiju novih sajber pretnji. Dok se kompanije širom sveta trude da implementiraju AI alate, bezbednosni protokoli često kaskaju za tehnologijom. Na nedavno održanom događaju u Los Anđelesu, operativni direktor (COO) kompanije Google Cloud, Frensis de Souza, smireno je analizirao ovaj tranzicioni period, poslavši jasnu poruku: bezbednost ne sme biti naknadni dodatak, već polazna tačka svake AI strategije.

Međutim, dok Google savetuje druge kako da se zaštite, ekscesi na njihovoj sopstvenoj platformi pokazuju da u ovoj trci niko nije bezgrešan i da svi, pa i najveći tehnološki giganti, uče u hodu.

Opasnost od „Shadow AI“ i važnost platformskog pristupa

De Souza naglašava da uspešna AI strategija ne može postojati izolovano – ona je neraskidivo povezana sa strategijom upravljanja podacima i rigoroznom bezbednošću. Umesto parcijalnih rešenja, organizacije moraju usvojiti platformski pristup koji od samog početka uključuje kontrolu, upravljanje podacima i transparentnost.

Poseban alarm stručnjaci podižu zbog fenomena poznatog kao „Shadow AI” (AI u senci). Reč je o situacijama u kojima zaposleni, u želji da ubrzaju svoj svakodnevni rad, samoinicijativno koriste komercijalne i neproverene AI alate bez znanja i odobrenja IT sektora kompanije. Kroz takve nezaštićene kanale, poverljivi korporativni podaci, finansijski izveštaji ili kodovi softvera mogu lako dospeti u spoljne baze podataka, čime se direktno krši poslovna tajnost.

Dodatni izazov leži u činjenici da moderne kompanije retko zavise od samo jednog cloud okruženja. Čak i kada zvanično koriste usluge jednog dobavljača, one su kroz razne SaaS aplikacije i partnerske servise povezane sa drugim platformama. Zbog toga je neophodan jedinstven i dosledan bezbednosni štit koji funkcioniše kroz različite cloud sisteme i različite AI modele.

Brzina napada pala sa osam sati na samo 22 sekunde

Tradicionalni načini odbrane od hakera postali su praktično neupotrebljivi jer su moderni napadi prebrzi za ljudsku reakciju. De Souza je izneo frapantan podatak:

Prosečno vreme koje protekne od prvog upada hakera u sistem do sledeće, destruktivne faze napada palo je sa nekadašnjih osam sati na svega 22 sekunde.

Istovremeno, front odbrane se drastično proširio. Više nije dovoljno obezbediti samo klasičnu računarsku mrežu. Danas su meta sami AI modeli, podaci koji se koriste za njihovu obuku, autonomni agenti i takozvani promptovi (tekstualne komande).

Poseban bezbednosni rizik predstavljaju AI agenti koji se kreću kroz interne mreže kompanija. Ako njihove dozvole nisu precizno konfigurisane, ovi pametni entiteti mogu tokom pretrage „iskopati“ davno zaboravljene SharePoint servere, stare repozitorijume dokumenata i loše podešene baze podataka. Ono što je godinama stajalo netaknuto i skriveno, AI agenti mogu u sekundi učiniti vidljivim i ranjivim za eksploataciju.

Zbog toga odbrana mora delovati brzinom mašine. Industrija se ubrzano kreće ka „AI-native” modelu zaštite, gde napredni softverski agenti autonomno prepoznaju i blokiraju pretnje u realnom vremenu, dok ljudski timovi imaju ulogu vrhovnog nadzora. To je razlog zašto AI bezbednost više nije samo tehnička tema za IT sektor, već prioritetno pitanje za upravne odbore i izvršne direktore velikih kompanija.

Realnost na terenu: Kada Google-ov sistem zakaže

Da teorija i praksa često ne idu ruku pod ruku, najbolje pokazuju nedavni tekstovi uglednog tehnološkog portala The Register. Naime, zabeleženi su ozbiljni propusti unutar samog Google Cloud sistema koji su programere koštali na hiljade dolara.

Korisnici su počeli da dobijaju astronomske, petocifrene račune zbog neovlašćenih, masovnih API poziva ka Google-ovim naprednim Gemini AI modelima. Do zloupotrebe je dolazilo preko bezbednosnih ključeva koji su prvobitno bili namenjeni za bezazlene funkcije poput integracije Google Maps (Google Mapa). Da stvar bude gora, automatski limiti na računima korisnika bili su podignuti bez njihovog jasnog pristanka ili eksplicitnog odobrenja.

Iako je Google u određenom broju slučajeva prihvatio odgovornost i refundirao novac oštećenim programerima, kompanija je zvanično saopštila da ne planira promenu načina na koji sistem automatski skalira potrošnju i povećava račune.

Ranjivost od 23 minuta

Dodatno ulje na vatru dolilo je nezavisno istraživanje bezbednosne firme Aikido. Oni su otkrili kritičnu sistemsku manu u Google-ovoj infrastrukturi:

Nakon što korisnik uoči prevaru i obriše kompromitovani API ključ, taj isti ključ ostaje aktivan i upotrebljiv još do 23 minuta.

Toliko je, naime, potrebno sistemu da informaciju o povlačenju ključa proširi kroz celokupnu, masivnu infrastrukturu Google Clouda. U svetu gde se napadi mere sekundama, prozor od 23 minuta ostavlja hakerima više nego dovoljno vremena da nanesu nepopravljivu finansijsku i podatkovnu štetu.

Izlaganje Frensisa de Souze donosi tačnu i preko potrebnu mapu puta za digitalnu bezbednost modernog doba. Ipak, propusti na domaćem terenu dokazuju širu, surovu realnost: u eri veštačke inteligencije niko nema apsolutnu kontrolu. Svi, uključujući i one koji bezbednosna rešenja razvijaju i prodaju drugima, i dalje uče u hodu i prilagođavaju se pretnjama koje nastaju u realnom vremenu.

Foto: Google Cloud

Autor: Portal ObjektivNI.rs