Da li Srbija može i treba da razvija svoje sisteme veštačke inteligencije za vojne svrhe?

Vest da je Republika Srbija nabavila oružje sa podrškom veštačke inteligencije od izraelske kompanije „Elbit sistems“ izazvala je značajnu pažnju domaće i regionalne javnosti. Iako su se špekulacije o ovoj nabavci pojavljivale još od januara ove godine, zvanična objava iznenadila je mnoge.

Ovaj događaj pokreće nekoliko ključnih pitanja od strateškog značaja. Prvo, koji su razlozi što se Srbija opredeljuje za nabavku gotovih tehnoloških rešenja od stranih kompanija i da li takva odluka nosi potencijalne bezbednosne rizike po nacionalni suverenitet? Drugo, da li Srbija poseduje kapacitete, odnosno da li bi trebalo da ulaže u razvoj sopstvenih sistema veštačke inteligencije za vojne potrebe, kako bi ojačala tehnološku nezavisnost?

Jedan od potencijalnih pravaca razvoja mogao bi biti sistem za podršku odlučivanju namenjen Generalštabu Vojske Srbije. Takav sistem mogao bi se koristiti u ratnim uslovima, ali i u mirnodopskom periodu za obuku oficira, vojne vežbe i strateško planiranje.

Operativni koncept sistema veštačke inteligencije za podršku Generalštabu bi mogao da ubrza i unapredi obradu informacija, omogućavajući brže i preciznije donošenje odluka. Sistem bi spajao vojne i javne podatke u jedinstvenu sliku, izračunavao moguće scenarije delovanja sa procenom rizika i ograničenja, i pripremao jasne brifove za oficire, uz mogućnost predviđanja geopolitičkih uticaja – na primer, kako bi određene odluke uticale na odnose u regionu ili reakcije velikih sila. Ovaj sistem bi se koristio u kriznim situacijama za donošenje odluka pod pritiskom, ali i u mirnodobskim uslovima za trening oficira, testiranje sistema i simulacije. Konačna odluka uvek ostaje na ljudima, čime se obezbeđuje etička i pravna odgovornost.

Ključna prednost ovog sistema je u tome što omogućava Generalštabu da brže razume složene situacije i donosi bolje odluke, ali postoje i rizici ukoliko bi se oslanjali na strane tehnologije ili vojne sisteme. Korišćenje tuđih tehnologija moglo bi dovesti do opasnosti od špijunaže, jer strani dobavljači mogu ugraditi skrivene mehanizme za prikupljanje podataka. Takođe, algoritmi razvijeni u inostranstvu često nisu transparentni – način na koji su trenirani ili testirani može biti nepoznat, što može dovesti do pristrasnosti ili grešaka u analizi, posebno u osetljivim vojnim kontekstima. Zato je ključno da Srbija razvije sopstveni sistem, koristeći domaće stručnjake i komercijalno dostupnu opremu, kako bi zadržala kontrolu nad tehnologijom i podacima.

Slični sistemi za podršku odlučivanju već postoje u svetu, suprotno mogućim tvrdnjama da takvih rešenja nema. Na primer, SAD koriste „Project Maven“ za analizu obaveštajnih podataka, Ukrajina primenjuje sisteme poput „Kropyva“ za artiljerijsku podršku, a Izrael ima sisteme kao što je „Lavender“ za obradu podataka u operacijama. Ovi sistemi, iako prilagođeni lokalnim potrebama, dele slične principe: analiziraju podatke, pružaju preporuke i zadržavaju ljudsku kontrolu. Ovo pokazuje da je koncept izvodljiv, ali zahteva prilagođavanje specifičnim vojnim i geopolitičkim potrebama Srbije.

Sa stanovišta međunarodnog prava, uključujući međunarodno humanitarno pravo (IHL) i pravila angažovanja (ROE), razvoj ovakvog sistema je potpuno dozvoljen, pod uslovom da ostaje pod ljudskom kontrolom i da se ne koristi za automatizaciju upotrebe sile ili odabir meta. Međunarodni standardi, poput onih koje primenjuju NATO zemlje, naglašavaju važnost „čoveka u petlji“ (HITL) pristupa, što je ugrađeno u ovaj koncept kroz stroge etičke i pravne kontrole.

Srbija bi, dakle, mogla da razvija i koristi ovakav sistem bez kršenja međunarodnih normi, uz uslov da obezbedi transparentnost i poštovanje etičkih standarda. Takođe, Srbija nije pravno obavezna da obavesti druge zemlje ili međunarodne organizacije o razvoju AI sistema za podršku odlučivanju, jer on nije oružje niti krši međunarodno pravo. Međunarodno humanitarno pravo (IHL) i pravila angažovanja (ROE) dozvoljavaju razvoj ovakvih sistema, pod uslovom da ostanu pod ljudskom kontrolom, što je ugrađeno u predloženi koncept.

Kako bi izgledao sistem?

Ovaj sistem veštačke inteligencije bi kombinovao podatke iz vojnih izvora sa onima koji su dostupni javnosti, stvarajući jedinstvenu sliku situacije. Na osnovu toga, sistem bi izračunavao različite moguće scenarije delovanja (napada i odbrane), uključujući potencijalne rizike i ograničenja. Zatim bi te informacije predstavljao u obliku jasnog izveštaja, namenjenog višim oficirima kao što su pukovnici, majori i generali. Važno je naglasiti da sistem samo nudi sugestije i analize – konačna odluka uvek ostaje u rukama ljudi, čime se osigurava odgovornost i kontrola.

Sistem bi se koristio na različitim nivoima vojske, počevši od brigade, preko komande kopnene vojske, pa sve do Generalštaba. To znači da bi na nižim nivoima, kao što je brigada, sistem pomogao u svakodnevnim operacijama, poput planiranja lokalnih akcija. Na višim nivoima, kao što je Generalštab, fokus bi bio na široj strategiji, uključujući koordinaciju sa drugim jedinicama i procenu nacionalnih implikacija. Ovo omogućava da se informacije dele efikasno, od terena do vrha, čineći celu strukturu vojske povezanijom i brže reagujućom.

Što se tiče oblasti primene, sistem bi se bavio stvaranjem svesti o situaciji, procenom rizika, proverom da li su logistički planovi izvodljivi (na primer, da li ima dovoljno resursa za akciju), analizom mogućih eskalacija sukoba, uticajem na civile i humanitarne aspekte, kao i rizicima u komunikaciji (poput širenja lažnih informacija). AI sistem za podršku odlučivanju Generalštaba vojske Srbije u ratnim uslovima bi analizirao podatke sa terena i davao praktične predloge. Na primer, ako se planira napad u planinskom području, upozorio bi da magla i strm teren otežavaju kretanje tenkova i da gorivo traje samo 48 sati, predlažući manje pešadijske jedinice sa dronovima. Ili, ako neprijateljski tenkovi idu ka mostu, sistem bi uočio rizik od zagušenja puteva pri napadu i predložio gađanje njihovog skladišta goriva da se uspore uz manji rizik za naše snage.

Ipak, postoje jasne zabrane: sistem ne bi izdavao naređenja, ne bi birao mete niti automatski aktivirao upotrebu sile. Ovo je ključno da bi se sprečilo da mašina preuzme kontrolu nad kritičnim odlukama koje zahtevaju ljudski sud, etiku i odgovornost. Umesto toga, on služi samo kao pomoćnik, ostavljajući sve akcije pod ljudskom kontrolom.

Organizacija

Sistem bi bio organizovan u vidu stalnog centra za analizu, sa timovima koji rade u različitim sektorima. Centralni deo bi bio „Watchfloor“ – prostorija koja radi non-stop, 24 časa dnevno, sedam dana u nedelji, sa dežurnim timom koji nadgleda i reaguje na nove informacije. Ovo bi bilo poput kontrolnog centra u filmovima, ali fokusirano na analizu podataka.

Sektor za prikupljanje podataka (ingest) bi se bavio sakupljanjem i obeležavanjem informacija, uključujući njihov stepen tajnosti, poreklo i vreme kada su nastale. Ovo osigurava da su podaci organizovani i pouzdani od samog početka.

Sektor za analitiku bi koristio modele za obradu slika, teksta i geografskih podataka, računajući moguće scenarije i proveravajući njihovu tačnost.

Sektor za verifikaciju i „crveni tim“ (red-team) bi testirao sistem tako što bi simulirao obmane ili greške, kako bi se osiguralo da je otporan na manipulacije.

Sektor za prezentaciju bi pripremao izveštaje i interaktivne mape, čineći informacije lako razumljivim.

Ova organizacija bi se odvijala u bezbednim lokacijama vojske, sa fokusom na kontinuiran rad, posebno u kriznim situacijama.

Kako bi radio ovaj sistem

Rad sistema bi se odvijao u fazama, sa jasnim koracima da se osigura tačnost i brzina.

Sistem počinje prikupljanjem informacija iz različitih izvora, kao što su dronovi, radari, sistemi za praćenje signala, logistički podaci o zalihama, vremenske prognoze, vesti iz medija, javni postovi na društvenim mrežama i komercijalni satelitski snimci. Automatski se proverava da li su podaci verodostojni, aktuelni i bez duplikata, a rezultat je sirovi potok podataka sa dodatnim informacijama o izvoru, pouzdanosti i klasifikaciji.

Zatim sistem analizira slike da bi otkrio i pratio promene na terenu, obrađuje tekst da bi izdvojio ključne aktere, događaje i tvrdnje, procenjujući njihovu pouzdanost, i sve postavlja na geografsku mapu sa terenom, putevima i važnim objektima. Na kraju ove faze, stvaraju se pregledne table sa indikatorima, toplotnim mapama koje pokazuju gde su aktivnosti intenzivne, i vremenskim nizovima događaja.

U sledećem koraku, unose se ciljevi ili efekti koji se razmatraju, poput „obezbediti oblast“, umesto konkretnih naređenja. Sistem računa više opcija delovanja, procenjujući rizik eskalacije sa objašnjenjem, izvodljivost u pogledu vremena i resursa, potencijalnu štetu za civile i infrastrukturu, kao i rizike od dezinformacija, dajući kao rezultat uporednu tabelu i mapu sa jasnim pretpostavkama.

Paralelno, „crveni tim“ simulira obmane, poput lažnih vesti ili manipulisanih video snimaka, da bi testirao otpornost sistema, dok se podaci upoređuju sa prošlim slučajevima i različitim izvorima da bi se osigurala tačnost.

Na kraju, sistem priprema finalni izveštaj u formatu „Šta znamo / Šta pretpostavljamo / Šta ne znamo“, predstavljajući tri najrealnije opcije sa prednostima i nedostacima, uz panel pretpostavki na svakoj vizuelizaciji. Odluke ostaju u rukama komandujućih, a sve se arhivira za buduće preglede.

AI sistem za podršku odlučivanju Generalštaba vojske Republike Srbije mora da obrađuje ogromne količine podataka, poput snimaka sa dronova, obaveštajnih izveštaja, satelitskih slika, vesti, verifikovanih postova na društvenim mrežama, podataka o zalihama (municija, gorivo), geografskih informacija (teren, putevi, mostovi, vremenski uslovi) i diplomatskih događaja. Za svaki izvor se beleži pouzdanost, datum revizije i ograničenja upotrebe, obezbeđujući da su podaci tačni i upotrebljivi. Da bi se ovi podaci skladištili i obrađivali, koriste se sistemi za brzi protok informacija u realnom vremenu i baze podataka sposobne da čuvaju preko 1 petabajta informacija – to je dovoljno za milione sati video-snimaka ili tekstova. Ove baze uključuju specijalizovane formate za mape terena i puteva, kao i grafičke baze za praćenje veza između aktera ili događaja. Analiza se vrši pomoću naprednih alata za obradu velikih količina podataka, programa koji prepoznaju objekte na slikama, poput tenkova ili zgrada, alata za razumevanje teksta na srpskom i engleskom za izdvajanje ključnih informacija iz izveštaja, i simulacija za predviđanje ishoda različitih scenarija. Za rad sistema potrebno je 20 do 40 moćnih grafičkih procesora, sličnih onima u vrhunskim gejming računarima, brze mrežne veze za nesmetan prenos podataka, rezervna lokacija za slučaj kvara i mreža podeljena na odvojene segmente radi zaštite od sajber napada. Bezbednost je osigurana šifrovanjem podataka, klasifikacijom osetljivih informacija i detaljnom evidencijom svih aktivnosti u sistemu.

Šta je potrebno da bi se napravio jedan ovakav sistem

Izgradnja AI sistema za podršku odlučivanju Generalštaba vojske Republike Srbije zahteva dobro organizovan tim i jasan plan. Za razvoj sistema, koji bi trajao između 24 i 36 meseci, potrebno je angažovati 60 do 90 stručnjaka. Ovaj tim bi uključivao 12–18 eksperata za mašinsko učenje, obradu slika i geografske analize, koji bi kreirali modele za analizu podataka, kao i 8–12 specijalista za obradu teksta, koji bi se bavili analizom izveštaja i poruka. Takođe, 8–10 inženjera bi radilo na upravljanju podacima i platformama, obezbeđujući da sistem nesmetano radi, dok bi 6–8 operativaca nadgledalo svakodnevne procese. Za korisničko iskustvo, poput intuitivnih interfejsa i vizuelizacija, bilo bi zaduženo 6–8 stručnjaka, a 6–10 bi se fokusiralo na sajber-bezbednost, štiteći sistem od spoljnih pretnji. Menadžment projekta, sa 6–8 ljudi, bi koordinirao rad, dok bi 6–10 oficira specijalizovanih za vojnu doktrinu i etiku obezbedilo usklađenost sa pravilima i moralnim standardima.

Kada sistem zaživi, za njegovo stalno funkcionisanje bilo bi potrebno 40 do 60 ljudi. Ova ekipa bi uključivala analitičare koji tumače podatke, tim za prikupljanje informacija iz javnih izvora, poput medija, i administratore koji održavaju sistem. Za testiranje bi se angažovalo 60 do 100 ljudi, uključujući oficire iz različitih jedinica i instruktore, koji bi proveravali pouzdanost sistema kroz simulacije zasnovane na prošlim događajima, veštačkim podacima i namernim pokušajima obmane.

Obuka korisnika trajala bi 40 do 60 sati, uz dodatne 2 do 3 vežbe godišnje, kako bi oficiri naučili da efikasno koriste sistem. Uspeh bi se merio kroz brzinu izrade izveštaja, procenat tačnih informacija, uočene greške i ispravke nakon testiranja.

Što se tiče troškova, minimalna verzija sistema mogla bi se razviti za 12 do 18 meseci uz budžet od 4 do 6 miliona evra, pokrivajući osnovne funkcije poput prikupljanja podataka i jednostavnih analiza. Puna verzija, sa naprednim mogućnostima kao što su logistička planiranja i rigorozne kontrole, zahtevala bi 24 do 30 meseci i 10 do 15 miliona evra. Godišnje održavanje bi koštalo između 3 i 5 miliona evra, uključujući troškove za infrastrukturu, ažuriranje softvera i plate zaposlenih.

Može li Srbija da sama napravi ovakav sistem?

Srbija ima sve potrebne kapacitete da samostalno razvije sistem veštačke inteligencije za podršku odlučivanju Generalštaba vojske. Ovaj sistem bi ubrzao analize, smanjio greške i učinio odluke transparentnijim, uz zadržavanje čoveka kao konačnog odlučioca.

Nije potrebna napredna proizvodnja hardvera, poput čipova, jer se sistem može sastaviti od komercijalno dostupne opreme i domaćeg softvera. Stručnjaci sa tehničkih fakulteta (Beograd, Novi Sad, Niš, Kragujevac), iz IT kompanija i vojnih institucija, poput Vojnotehničkog instituta, mogu da realizuju projekat uz dobru organizaciju, jasne procedure i kontrolu. Ovo omogućava korišćenje lokalnih talenata bez zavisnosti od stranih dobavljača za ključne komponente, čineći projekat izvodljivim u roku od 12–18 meseci za minimalnu verziju.

Pilot projekat, odnosno prototip, mogli bi lako da naprave entuzijasti – studenti, istraživači ili IT stručnjaci – u saradnji sa vojskom. Ovaj prototip bi poslužio kao osnova koju bi vojska Republike Srbije dalje razvijala, dodajući složenije funkcije poput naprednih analitika i simulacija.

Prema međunarodnom pravu, uključujući međunarodno humanitarno pravo (IHL) i pravila angažovanja (ROE), Srbija ima pravo da razvija i koristi ovakav sistem, jer on ne izdaje naređenja, ne bira mete niti automatizuje silu. Ovo je u skladu sa globalnim standardima, poput onih u NATO zemljama, gde se naglašava „čovek u petlji“ (HITL) pristup.

Razvoj AI sistema za podršku odlučivanju Generalštaba vojske Republike Srbije izazvao bi složene reakcije u regionu i šire, s obzirom na geopolitičku osetljivost Balkana i istorijske tenzije. Zemlje članice NATO-a u regionu, poput Hrvatske, Albanije, Crne Gore i Severne Makedonije, verovatno bi bile oprezne ili čak skeptične, videći sistem kao pokušaj Srbije da ojača vojne kapacitete. Hrvatska i Albanija, zbog prošlih sukoba i pitanja Kosova i Metohije, mogle bi izraziti zabrinutost kroz diplomatske kanale ili medije, potencijalno tražeći veći nadzor NATO-a. U Bosni i Hercegovini, reakcije bi zavisile od političkih aktera – Federacija BiH i bošnjački zvaničnici bi sistem mogli videti kao pretnju, dok bi Republika Srpska podržavala postojanje takvog sistema. SAD i NATO bi pažljivo pratili projekat zbog vojne neutralnosti Srbije i njenih veza sa Rusijom i Kinom, sa mogućom zabrinutošću ako posumnjaju na saradnju sa ne-NATO akterima. Rusija bi, nasuprot tome, mogla pozdraviti razvoj kao znak nezavisnosti, ali bi verovatno vršila pritisak za uključivanje u projekat.

Unutar Srbije, sistem bi bio dobro prihvaćen ako se predstavi kao alat za unapređenje bezbednosti i tehnološkog napretka, ali bi prozapadna opozicija i NVO sektor mogli kritikovati troškove ili rizike od tenzija sa susedima, zahtevajući veću transparentnost.

Srbiju, kao nezavisnu i suverenu državu, ne treba da zabrinjava način na koji će druge zemlje u regionu i širom sveta tumačiti njen razvoj sistema za donošenje odluka u ratnim uslovima, dok su ostale države dužne da razumeju i poštuju njeno pravo da zaštiti svoj teritorijalni integritet i bezbednost svog naroda, kako unutar granica Republike Srbije, tako i izvan njih.

Autor: Milena Šović, M.Sc.,CSM, CSPO
AI Implementation Specialist & Content Trainer

Izvor: Itnetwork.rs