AI u začaranom krugu: Da li ChatGPT uči iz neproverenih izvora generisanih veštačkom inteligencijom?

Sve češća upotreba veštačke inteligencije u svakodnevnom informisanju donosi i nove, neočekivane izazove. Nedavna istraživanja otkrila su da ChatGPT, jedan od najnaprednijih AI modela, u određenim situacijama koristi sadržaj sa Grokipedije – onlajn enciklopedije čije tekstove gotovo u potpunosti generišu drugi AI sistemi.

Ovaj fenomen najuočljiviji je kod odgovora na specifična, tehnička ili manje poznata pitanja, gde su tradicionalni izvori oskudni.

Šta je Grokipedija i gde leži problem?

Grokipedija je osmišljena kao moderna alternativa klasičnim enciklopedijama poput Vikipedije, ali sa jednom ključnom razlikom: nema tradicionalnog uredničkog procesa. Umesto stručnjaka i ljudi, većinu članaka piše veštačka inteligencija. Korisnici imaju ograničenu ulogu i mogu samo predlagati izmene, dok direktno uređivanje sadržaja ne postoji.

Upravo u ovome stručnjaci vide najveći rizik. Glavno pitanje koje se nameće nije samo tehnološko, već suštinsko – pitanje tačnosti i kredibiliteta.

Rizik od „zatvorenog kruga“ dezinformacija

Kada jedan AI sistem preuzima podatke od drugog, a ti podaci nisu prošli ljudsku verifikaciju, nastaje opasan proces koji istraživači nazivaju zatvoreni krug učenja.

• Ponavljanje grešaka: Ako prvi AI sistem napravi grešku, drugi je preuzima kao proverenu činjenicu, čime se netačna informacija dodatno učvršćuje.

• Nedostatak proverenih izvora: Modeli počinju da „uče jedni od drugih“ umesto da se oslanjaju na stručnu literaturu ili proverene medije.

• Širenje dezinformacija: Ovaj problem je posebno izražen kod tema koje nisu široko zastupljene, gde korisnici teže mogu sami da uoče grešku.

Zaštitni mehanizmi pod lupom

Iako programeri tvrde da postoje algoritamski zaštitni mehanizmi koji sprečavaju korišćenje nepouzdanih izvora za osetljive teme (poput medicine ili prava), stručna javnost je zabrinuta. Sama činjenica da AI-generisani sadržaj služi kao referenca drugim modelima poljuljala je poverenje u nepogrešivost ovih alata.

Pošto AI modeli ponekad mogu da „haluciniraju“ (izmisle činjenice) ili da se oslone na nepouzdane izvore poput pomenute Grokipedije, evo kratkog vodiča kako da budete „AI detektiv“:

Kako proveriti AI odgovore u 3 koraka:

1. Tražite direktne izvore (Citiranje) Kada dobijete kompleksan odgovor, uvek pitajte: „Možeš li mi navesti konkretne izvore ili linkove za ove tvrdnje?“

• Crvena zastavica: Ako AI navodi opšte pojmove poput „prema internet istraživanjima“ ili „neki naučnici kažu“, to je znak za oprez.

• Provera linkova: AI ponekad može da generiše linkove koji izgledaju stvarno, ali vode ka nepostojećim stranicama (tzv. „mrtvi linkovi“). Uvek kliknite da proverite.

2. Tehnika „Unakrsnog ispitivanja“ Najlakši način da zbunite AI koji se oslanja na pogrešan izvor je da mu postavite isto pitanje na različite načine ili u novom četu.

• Ako se ključni podaci (godine, imena, statistike) drastično menjaju svaki put kada osvežite upit, velika je šansa da model „nagađa“ na osnovu nepouzdanih podataka.

3. Testiranje na „Grokipedija“ sindrom Ako sumnjate da je odgovor generisan drugim AI-jem bez ljudske kontrole, obratite pažnju na stil:

• Preterana repetitivnost: AI-generisani izvori često ponavljaju iste fraze na različite načine unutar jednog pasusa.

• Nedostatak konkretnih primera: Tekstovi koji su „AI o AI-ju“ često su puni apstraktnih pojmova, a nemaju citate stvarnih ljudi, institucija ili rezultate konkretnih studija.

Brza provera: „Google je tvoj najbolji prijatelj“

Kada dobijete specifičnu informaciju od AI-ja, kopirajte najvažniju rečenicu i stavite je pod znake navoda u Google pretrazi.

• Ako se ta rečenica pojavljuje samo na opskurnim sajtovima ili forumima, a ne na zvaničnim portalima ili u naučnim bazama (poput Google Scholar), verovatno je reč o AI-generisanom „krugu“ informacija.

Zaključak: Kritičko razmišljanje je i dalje nezamenljivo

Ovaj slučaj je podsetnik da veštačka inteligencija, uprkos svojoj fascinantnoj brzini, ostaje samo alat koji direktno zavisi od kvaliteta podataka koje „konzumira“. Kako AI postaje neraskidiv deo obrazovanja i poslovanja, provera informacija i kritički pristup ostaju najvažnije veštine savremenog čoveka.

Foto: Freepik

Autor: Portal ObjektivNI.rs