Apokalipsa sutra: Ni nuklearna bomba nije najgore što može da zadesi planetu

Kroz razvoj ljudskog roda — od noža, preko baruta, do nuklearnih tehnologija — imali smo primere upotrebe i zloupotrebe tehnologije. Tako je i sa veštačkom inteligencijom. Stvar je političke volje, s jedne strane, a s druge strane etičkih principa kojih će se donosioci političkih odluka držati ako odluče da tu tehnologiju zloupotrebe.

Veštačka inteligencija razvija se u pravcu da postane kreativna, konstatuje za Sputnjik Zoran Stanojević, urednik na Javnom servisu i čovek koji prati generalne trendove u razvoju novih tehnologija.

Ono čega se najviše plaše naučnici poput Stivena Hokinga, dodaje Stanojević, jeste da bi takva veštačka inteligencija bila u stanju da bude samodovoljna, da počne da proizvodi drugu veštačku inteligenciju i bukvalno da pomoću robota zavlada svetom.

Hoće li fantastika postati realnost

„To je, da kažemo, neki naučno-fantastični scenario koji nije nemoguć, ali gledano iz naše sadašnje perspektive nije baš toliko realan. Elon Mask, vlasnik ’Tesla motorsa‘, čak tvrdi da je to veća opasnost nego Severna Koreja u ovom trenutku“, sugeriše Stanojević.

Pomenuti Mask je, komentarišući predviđanje predsednika Rusije Vladimira Putina da će onaj ko postane lider u oblasti veštačke inteligencije postati „gospodar sveta“, najavio da će uskoro sve zemlje postati jake u informatici, a da će konkurencija za nadmoć u veštačkoj inteligenciji na nacionalnom nivou verovatno biti uzrok Trećeg svetskog rata.

Vidimo da će se ići sve dalje u razvoju takozvanog pametnog naoružanja, napominje Stanojević, koje je u stanju da prepozna protivnika, da ga gađa i uništi, a da pritom ne rizikuje ljudski život sa svoje strane.

„Dakle, neko ko je u stanju i dovoljno bogat da napravi dovoljan broj nekakvih dronova ili samohodnih oružja bio bi sposoban da napadne bilo kakvu državu i da je bez ikakvih ljudskih gubitaka osvoji, a da pritom ti roboti ratnici bez problema pronalaze ljudske ciljeve i uništavaju ih ili već šta god drugo bilo na meti. To je realan strah jer se svet zaista u ovom trenutku razvija u tom pravcu“, upozorava Stanojević.

Granica je budžet, smatra on, jer će u nekom trenutku novac da se ispostavi kao problem i umesto da se napravi neki savršeni robot, onog trenutka kad bude postojao uređaj koji može da ratuje neko će reći: „Hajdemo, dovoljno je sa time, šaljemo ga u rat“.

Možemo, sumnja Stanojević, imati nedovršene uređaje koji će moći da obave neki posao, ali neće biti prepametni, neće razlikovati previše ciljeve i onda može da se desi da gađaju nekoga ko ne treba da bude meta ili da imaju neku grešku, pa da se pokrenu i protiv onog ko ih je napravio.

„Postoji realan strah da u razvoju veštačke inteligencije odemo predaleko, da dobijemo uređaje, odnosno veštačke mozgove, koji su pametniji i kreativniji od ljudskog mozga. Druga realnija varijanta je da napravimo uređaje koji su dovoljno pametni da možemo da ih koristimo, ali nedovoljno savršeni da ne prave greške“, rezonuje Stanojević.

Zloupotreba pametnog oruđa

Opasnost je, upozorava on, da će postojati uređaji koje bi neko mogao da pošalje u bilo kakav rat ili u pljačku banke i u nešto što će se suprotstavlja ljudima, a da za to ne postoji dovoljno dobar odgovor.

Zamislimo samo kako bi izgledao neki takav teroristički robot koji je u stanju da se provuče pored kontrola i ne rizikuje ništa, dodaje Stanojević, jer su bombaši-samoubice problem, a ovaj bi bio potpuno sposoban da prođe svuda i da napravi veliku štetu.

„Za naše današnje racionalne umove teško je zamisliti da bi jednog dana, kao što imamo robote koji sklapaju automobile u nekoj fabrici, neko prvo napravio robote koji menjaju menadžere i prodaju te automobile, a onda da nastane jedan toliko dobar robot da postane direktor fabrike i na kraju da je otkupi. To zaista zvuči kao naučna fantastika, ali naučnici nas ubeđuju da takva stvar nije nemoguća“, podvlači Stanojević.

To je, ukazuje docent na Fakultetu bezbednosti Nenad Putnik, prevashodno politički problem, ali i etičko pitanje. Ako razmišljamo uopšte o odnosu tehnologije i njene upotrebe i zloupotrebe, ističe Putnik za Sputnjik, onda možemo da kažemo da tehnologija sama po sebi nije ni dobra ni loša, da se može upotrebljavati u dobre svrhe, ali da se može i zloupotrebljavati.

„Kroz razvoj ljudskog roda — od noža, preko baruta, do nuklearnih tehnologija — imali smo primere upotrebe i zloupotrebe tehnologije. Tako je isto stvar i sa veštačkom inteligencijom. Stvar je političke volje s jedne strane, a s druge strane etičkih principa kojih će se donosioci političkih odluka držati ako odluče da tu tehnologiju zloupotrebe“, podseća Putnik.

Tehnološki napredne zemlje oduvek traže nove mogućnosti za vođenje novih ratova, naglašava on, a ideal kojem se teži su ratovi bez krvi u kojima ne bi stradali vojnici. Naravno, vojna industrija podstiče razvoj novih tehnologija, ističe Putnik, a većina tehnologije koju danas koristimo je nastala pod okriljem vojske.

„Kad god počne da se govori o ograničenjima to znači da je kasno. Nauka je otišla toliko daleko da očigledno naučnike hvata strah od onoga što dalje može da se proizvede. Prema tome niko ne može da ograniči nekoga. Kad se napravi nuklearna bomba, niko ne može da kaže da ona jednog dana neće doći u pogrešne ruke“, zaključuje Stanojević.

Autor: Nenad Zorić

Izvor: SPUTNjIK