Апокалипса сутра: Ни нуклеарна бомба није најгоре што може да задеси планету

Кроз развој људског рода — од ножа, преко барута, до нуклеарних технологија — имали смо примере употребе и злоупотребе технологије. Тако је и са вештачком интелигенцијом. Ствар је политичке воље, с једне стране, а с друге стране етичких принципа којих ће се доносиоци политичких одлука држати ако одлуче да ту технологију злоупотребе.

Вештачка интелигенција развија се у правцу да постане креативна, констатује за Спутњик Зоран Станојевић, уредник на Јавном сервису и човек који прати генералне трендове у развоју нових технологија.

Оно чега се највише плаше научници попут Стивена Хокинга, додаје Станојевић, јесте да би таква вештачка интелигенција била у стању да буде самодовољна, да почне да производи другу вештачку интелигенцију и буквално да помоћу робота завлада светом.

Хоће ли фантастика постати реалност

„То је, да кажемо, неки научно-фантастични сценарио који није немогућ, али гледано из наше садашње перспективе није баш толико реалан. Елон Маск, власник ’Тесла моторса‘, чак тврди да је то већа опасност него Северна Кореја у овом тренутку“, сугерише Станојевић.

Поменути Маск је, коментаришући предвиђање председника Русије Владимира Путина да ће онај ко постане лидер у области вештачке интелигенције постати „господар света“, најавио да ће ускоро све земље постати јаке у информатици, а да ће конкуренција за надмоћ у вештачкој интелигенцији на националном нивоу вероватно бити узрок Трећег светског рата.

Видимо да ће се ићи све даље у развоју такозваног паметног наоружања, напомиње Станојевић, које је у стању да препозна противника, да га гађа и уништи, а да притом не ризикује људски живот са своје стране.

„Дакле, неко ко је у стању и довољно богат да направи довољан број некаквих дронова или самоходних оружја био би способан да нападне било какву државу и да је без икаквих људских губитака освоји, а да притом ти роботи ратници без проблема проналазе људске циљеве и уништавају их или већ шта год друго било на мети. То је реалан страх јер се свет заиста у овом тренутку развија у том правцу“, упозорава Станојевић.

Граница је буџет, сматра он, јер ће у неком тренутку новац да се испостави као проблем и уместо да се направи неки савршени робот, оног тренутка кад буде постојао уређај који може да ратује неко ће рећи: „Хајдемо, довољно је са тиме, шаљемо га у рат“.

Можемо, сумња Станојевић, имати недовршене уређаје који ће моћи да обаве неки посао, али неће бити препаметни, неће разликовати превише циљеве и онда може да се деси да гађају некога ко не треба да буде мета или да имају неку грешку, па да се покрену и против оног ко их је направио.

„Постоји реалан страх да у развоју вештачке интелигенције одемо предалеко, да добијемо уређаје, односно вештачке мозгове, који су паметнији и креативнији од људског мозга. Друга реалнија варијанта је да направимо уређаје који су довољно паметни да можемо да их користимо, али недовољно савршени да не праве грешке“, резонује Станојевић.

Злоупотреба паметног оруђа

Опасност је, упозорава он, да ће постојати уређаји које би неко могао да пошаље у било какав рат или у пљачку банке и у нешто што ће се супротставља људима, а да за то не постоји довољно добар одговор.

Замислимо само како би изгледао неки такав терористички робот који је у стању да се провуче поред контрола и не ризикује ништа, додаје Станојевић, јер су бомбаши-самоубице проблем, а овај би био потпуно способан да прође свуда и да направи велику штету.

„За наше данашње рационалне умове тешко је замислити да би једног дана, као што имамо роботе који склапају аутомобиле у некој фабрици, неко прво направио роботе који мењају менаџере и продају те аутомобиле, а онда да настане један толико добар робот да постане директор фабрике и на крају да је откупи. То заиста звучи као научна фантастика, али научници нас убеђују да таква ствар није немогућа“, подвлачи Станојевић.

То је, указује доцент на Факултету безбедности Ненад Путник, превасходно политички проблем, али и етичко питање. Ако размишљамо уопште о односу технологије и њене употребе и злоупотребе, истиче Путник за Спутњик, онда можемо да кажемо да технологија сама по себи није ни добра ни лоша, да се може употребљавати у добре сврхе, али да се може и злоупотребљавати.

„Кроз развој људског рода — од ножа, преко барута, до нуклеарних технологија — имали смо примере употребе и злоупотребе технологије. Тако је исто ствар и са вештачком интелигенцијом. Ствар је политичке воље с једне стране, а с друге стране етичких принципа којих ће се доносиоци политичких одлука држати ако одлуче да ту технологију злоупотребе“, подсећа Путник.

Технолошки напредне земље одувек траже нове могућности за вођење нових ратова, наглашава он, а идеал којем се тежи су ратови без крви у којима не би страдали војници. Наравно, војна индустрија подстиче развој нових технологија, истиче Путник, а већина технологије коју данас користимо је настала под окриљем војске.

„Кад год почне да се говори о ограничењима то значи да је касно. Наука је отишла толико далеко да очигледно научнике хвата страх од онога што даље може да се произведе. Према томе нико не може да ограничи некога. Кад се направи нуклеарна бомба, нико не може да каже да она једног дана неће доћи у погрешне руке“, закључује Станојевић.

Аутор: Ненад Зорић

Извор: СПУТЊИК