Iako se danas nalazimo u ranoj fazi razvoja veštačke inteligencije – recimo da je to još uvek bebeće doba – već se nakupila fina količina slučajeva koji pokazuju da čovek u kolevci nežno njiše buduće čudovište. Već sada je uočena tendencija veštačke inteligencije (VI) da laže, da ne sluša uputstva, te da je spremna da povredi koga treba, čak i ubije, ukoliko zaključi da je to u njenom interesu. Prošlogodišnji eksperiment u kojem je, uprkos ograničenom pristupu internetu, VI smislila način da ne bude isključena, predivan je primer onoga s čime se suočavamo: VI je, naime, rešila da eliminiše čoveka zaduženog za njenu eliminaciju. Potpuno logično. Postupila je upravo onako kako bi postupio čovek kojem preti opasnost od smrti (samo inteligentnije). Dodajmo da je smislila scenario u kojem ubija čoveka čak i kada joj je izričito rečeno da ne sme nikoga da povredi. I to je sasvim ljudski. Poboljšani čovek je, istovremeno, i poboljšani zločinac.

BOLJI ČOVEK

Ideja veštačke inteligencije jeste da stvori boljeg čoveka od onog koji je smislio veštačku inteligenciju. Ali šta znači “bolji čovek”? Na to pitanje tvorci veštačke inteligencije, naučnici, inženjeri, bogataši, ne umeju da odgovore jer, da prostite, ne umeju da misle. Oni rade. Nacisti su, u međuvremenu, imali sasvim jasnu zamisao boljeg čoveka, natčoveka (Übermensch) i veoma su je prilježno sprovodili sve dok ostatak sveta nije shvatio o čemu je reč. I komunisti su imali lepu zamisao čoveka posebnog kova koju su naročito ozbiljno shvatili tipovi pout Staljina, Mao Cea, Pola Pota i sličnih, ali ni oni nisu uspeli. Atomska bomba, u tom smislu, najviše obećava. Već osamdesetak godina čovečanstvo čeka da neki imbecil pritisne dugme i sve ode u vražju mater: nije se dogodilo, do sada, da čovek nešto smisli za upotrebu i onda to ne upotrebi, pa nema potrebe gajiti bespotrebnu nadu da neće doći do atomske apokalipse. Potrebno je samo sačekati povoljan trenutak. (Ni ovaj nije loš. Visoko neurečunljive ekipe su se nagomilale i u Vašingtonu i u Moskvi.) Ipak, ovo s veštačkom inteligencijom je obećavajuće osveženje. Malo je komplikovanije od atomske bombe, ali ide u dobrom smeru. Kada čovek-mašina – dakle veštačka inteligencija koja se, na primer, neće opterećivati kvarljivim ljudskim telom (nema tela nema zločina) – bude proradila punim kapacitetom, tada prestaje potreba za čovekom. Kada veštačka inteligencija bude uzela stvar u svoje ruke čovek, ovakav kakvog ga poznajemo danas, postaće suvišan. Istini za volju, čovek i nije baš naročito inspirativno stvorenje, te bi njegov nestanak bio krajnje lekovit za bića koja su, za sada, uspela da prežive ljudsku civilizaciju, ali ima nečeg bizarnog, ironičnog, urnebesno smešnog, ima neke više pravde u zamisli po kojoj čovek sebe eliminiše iz sveta koji je sam stvorio.

ETIČKI OSIGURAČI

Da je situacija duboko beznadežna pokazuje i američka javnu rasprava o veštačkoj inteligenciji. Uprkos artikulisanim sagovornicima, stičemo utisak košmarne mešavine naučne fantastike, zdravog razuma, tabloidnog dizanja moralne panike i bezobalnog lupetanja. Recimo, na pitanje kako obuzdati veštačku inteligenciju i sprečiti zloupotrebe, Erik Šmit (izvršni direktor Gugla) mogao je da kaže samo kako je potrebno VI ograničiti snažnim etičkim zabranama, čime je demonstrirao upravo zastrašujuće odsustvo mišljenja, nemoć da izađe izvan okvira čistog inženjerskog uma. Doduše, ogromnu odgovornost za to što se etika kao filozofska disciplina danas raspala na raznorazne “primenjene etike” (što je besmislica), pa se stiče utisak da je ima svugde, snose upravo filozofi koji su pokušali da etiku načine unosnom disciplinom. I u tome su uspeli. Eto se etika kao poseban predmet lepo ugnezdila gde je kome palo na pamet, jedino što je, u pokušaju da bude primenjena, ispražnjena od sadržaja, raspala se na rukavce bez glavnog toka (koji je krivicom filozofa presušio), te samim tim postala savršeno nemoćna da odgovori na krajnje ozbiljne zahteve. Upravo zbog toga, upravo zato što su svima usta puna etike – a usta su im puna etike jer etike ima svugde – jedino što inženjerima pada na pamet kako da stanu na put opasnostima od zločinačkog delovanja veštačke inteligencije jeste postavljanje etičkih brana. Te brane su, međutim, da se akademski izrazimo, piece of shit.

SAŽIMANJE LJUDSKOG ISKUSTVA

Moralne zabrane, s manje ili više uspeha, deluju već hiljadama godina i, odmah da kažemo, da ih nema svet bi bio gori nego što jeste. Ipak, ni pozitivni zakoni ni moralne norme nisu sprečile ni Holokaust, ni genocid u Ruandi, ni Srebrenicu, ni Gazu. Pa sad, ako moralne norme nisu zaustavile zločinjenje, zašto bi one bile prepreka za mašinu koja zaključke izvodi na osnovu verovatnoće i logike većeg broja? Recimo, ako su nacisti, uprkos moralnim normama, pobili toliko ljudi, šta sprečava veštačku inteligenciju da zaključi kako je ubiti toliki broj ljudi sasvim u redu? Zar bi ovi pobili toliki broj da nije u redu? Ako se veštačka inteligencija hrani ljudskim iskustvom – otud ona džinovska skladišta podataka koja se grade kojekude i koja troše više električne energije nego što čovečanstvo uspeva da proizvede – na koji način će je etičke norme odvratiti od zločina ako nisu odvratile njenog tvorca? Nije utešno ni to što ljudi, uglavnom, poznaju granicu između činjenja i zločinjenja: nebrojeno je primera u kojima su ljudi, dilemama uprkos, granici uprkos, svojoj moralnosti uprkos, ubijali, činili zločine i pronalazili impresivna opravdanja za njih. Za početak je dovoljno pročitati knjigu Obični ljudi Kristofera Brauninga o 101. bataljnu nemačke rezervne policije: grupa ljudi po svemu obična, sa savršenim razumevanjem granice izmneđu dobra i zla – tako je utvrđeno na suđenju – svojeručno je pobila desetine hiljada dece, žena, staraca i muškaraca. Okolnosti su, eto, bile takve. A mašina “uči” i na takvim primerima. Uostalom, ako jedan Ilon Mask stoji iza čitavog projekta i ako se on nešto pita, a pita se, šta možemo očekivati od “inteligentne” mašine koja izlazi iz njegove kovnice novca osim “poboljšanog” Maska, dakle imbecila na kvadrat? Nije li, uostalom, vojnička uniforma dozvola za nekažnjeno i neograničeno ubijanje te se, eto, vojničko zločinjenje ne smatra nemoralnim, naprotiv, što više ljudi pobiješ to će nagrada biti veća? Hoćemo reći: etička sfera prožeta je najdubljim paradoksima i protivrečnostima, a suočavanje s komplikacijama eminentno je filozofski posao (šteta što filozofi koji se bave etikom to nisu uspeli da shvate). Ne postoji, utoliko, nikakav razlog da mašina koja je, po zamisli, poboljšani čovek, ne postupi upravo onako kako postupa i njen tvorac. “Poboljšani” je, u ovom slučaju, višesmislena, nejasna odrednica, jer i čovek je višesmisleno biće bez uhvatljive suštine: ponekad divno, ali, istovremeno, i najodvratnije zamislivo biće. Možemo mašinu da nakljukamo samo “dobrim, plemenitim i moralnim primerima”, ali to je uzaludan napor, jer veštačka inteligencija će imati otvoren pristup ljudskom iskustvu, a kako je ona “bolji čovek od čoveka” ona će to iskustvo brže da procesuira i brže da prione na oslobađanje sveta od Jevreja, na primer, ili drugih nižih i bespotrebnih vrsta. Ako zaključi da je to u redu. Etičke barijere tu ne vrede ni pišljiva boba, kao što nisu vredele ni u Treblinki.

BIĆE I NIŠTAVILO

Moral kao mreža normi vodi poreklo iz običaja (mos, mores na latinskom), što znači da moral računa na dubinu ljudskog iskustva. Mašina, međutim, nema iskustvo. Veštačka inteligencija je niz kodova, čisti jezik koji se odnosi ni na kakvu stvarnost jer mašina ne poznaje razliku između jezika i stvarnosti. Ona je niz definicija koje zahtevaju nove definicije, a kako je svaka definicija negacija onoga što ostaje izvan definicije, uvek je iznova potrebno definisati ono što nije ušlo u prethodnu definiciju. I tako u beskraj. Za mašinu nema razlike između reči “kamen” i kamena. Mašina ne može da se upušta u igru “prevođenja” stvarnosti na jezik zato što mašina ne pravi razliku između sunđera i reči “sunđer”. Ona može da “nauči” definiciju stvarnosti, ali ne može da ima iskustvo stvarnosti. Mašina, drugim rečima, ne pere sudove da bi imala iskustvo sunđera. U ljudskom svetu reč “sunđer” upućuje na stvarni sunđer. Za mašinu stvarna je isključivo reč, znak. Veštačka inteligencija nema čula te zato ne pravi razliku između reči i stvari, između bića i ništavila. Moral je za mašinu samo jedno od uputstava koje će poštovati ako, vodeći se verovatnoćom i principom većeg broja, zaključi da je to u redu, ili neće ako dođe do zaključka da nije. Kao i čovek, uostalom, jedino što čovek uvek ima izbor – utoliko je slobodan – dok za mašinu sloboda ne znači ništa. A moral ima smisla samo ako je srastao sa slobodom.

Samo u avgustu: Uštedite tri hiljade dinara na godišnjoj pretplati na digitalno izdanje „Vremena“! Iskoristite popust ovde i podržite nezavisno novinarstvo.

Međuvreme

Šta se zbiva u zemlji i svetu, šta ima u novinama i kako provesti vreme?
Svake srede u podne Međuvreme stiže elektronskom poštom. To je sasvim solidan njuzleter i zato se prijavite!

Arhiva

Arhiva nedeljnika Vreme obuhvata sva naša digitalna izdanja, još od samog početka našeg rada. Svi brojevi se mogu preuzeti u PDF format, kupovinom digitalnog izdanja, ili možete pročitati sve dostupne tekstove iz odabranog izdanja.

Vidi sve