Davor DijanovićDavor Dijanović

Fragmenti hrvatske zbilje

 Etički aspekti umjetne inteligencije i biotehnologije

Nedavno objavljena vijest da bi Hrvatska do kraja godine trebala dobiti prvi kirurški robotski sustav u KBC-u Zagreb, nakon čega će iduće godine na Rebru biti otvoren i Nacionalni robotski centar, ponovno otvara pitanja prednosti, ali i izazova koji pred društvo stavlja razvoj robotike i umjetne inteligencije.

Suvremena arheološka i antropološka istraživanja pokazuju da čovjekova „umjetna tehnika“ započinje prije 2,5 milijuna godina izumom kamene oštrice. Od pojave umjetne tehnike, s pomoću koje čovjek ovladava prirodom i nastoji je podrediti sebi, pa do današnjeg razvoja nanotehnologije, biotehnologije i umjetne inteligencije (artificial intelligence, AI) prošlo je mnogo vremena u kojem su najrazličitiji mislioci propitivali odnos čovjeka i tehnike. Odnos prema tehnici postaje posebno važan nakon ulaska strojeva u ljudski život. Ruski filozof Nikolaj Berdjajev smatrao je da era civilizacije (spenglerovska razlika kulture i civilizacije) i započinje „pobjedonosnim ulaskom strojeva u ljudski život, koji prestaje biti organski i gubi vezu s prirodnim ritmom“.

Roboti

Dva robota – Alice i Bob – razvili su vlastititi „neljudski jezik“ koji znanstvenici još nisu uspjeli dešifrirati

I dok su neki zelotski prihvaćali tehnička dostignuća, drugi su ih radikalno odbijali, poput tzv. ludita, koji su strojeve smatrali krivcima za masovnu nezaposlenost nastalu nakon prve industrijske revolucije, pa su u skladu s takvim uvjerenjem uništavali strojeve, tvorničke zgrade i potpaljivali skladišta.

Distopijski scenariji budućnosti

O tome koliko tehnika mijenja čovjeka, koliko služi čovjeku, a koliko se čovjek pretvara u objekt manipulacije suvremenih tehničkih dostignuća, kao i o nerazmjeru tehničkog i etičkog progresa tijekom 20. stoljeća pisali su Berdjajevistaknuti intelektualci kao što su spomenuti Berdjajev, Oswald Spengler, Bertrand Russell, Ernst Jünger, Martin Heidegger, Romano Guardini, Arnold Gehlen...

Prognozirajući posljedice uvođenja tehnike i stroja u život čovjeka Berdjajev je u kratkoj studiji Čovjek i stroj, objavljenoj 1933. u Parizu, zapisao da mu se ponekad priviđa strašna distopija: „Nastat će doba savršenih strojeva, kojima bi čovjek mogao upravljati svijetom, no čovjeka više neće biti. Strojevi će sami raditi savršeno i postizavati najveće učinke.“

Možemo li, nakon pojave umjetne inteligencije, govoriti o tome da se ostvaruje Berdjajevljev (anti)utopijski scenarij budućnosti? Je li činjenica da su dva robota – Alice i Bob – u okviru jednoga eksperimenta uspjeli razviti vlastiti „neljudski jezik“ komunikacije, koji znanstvenici još nisu uspjeli dešifrirati, znak da ni tvorci AI-sustava više ne znaju Harari2BerdjajevPrognozirajući posljedice uvođenja tehnike i stroja u život čovjeka Berdjajev je u kratkoj studiji Čovjek i stroj, objavljenoj 1933. u Parizu, zapisao da mu se ponekad priviđa strašna distopija: „Nastat će doba savršenih strojeva, kojima bi čovjek mogao upravljati svijetom, no čovjeka više neće biti. Strojevi će sami raditi savršeno i postizavati najveće učinke.“kako njihove kreacije rade ono što rade? Je li pojava prvoga kiborga (bića koje kombinira organske dijelove s anorganskima) nagovještaj da čovjek ide prema transhumanom stanju? Ili, u gorem slučaju, idemo li prema posthumanom stanju o kojemu je u Hrvatskoj ponajviše pisao filozof Žarko Paić?

Pred nama je niz filozofskih, socioloških i bioetičkih pitanja o toj problematici.

Izraelski povjesničar i filozof Yuval Noah Harari predviđa da će uspon umjetne inteligencije i biotehnike u 21. stoljeću promijeniti svijet: ljudi će se uzdići na razinu bogova, naučit će kako proizvesti životinje i biljke, pa i ljude prema svojim željama. Koristit će se genetski inženjering kako bi se stvorile nove vrste organskih bića, a izravna povezanost mozga i računala kako bi se stvorili kiborzi. U skladu s navedenim, Harari smatra da će do 2040, zbog robota i AI-sustava, većina poslova koje danas poznajemo nestati, što će rezultirati stvaranjem nove masovne klase „beskorisnih“ odnosno nezapošljivih ljudi. Harari pritom, dakako, ne govori o „beskorisnosti“ u moralnom, nego u političkom i ekonomskom smislu.

Supercivilizacija strojeva

Nedavno umrli engleski fizičar Stephen Hawking smatrao je da bi umjetna inteligencija mogla marginalizirati i uništiti Hawkingsvoje ljudske kreatore ako inženjerima ne uspije ugraditi etiku u to područje. Na mrežnom samitu u Lisabonu Hawking je prošle godine rekao da umjetna inteligencija ima potencijal da postane najbolja i najgora stvar koju je čovječanstvo ikada vidjelo, realnost koja izaziva zebnju jer trenutno ne znamo točno o čemu je riječ. „Ne znamo hoće li nam umjetna inteligencija pomagati ili nas ignorirati i marginalizirati, ili nas bez zadrške uništiti“, rekao je Hawking. On smatra da umjetna inteligencija može biti od goleme pomoći u smanjenju siromaštva, bolesti i obnavljanju prirodnog okoliša, ali je nemoguće predvidjeti što možemo postići ako je naše razmišljanje pod utjecajem umjetne inteligencije. „Umjetna inteligencija može biti najgori izum u povijesti naše civilizacije, ona donosi opasnosti kao moćno autonomno oružje ili novi način za pojedince da ugnjetavaju mnoge. Umjetna inteligencija može razviti svoju volju koja može biti u konfliktu s našom i koja nas može razoriti. Ukratko, rast moćne umjetne inteligencije bit će ili najbolja ili najgora stvar za čovječanstvo.“ Hawking je upozorio i na to da bi se umjetna inteligencija mogla osamostaliti i redizajnirati sebe na još višoj razini i da bi stvaranje umjetne inteligencije moglo značiti kraj ljudske civilizacije.

Istraživač robotike Hans Moravec u poznatom djelu The Future of Robot and Human Intelligence još prije trideset godina najavio je razdoblje posthumanizma: „Što nam predstoji jest budućnost koja bi se s našega sadašnjeg gledišta najbolje mogla opisati riječima postbiološka ili čak natprirodna. To je svijet u kojem će ljudska vrsta biti The future of robotpogođena kulturnom promjenom pod­činjenom  umjetnoj sudbini (...) U sljedećem stoljeću strojevi će mutirati u entitete toliko složene kao što smo i mi sami i možda u nešto što nadilazi sve što smo dosad znali...“

Francuski mislilac Jacques Ellul ističe da tehnokratska civilizacija rađa novu SupercivilizacijaFrancuski mislilac Jacques Ellul ističe da tehnokratska civilizacija rađa novu supercivilizaciju strojeva, a da ti strojevi, za razliku od prethodnih, raspolažu „superiornom“ inteligencijom koja daleko nadmašuje ljudsku. U svijetu definiranu savršenstvom strojeva, upozorava Ellul, čovjek je već postao smetnja njihovoj „perfekciji“.supercivilizaciju strojeva, a da ti strojevi, za razliku od prethodnih, raspolažu „superiornom“ inteligencijom koja daleko nadmašuje ljudsku. U svijetu definiranu savršenstvom strojeva, upozorava Ellul, čovjek je već postao smetnja njihovoj „perfekciji“.

Notorni Henry Kissinger pred koji je mjesec objavio članak pod naslovom Kraj epohe prosvjetiteljstva. U članku se problematizira pitanje kakve će biti povijesne implikacije pojave strojeva koji funkcioniraju na temelju umjetne inteligencije. Kissinger piše da smo u fazi tehnološke revolucije kojoj posljedice nismo u mogućnosti potpuno shvatiti, a njezina bi kulminacija mogao biti svijet koji se oslanja na strojeve koje pokreću podaci i algoritmi bez ograničenja etičkih ili filozofskih normi.

Kissinger dodaje: „AI-sustavi su tijekom operacija u stanju stalna pribavljanja i trenutnog analiziranja novih podataka, a potom se na temelju tih analiza nastoje samousavršiti. Na taj način umjetna inteligencija razvija sposobnost za koju se prije smatralo da pripada samo ljudskim bićima. Ona pravi strateške odluke o budućnosti, neke temeljene na podacima u obliku fiksnog koda (primjerice pravila igre), a neke na podacima koje samostalno prikupljaju (na primjer igranjem milijuna partija iste te igre).“

AI-sustavi, smatra Kissinger, donijet će nevjerojatne koristi medicini, osiguravanju čistih energija, ekologiji i drugim AI sustaviTko bi mogao imati bilo što protiv robota koji peru i čiste ili protiv robota koji uništavaju mine, obavljaju druge za ljude opasne poslove ili olakšavaju procese proizvodnje? No uz AI-sustave vežu se i brojna prijeporna etička, pravna, društvena, pa i ekonomska (dalja automatizacija i gubitak radnih mjesta) i obrazovna (reformiranje sustava obrazovanja u skladu s razvojem umjetne inteligencije) pitanja i opasnosti.područjima. No on smatra da ti sustavi kriju i mnoge opasnosti. AI bi tako mogao pogrešno razumjeti ljudske upute zbog izostanka konteksta i okrenuti se protiv svojih kreatora (u odnosu čovjeka i tehnike citirani je Berdjajev uočio ponavljanje prvotne pobune stvora protiv Stvoritelja). U postizanju namjeravanih ciljeva AI bi mogao promijeniti Kissingerljudski misaoni proces i ljudske vrijednosti. Donošenje odluka umjetne inteligencije moglo bi prevladati sposobnosti objašnjavanja ljudskog jezika i razuma.

Jednu od najvećih opasnosti Kissinger vidi u mogućem gubitku svojstva koje je bit ljudske spoznaje: „Zbog njezine superiornosti u tim poljima, umjetna inteligencija može pobijediti u bilo kojoj igri koja joj je dodijeljena. Ali za naše ljudske potrebe, svrha igara nije samo u pobjeđivanju, nego u razmišljanju. Tretiranjem matematičkih procesa kao da su misaoni procesi, bilo da ih pokušavamo oponašati ili jednostavno prihvaćamo njihove rezultate, u opasnosti smo da izgubimo svojstvo koje je bit ljudske spoznaje.“

Potaknuta mogućim opasnostima umjetne inteligencije, skupina znanstvenika okupljenih na međunarodnoj konferenciji o umjetnoj inteligenciji u Buenos Airesu 2015. uputila je pismo u kojemu stoji da nas od primjene robota koji će biti kadri ubijati bez ljudske intervencije ne dijele desetljeća, nego godine. U pismu, koje su potpisali i Stephen Hawking, Noam Chomsky, Steve Wozniak te izvršni direktor Googleove tvrtke za umjetnu inteligenciju DeepMind Demis Hassabis, izražena je bojazan da razvoj autonomnog oružja s umjetnom inteligencijom može postati velika prijetnja jer bi se, među ostalim, ono moglo naći u pogrešnim rukama. Dodali su i to da postoje golemi potencijali i korisniji načini na koje bi čovječanstvu umjetna inteligencija mogla pomoći.

I u pravu su. Ta tko bi mogao imati bilo što protiv robota koji peru i čiste ili protiv robota koji uništavaju mine, obavljaju druge za ljude opasne poslove ili olakšavaju procese proizvodnje? No uz AI-sustave vežu se i brojna UpozorenjeU knjizi Kršćanstvo i kriza kultura papa emeritus Benedikt XVI. upozorio je da prava i najveća opasnost ovoga trenutka leži u neravnoteži između tehničkih mogućnosti i moralne energije. „Sigurnost koja nam je potrebna kao pretpostavka naše slobode i našega dostojanstva“ – ističe Benedikt XVI. s čijom mišlju završavamo ovaj osvrt – „ne može proizići u konačnici iz tehničkih sustava kontrole, nego samo iz moralne snage čovjeka: tamo gdje nje nema, ili gdje je nedostatna, moć koju čovjek ima sve više će se pretvarati u razornu moć“.prijeporna etička, pravna, društvena, pa i ekonomska (dalja automatizacija i gubitak radnih mjesta) i obrazovna (reformiranje sustava obrazovanja u skladu s razvojem umjetne inteligencije) pitanja i opasnosti.

Upozorenje Benedikta XVI.

AI-sustavi već danas imaju sposobnosti učenja, a uskoro će, ako tomu već i nije tako, moći proizvoditi nove i sve Umjetna inteligencija333savršenije strojeve bez pomoći čovjeka. Mogućnost autonomnog razvoja umjetne inteligencije i s time povezana mogućnost gubitka kontrole nad strojevima s umjetnom inteligencijom nešto je što bi trebalo ozbiljno zabrinuti sve odgovorne pojedince.

Smrtonosni autonomni oružani sustavi (lethal autonomous weapon systems, LAWS), koji podrazumijevaju bespilotne dronove, podmornice bez posade i vozila bez vozača, već su danas realnost. Tzv. roboti ubojice, koji će odlučivati o životu i smrti bez čovjeka, prije su bili predmet znanstvene fantastike i distopijskih scena iz filmova tipa Terminator ili Odiseja u svemiru Stanleyja Kubricka. No mogućnost ratova između strojeva i ljudi više se ne čini tako fantastičnom ako se prilikom razvoja novih oružanih sustava ne bude vodilo računa i o etičkim načelima. Ne postoji, naime, izum koji čovjek nije zlouporabio.

AI-sustavi stvorit će i gotovo neograničene mogućnosti kršenja temeljnoga prava čovjeka na privatnost. U Kini će se Transhumanizamtako uskoro uvesti sustav „društvenog kredita“ – sustav bodovanja svakoga pojedinaca u društvu koji će određivati njegove izglede (čitaj: moralno-političku podobnost) u životu. Radit će se o sustavu koji će se provoditi primjenom high-tech nadzornih sustava koje će kontrolirati umjetna inteligencija. Orwellova 1984. više se ne čini samo kao fikcija, zar ne?

Zaključno govoreći, neovisno o prijeporima koji postoje oko (ne)prihvaćanja AI-sustava, jasno je kako je riječ o razvoju koji neće stati i o pitanju čije se pravno i etičko reguliranje tiče cijeloga svijeta i zahtijeva sinergijski pristup svih relevantnih subjekata na međunarodnoj sceni.

U knjizi Kršćanstvo i kriza kultura papa emeritus Benedikt XVI. upozorio je da prava i najveća opasnost ovoga trenutka leži u neravnoteži između tehničkih mogućnosti i moralne energije. „Sigurnost koja nam je potrebna kao pretpostavka naše slobode i našega dostojanstva“ – ističe Benedikt XVI. s čijom mišlju završavamo ovaj osvrt – „ne može proizići u konačnici iz tehničkih sustava kontrole, nego samo iz moralne snage čovjeka: tamo gdje nje nema, ili gdje je nedostatna, moć koju čovjek ima sve više će se pretvarati u razornu moć“.

Davor Dijanović
Vijenac

Ned, 17-02-2019, 12:04:35

Najave

Pon Uto Sri Čet Pet Sub Ned
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28

Komentirajte

Zadnji komentari

Kolumne

Telefon

Radi dogovora o prilozima, Portal je moguće kontaktirati putem Davora Dijanovića, radnim danom od 17 do 19 sati na broj +385-95-909-7746.

Poveznice

Snalaženje

Kako se snaći?Svi članci na Portalu su smješteni ovisno o sadržaju po rubrikama. Njima se pristupa preko glavnoga izbornika na vrhu stranice. Ako se članci ne mogu tako naći, i tekst i slike na Portalu mogu se pretraživati i preko Googlea uz upit (upit treba upisati bez navodnika): „traženi_pojam site:hkv.hr".

Administriranje

1 klik na Facebooku za hkv.hr

Pretraži hkv.hr

Donacije

Svaka donacija je naravno dobrodošla, a može se uplatiti na naš račun kod Hrvatske poštanske banke.

IBAN računa: HR8023900011100330929.

Za devizne uplate swift kod Hrvatske poštanske banke je: HPBZHR2X.

Portal Hrvatskoga kulturnog vijeća

Kontakti

KONTAKTI

Telefon

Telefon Tajništva
+385 (0)1/481-0047

Elektronička pošta Tajništva
Elektronička pošta Tajništva
Ova e-mail adresa je zaštićena od spambota. Potrebno je omogućiti JavaScript da je vidite.

 

Elektronička pošta UredništvaElektronička pošta Uredništva
Ova e-mail adresa je zaštićena od spambota. Potrebno je omogućiti JavaScript da je vidite.

Copyright © 2019 Portal Hrvatskoga kulturnog vijeća. Svi sadržaji na ovom Portalu mogu se slobodno preuzeti uz navođenje autora i izvora,
gdje je izvor ujedno formatiran i kao poveznica na izvorni članak na www.hkv.hr.
Joomla! je slobodan softver objavljen pod GNU Općom javnom licencom (GPL).