Malo je vjerojatno da će klasična umjetna inteligencija biti utjelovljena u mislećim strojevima; granica ljudske domišljatosti u ovom području, po svemu sudeći, bit će ograničena na stvaranje sustava koji oponašaju rad mozga.

Znanost o umjetnoj inteligenciji (AI) prolazi kroz revoluciju. Kako bismo objasnili njegove uzroke i značenje te ga stavili u perspektivu, prvo se moramo okrenuti povijesti.

Početkom 1950-ih, tradicionalno, pomalo nejasno pitanje može li stroj misliti ustupilo je mjesto pristupačnijem pitanju može li razmišljati stroj koji manipulira fizičkim simbolima prema pravilima temeljenim na strukturi. Ovo je pitanje formulirano preciznije jer su formalna logika i teorija računanja značajno napredovale u prethodnih pola stoljeća. Teoretičari su počeli cijeniti mogućnosti apstraktnih sustava simbola koji se transformiraju u skladu s određenim pravilima. Činilo se da bi se, ako bi se ti sustavi mogli automatizirati, njihova apstraktna računalna moć očitovala u stvarnom fizičkom sustavu. Takvi pogledi pridonijeli su rađanju dobro definiranog istraživačkog programa na prilično dubokoj teorijskoj osnovi.

Može li stroj misliti?

Bilo je mnogo razloga za potvrdan odgovor. Povijesno gledano, jedan od prvih i najdubljih uzroka bila su dva važna rezultata teorije računanja. Prvi rezultat bila je Churchova teza da je svaka efektivno izračunljiva funkcija rekurzivno izračunljiva. Izraz "učinkovito izračunljiv" znači da postoji neka vrsta "mehaničkog" postupka kojim je moguće izračunati rezultat u konačnom vremenu s obzirom na ulazne podatke. "Rekurzivno izračunljiv" znači da postoji konačan skup operacija koje se mogu primijeniti na dani ulaz, a zatim se sekvencijalno i opetovano primijeniti na novodobivene rezultate za izračunavanje funkcije u konačnom vremenu. Koncept mehaničkog postupka nije formalan, već intuitivan, pa stoga Churchova teza nema formalni dokaz. Međutim, dolazi do srži onoga što je računanje, a mnogo različitih dokaza konvergira u prilog tome.

Drugi važan rezultat dobio je Alan M. Turing, koji je pokazao da se svaka rekurzivno izračunljiva funkcija može izračunati u konačnom vremenu korištenjem maksimalno pojednostavljenog stroja za manipulaciju simbolima, koji je kasnije nazvan univerzalnim Turingovim strojem. Ovim strojem upravljaju rekurzivno primjenjiva pravila osjetljiva na identitet, redoslijed i lokaciju elementarnih simbola koji djeluju kao ulaz.

Vrlo važna posljedica slijedi iz ova dva rezultata, naime da standardno digitalno računalo, opremljeno ispravnim programom, dovoljno velikom memorijom i dovoljno vremena, može izračunati bilo koju funkciju vođenu pravilima s ulazom i izlazom. Drugim riječima, on može demonstrirati bilo koji sustavni skup odgovora na proizvoljne utjecaje iz vanjskog okruženja.

Konkretizirajmo ovo na sljedeći način: gore razmotreni rezultati znače da ispravno programiran stroj koji manipulira simbolima (u daljnjem tekstu MC stroj) mora zadovoljiti Turingov test prisutnosti svjesnog uma. Turingov test je isključivo bihevioralni test, ali su njegovi zahtjevi vrlo jaki. (Koliko je ovaj test valjan, raspravljat ćemo u nastavku, gdje se susrećemo s drugim, bitno drugačijim "testom" prisutnosti svjesnog uma.) Prema izvornoj verziji Turingovog testa, unos u MS stroj trebao bi biti pitanja i fraze na prirodnom razgovornom jeziku, koje upisujemo na tipkovnici ulaznog uređaja, a izlaz su odgovori MS stroja ispisani izlaznim uređajem. Smatra se da je stroj prošao ovaj test prisutnosti svjesnog uma ako se njegovi odgovori ne mogu razlikovati od onih koje je upisala stvarna, inteligentna osoba. Naravno, trenutno nitko ne zna funkciju pomoću koje bi bilo moguće dobiti izlaz koji se ne razlikuje od ponašanja racionalne osobe. Ali rezultati Churcha i Turinga jamče nam da kakva god bila ova (vjerovatno učinkovita) funkcija, prikladno dizajniran MS stroj je može izračunati.

Ovo je vrlo važan zaključak, pogotovo ako se uzme u obzir da je Turingov opis interakcije sa strojem pomoću pisaćeg stroja beznačajno ograničenje. Isti zaključak vrijedi čak i ako MC-stroj stupa u interakciju sa svijetom na složenije načine: putem aparata izravnog vida, prirodnog govora itd. Na kraju, složenija rekurzivna funkcija i dalje ostaje Turingovo izračunljiva. Ostaje samo jedan problem: pronaći tu nedvojbeno složenu funkciju koja upravlja odgovorima čovjeka na utjecaje iz vanjske okoline, a zatim napisati program (skup rekurzivno primjenjivih pravila) pomoću kojeg će MS stroj izračunati tu funkciju. Ovi su ciljevi bili osnova znanstveni program klasična umjetna inteligencija.

Prvi rezultati bili su ohrabrujući

MC strojevi s genijalno programiranim programima demonstrirali su cijeli niz radnji koje su naizgled pripadale manifestacijama uma. Odgovarali su na složene naredbe, rješavali teške aritmetičke, algebarske i taktičke probleme, igrali damu i šah, dokazivali teoreme i održavali jednostavan dijalog. Rezultati su se nastavili poboljšavati dolaskom većih uređaja za pohranu, bržih strojeva i razvojem moćnijih i sofisticiranijih programa. Klasična ili "programirana" umjetna inteligencija bila je vrlo živahno i uspješno polje znanosti s gotovo svih točki gledišta. Ponavljajuće poricanje koje će MC strojevi na kraju moći misliti činilo se pristranim i neinformiranim. Dokazi u prilog pozitivnog odgovora na pitanje postavljeno u naslovu članka djelovali su više nego uvjerljivo.

Naravno, bilo je nejasnoća. Prije svega, MC strojevi nisu izgledali previše ljudski mozak. No, i ovdje je klasična umjetna inteligencija imala spreman uvjerljiv odgovor. Prvo, fizički materijal od kojeg je napravljen MS stroj nema nikakve veze s funkcijom koju računa. Potonji je uključen u program. Drugo, tehnički detalji funkcionalne arhitekture stroja također su nevažni, budući da potpuno različite arhitekture, dizajnirane za rad s potpuno različitim programima, ipak mogu obavljati istu ulazno-izlaznu funkciju.

Stoga je cilj umjetne inteligencije bio pronaći funkciju koja je karakteristična za um u smislu ulaza i izlaza, te također stvoriti najučinkovitiji od mnogih mogućih programa za izračunavanje te funkcije. Istodobno je rečeno da nije bitan konkretan način na koji ljudski mozak izračunava funkciju. Time je dovršen opis suštine klasične umjetne inteligencije i osnove za pozitivan odgovor na pitanje postavljeno u naslovu članka.

Može li stroj misliti? Bilo je i nekoliko argumenata u korist negativnog odgovora. Tijekom 1960-ih, značajni negativni argumenti bili su relativno rijetki. Ponekad se iznosio prigovor da mišljenje nije fizički proces i da se odvija u nematerijalnoj duši. Međutim, takvo dualističko gledište nije se činilo dovoljno uvjerljivim ni s evolucijskog ni s logičkog gledišta. Nije imao odvraćajući učinak na istraživanja umjetne inteligencije.

Razmatranja drugačije prirode privukla su mnogo više pažnje stručnjaka za umjetnu inteligenciju. Godine 1972. Hubert L. Dreyfus objavio je knjigu koja je bila vrlo kritična prema paradnom prikazivanju inteligencije u sustavima umjetne inteligencije. Istaknuo je da ti sustavi nisu adekvatno modelirali istinsko razmišljanje i otkrio obrazac svojstven svemu tome neuspješni pokušaji. Po njegovom mišljenju, modelima je nedostajala ona ogromna zaliha neformaliziranog općeg znanja o svijetu koju svaka osoba ima, kao i sposobnost svojstvena zdravom razumu da se oslanja na određene komponente tog znanja, ovisno o zahtjevima promjenjivog okruženja. . Dreyfus nije poricao temeljnu mogućnost stvaranja umjetnog fizičkog sustava sposobnog za razmišljanje, ali je bio vrlo kritičan prema ideji da se to može postići samo manipuliranjem simbola s rekurzivno primijenjenim pravilima.

U krugovima stručnjaka za umjetnu inteligenciju, kao i filozofa rezoniranja Dreyfus percipirani su uglavnom kao kratkovidni i pristrani, temeljeni na neizbježnim pojednostavljenjima svojstvenim ovom još uvijek vrlo mladom polju istraživanja. Možda su se ti nedostaci stvarno dogodili, ali su, naravno, bili privremeni. Doći će vrijeme kada će snažniji strojevi i bolji programi omogućiti da se riješimo tih nedostataka. Činilo se da vrijeme radi za umjetnu inteligenciju. Stoga ovi prigovori nisu imali značajniji utjecaj na daljnja istraživanja u području umjetne inteligencije.

No, pokazalo se da je vrijeme radilo Dreyfus: kasnih 70-ih - ranih 80-ih, povećanje brzine i memorije računala nije mnogo povećalo njihove "mentalne sposobnosti". Ispostavilo se, primjerice, da prepoznavanje uzoraka u sustavima strojnog vida zahtijeva neočekivano veliku količinu računanja. Da bi se dobili praktički pouzdani rezultati, moralo se potrošiti sve više i više računalnog vremena, daleko više od vremena potrebnog za obavljanje istih zadataka za sustav biološkog vida. Tako spor proces simulacije bio je alarmantan: na kraju krajeva, u računalu se signali šire oko milijun puta brže nego u mozgu, a taktna frekvencija središnje procesorske jedinice računala otprilike je isto puta viša od frekvencije bilo koje pronađene oscilacije. u mozgu. Pa ipak, na realnim zadacima, kornjača lako prestiže zeca.

Osim toga, za rješavanje realnih problema potrebno je da računalni program ima pristup iznimno velikoj bazi podataka. Izgradnja takve baze podataka već je sama po sebi prilično težak problem, ali ga pogoršava još jedna okolnost: kako omogućiti pristup specifičnim, kontekstno ovisnim fragmentima ove baze podataka u stvarnom vremenu. Kako su baze postajale sve prostranije, problem pristupa postajao je sve složeniji. Iscrpna potraga trajala je predugo, a heurističke metode nisu uvijek bile uspješne. Strahove slične onima koje je izrazio Dreyfus počeli su dijeliti čak i neki stručnjaci koji rade na području umjetne inteligencije.

Otprilike u to vrijeme (1980.), John Searle predstavio je revolucionarni kritički koncept koji je doveo u pitanje samu temeljnu pretpostavku klasičnog istraživačkog programa umjetne inteligencije, naime ideju da je ispravna manipulacija strukturiranih simbola rekurzivnom primjenom pravila koja uzimaju u obzir njihovu strukturu , može činiti bit svjesnog uma.

Searleov glavni argument temeljio se na misaonom eksperimentu u kojem pokazuje dvije vrlo važne činjenice. Prvo, on opisuje MC stroj koji (kako bismo trebali razumjeti) implementira funkciju koja je, na ulazu i izlazu, sposobna proći Turingov test u obliku razgovora koji se odvija isključivo na kineskom. Drugo, unutarnja struktura stroja je takva da, bez obzira na ponašanje, za promatrača nema sumnje da niti stroj u cjelini, niti bilo koji njegov dio, ne razumije kineski jezik. Sve što sadrži je osoba koja govori samo engleski, slijedeći pravila zapisana u uputama, uz pomoć kojih znakova treba manipulirati ulaskom i izlaskom kroz sandučić na vratima. Ukratko, sustav pozitivno zadovoljava Turingov test, unatoč činjenici da nema istinsko razumijevanje kineskog jezika i stvarnog semantičkog sadržaja poruka (vidi članak J. Searlea "The Mind of the Brain - a Computer Program? ").

Opći zaključak iz ovoga je da će bilo koji sustav koji jednostavno manipulira fizičkim simbolima prema strukturno osjetljivim pravilima u najboljem slučaju biti jadna parodija stvarnog svjesnog uma, budući da je nemoguće generirati "pravu semantiku" jednostavnim okretanjem gumba " prazna sintaksa". Ovdje treba napomenuti da Searle ne postavlja bihevioralni (ne-bihevioralni) test prisutnosti svijesti: elementi svjesnog uma moraju imati pravi semantički sadržaj.

Postoji iskušenje zamjeriti Searleu da njegov misaoni eksperiment nije adekvatan, budući da će sustav koji on predlaže, djelujući poput "Rubikove kocke", raditi apsurdno sporo. Međutim, Searle inzistira da brzina u ovom slučaju ne igra nikakvu ulogu. Tko sporo razmišlja, ipak dobro misli. Sve što je potrebno za reprodukciju mišljenja, prema konceptu klasične umjetne inteligencije, po njegovom mišljenju, nalazi se u "kineskoj sobi".

Searleov članak izazvao je entuzijastične reakcije stručnjaka za umjetnu inteligenciju, psihologa i filozofa. U cjelini, međutim, dočekana je s još više neprijateljstva nego Dreyfusova knjiga. U svom članku, koji je istodobno objavljen u ovom broju časopisa, Searle iznosi niz kritičkih argumenata protiv svog koncepta. Po našem mišljenju, mnogi od njih su legitimni, posebno oni čiji autori pohlepno “zagrizu mamac”, tvrdeći da iako je sustav koji se sastoji od sobe i njezinog sadržaja užasno spor, ipak razumije kineski.

Sviđaju nam se ovi odgovori, ali ne zato što mislimo da kineska soba razumije kineski. Slažemo se sa Searleom da ga ona ne razumije. Privlačnost ovih argumenata je u tome što odražavaju neuspjeh prihvaćanja najvažnijeg trećeg aksioma u Searleovom argumentu: "Sintaksa sama po sebi ne čini semantiku i nije dovoljna za postojanje semantike." Ovaj aksiom može biti istinit, ali Searle ne može opravdano tvrditi da to sigurno zna. Štoviše, sugerirati da je to točno znači postaviti pitanje je li program klasičnog istraživanja umjetne inteligencije dobar, budući da se ovaj program temelji na vrlo zanimljivoj pretpostavci da ako samo možemo pokrenuti prikladno strukturiran proces, neku vrstu unutarnji ples sintaktičkih elemenata ispravno povezanih s ulazima i izlazima, tada možemo dobiti ista stanja i manifestacije uma koji su svojstveni čovjeku.

Da Searleov treći aksiom doista postavlja ovo pitanje postaje očito kada ga izravno usporedimo s njegovim prvim zaključkom: "Programi se pojavljuju kao bit uma i njihova prisutnost nije dovoljna za prisutnost uma." Nije teško vidjeti da već njegov treći aksiom nosi 90% gotovo identičnog zaključka. Zbog toga je Searleov misaoni eksperiment posebno osmišljen kako bi podržao treći aksiom. Ovo je cijela poanta kineske sobe.

Iako primjer kineske sobe čini aksiom 3 privlačnim za neupućene, ne mislimo da on dokazuje valjanost ovog aksioma, a kako bismo pokazali neuspjeh ovog primjera, nudimo naš paralelni primjer kao ilustraciju. Često je jedan dobar primjer koji pobija spornu tvrdnju mnogo bolji u razjašnjavanju situacije nego cijela knjiga puna logičkog žongliranja.

Bilo je mnogo primjera skepticizma u povijesti znanosti, kao što vidimo u Searleovom razmišljanju. U XVIII stoljeću. Irski biskup George Berkeley smatrao je nezamislivim da kompresijski valovi u zraku mogu sami po sebi biti bit zvučnih pojava ili dovoljan faktor za njihovo postojanje. Engleski pjesnik i slikar William Blake i njemački prirodoslovac Johann Goethe smatrali su nezamislivim da male čestice materije same mogu biti entitet ili čimbenik dovoljan za objektivno postojanje svjetlosti. Čak iu ovom stoljeću bilo je ljudi koji nisu mogli zamisliti da bi neživa materija sama po sebi, koliko god bila složena njena organizacija, mogla biti organski entitet ili dovoljan uvjet života. Jasno je da ono što ljudi mogu ili ne moraju zamišljati često nema nikakve veze s onim što stvarno postoji ili ne postoji u stvarnosti. To vrijedi čak i kada je riječ o ljudima s vrlo visokom razinom inteligencije.

Da vidimo kako se ove povijesne lekcije mogu primijeniti na Searleovo razmišljanje, primijenimo umjetnu paralelu na njegovu logiku i pojačajmo je misaonim eksperimentom.

Aksiom 1. Elektricitet i magnetizam su fizikalne sile.

Aksiom 2. Bitno svojstvo svjetlosti je luminoznost.

Aksiom 3. Same sile se pojavljuju kao bit efekta sjaja i nisu dovoljne za njegovu prisutnost.

Zaključak 1. Elektricitet i magnetizam nisu suština svjetla i nisu dovoljni za njegovu prisutnost.

Pretpostavimo da je ovo obrazloženje objavljeno nedugo nakon toga James K. Maxwell godine 1864. predložio da su svjetlost i elektromagnetski valovi identični, ali prije nego što su sustavne paralele između svojstava svjetlosti i svojstava elektromagnetskih valova u potpunosti ostvarene u svijetu. Gornje logično razmišljanje moglo bi se činiti kao uvjerljiv prigovor Maxwellovoj hrabroj hipotezi, posebno ako ga prati sljedeći komentar u prilog Aksiomu 3.

Zamislite mračnu sobu u kojoj se nalazi osoba koja u rukama drži trajni magnet ili nabijeni predmet. Ako osoba počne pomicati magnet gore-dolje, tada će, prema Maxwellovoj teoriji umjetne rasvjete (AI), iz magneta izlaziti sfera elektromagnetskih valova koja se širi i prostorija će postati svjetlija. Ali, kao što je svima koji su se pokušali igrati s magnetima ili nabijenim lopticama dobro poznato, njihove sile (i što se toga tiče, bilo koje druge sile), čak i kada su ti objekti u pokretu, ne stvaraju nikakav sjaj. Stoga se čini nezamislivim da bismo mogli postići pravi efekt sjaja jednostavnom manipulacijom sila!

Fluktuacije elektromagnetskih sila su lagane, iako magnet koji čovjek pokreće ne proizvodi nikakav sjaj. Slično tome, manipulacija simbolima prema određenim pravilima može predstavljati inteligenciju, iako se čini da sustavu temeljenom na pravilima koji se nalazi u Searleovoj Kineskoj sobi nedostaje pravo razumijevanje.

Što bi Maxwell mogao odgovoriti da mu se baci ovaj izazov?

Prvo, možda je inzistirao na tome da nas eksperiment "svjetleće sobe" dovodi u zabludu o svojstvima vidljive svjetlosti, jer je frekvencija vibracije magneta izuzetno niska, oko 1015 puta manja od potrebne. Nakon toga može uslijediti nestrpljivi odgovor da frekvencija ovdje ne igra nikakvu ulogu, da soba s oscilirajućim magnetom već sadrži sve što je potrebno za ispoljavanje efekta sjaja u potpunom skladu s teorijom samog Maxwella.

Sa svoje strane Maxwell mogli "zagrizti mamac" tvrdeći sasvim ispravno da je soba već puna sjaja, ali priroda i snaga ovog sjaja je takva da ga osoba ne može vidjeti. (Zbog niske frekvencije kojom osoba pomiče magnet, duljina generiranih elektromagnetskih valova je prevelika, a intenzitet prenizak da bi ljudsko oko na njih reagiralo.) Međutim, s obzirom na razinu razumijevanja ovih fenomena u promatranom vremenskom razdoblju (60-ih godina prošlog stoljeća) takvo bi objašnjenje vjerojatno izazvalo smijeh i podrugljive opaske. Sjajna soba! Ali oprostite, gospodine Maxwell, unutra je potpuni mrak!

Pa vidimo da siromasi Maxwell mora biti teško. Sve što može učiniti je inzistirati na sljedeće tri točke. Prvo, aksiom 3 u gornjem obrazloženju nije istinit. Doista, unatoč činjenici da se intuitivno čini prilično vjerojatnim, nehotice postavljamo pitanje o tome. Drugo, eksperiment užarene sobe ne pokazuje nam ništa zanimljivo o fizičkoj prirodi svjetlosti. I treće, da bismo doista riješili problem svjetlosti i mogućnosti umjetne svjetlosti, potreban nam je program istraživanja koji će nam omogućiti da ustanovimo je li u odgovarajućim uvjetima ponašanje elektromagnetskih valova potpuno identično ponašanju svjetlosti. Isti bi odgovor klasična umjetna inteligencija trebala dati na Searleovo razmišljanje. Iako se Searleova kineska soba može činiti "semantički mračnom", on nema mnogo razloga inzistirati na tome da manipulacija simbolima, učinjena prema određenim pravilima, nikada ne može proizvesti semantičke fenomene, pogotovo zato što su ljudi još uvijek loše informirani i ograničeni samo razumijevanjem jezik.zdravorazumska razina tih semantičkih i duševne pojave koje trebaju objašnjenje. Umjesto da iskoristi razumijevanje ovih stvari, Searle se u svom razmišljanju slobodno koristi nedostatkom takvog razumijevanja kod ljudi.

Nakon što smo izrazili svoje kritike Searleovog rezoniranja, vratimo se na pitanje ima li klasični AI program stvarne šanse riješiti problem svjesnog uma i stvoriti misleći stroj. Vjerujemo da izgledi ovdje nisu svijetli, ali naše se mišljenje temelji na razlozima koji su bitno drugačiji od onih koje koristi Searle. Gradimo na specifičnim neuspjesima klasičnog programa istraživanja umjetne inteligencije i na nizu lekcija koje nas je biološki mozak naučio kroz novu klasu računalnih modela koji utjelovljuju neka svojstva njegove strukture. Već smo spomenuli neuspjehe klasične umjetne inteligencije u rješavanju onih problema koje brzo i učinkovito rješava mozak. Znanstvenici postupno dolaze do konsenzusa da su ti kvarovi posljedica svojstava funkcionalne arhitekture MS strojeva, koji su jednostavno neprikladni za rješavanje složenih zadataka koji stoje pred njima.

Ono što trebamo znati je kako mozak postiže učinak razmišljanja? Obrnuti inženjering je široko rasprostranjena tehnika u inženjerstvu. Kada se novi komad tehnologije pojavi na tržištu, konkurenti shvaćaju kako funkcionira rastavljajući ga i pokušavajući pogoditi princip na kojem se temelji. U slučaju mozga, ovaj pristup je iznimno teško provesti, jer je mozak najsloženija stvar na planetu. Ipak, neurofiziolozi su uspjeli otkriti mnoga svojstva mozga na različitim strukturnim razinama. Tri anatomske značajke temeljno ga razlikuju od arhitekture tradicionalnih elektroničkih računala.

Prvo, živčani sustav je paralelni stroj, u smislu da se signali obrađuju istovremeno na milijune različitih načina. Na primjer, mrežnica oka odašilje složeni ulazni signal u mozak ne u skupinama od 8, 16 ili 32 elementa, kao stolno računalo, već u obliku signala koji se sastoji od gotovo milijun pojedinačnih elemenata koji istovremeno stižu na završetak vidnog živca (lateralno genikulatno tijelo), nakon čega ih također istovremeno, u jednom koraku, obrađuje mozak. Drugo, elementarni "uređaj za obradu" mozga, neuron, relativno je jednostavan. Također, njegov odgovor na ulazni signal je analogan, a ne digitalan, u smislu da se frekvencija izlaznog signala kontinuirano mijenja s ulaznim signalima.

Treće, u mozgu, osim aksona koji vode od jedne skupine neurona do druge, često nalazimo aksone koji vode u suprotnom smjeru. Ovi povratni procesi omogućuju mozgu da modulira način na koji se obrađuju senzorne informacije. Još je važnija činjenica da je, zbog njihovog postojanja, mozak istinski dinamičan sustav, u kojem kontinuirano održavano ponašanje karakterizira i vrlo visoka složenost i relativna neovisnost o perifernim podražajima. Pojednostavljeni mrežni modeli odigrali su korisnu ulogu u proučavanju mehanizama rada stvarnih neuronskih mreža i računalnih svojstava paralelnih arhitektura. Razmotrimo, na primjer, troslojni model koji se sastoji od elemenata sličnih neuronima koji imaju veze poput aksona s elementima sljedeće razine. Ulazni podražaj doseže prag aktivacije danog ulaznog elementa, koji šalje signal proporcionalne snage duž svog "aksona" do brojnih "sinaptičkih" završetaka elemenata skrivenog sloja. Ukupni učinak je da određeni uzorak aktiviranja signala na skupu ulaznih elemenata generira određeni obrazac signala na skupu skrivenih elemenata.

Isto se može reći i za izlazne elemente. Slično, konfiguracija aktivirajućih signala na presjeku skrivenog sloja dovodi do određenog obrasca aktivacije na presjeku izlaznih elemenata. Sumirajući, možemo reći da je razmatrana mreža uređaj za pretvaranje bilo kojeg velikog broja mogućih ulaznih vektora (konfiguracija aktivirajućih signala) u jedinstveno odgovarajući izlazni vektor. Ovaj uređaj je dizajniran za izračunavanje određene funkcije. Koju funkciju procjenjuje ovisi o globalnoj konfiguraciji strukture sinaptičke težine.

Neuronske mreže modeliraju glavno svojstvo mikrostrukture mozga. U ovoj troslojnoj mreži, ulazni neuroni (dolje lijevo) obrađuju uzorak aktiviranja signala (dolje desno) i propuštaju ih kroz težinske veze do skrivenog sloja. Elementi skrivenog sloja zbrajaju svoje višestruke ulaze kako bi formirali novu konfiguraciju signala. Prenosi se vanjskom sloju koji provodi daljnje transformacije. Općenito, mreža će transformirati bilo koji ulazni skup signala u odgovarajući izlaz, ovisno o lokaciji i relativnoj snazi ​​veza između neurona.

Postoje različiti postupci za prilagođavanje težina, zahvaljujući kojima se može napraviti mreža sposobna za izračunavanje gotovo bilo koje funkcije (tj. bilo koje transformacije između vektora). Zapravo, u mreži je moguće implementirati funkciju koja se ne može niti formulirati, dovoljno je samo dati skup primjera koji pokazuju kakve ulazne i izlazne lare želimo imati. Ovaj proces, nazvan "učenje mreže", provodi se uzastopnim odabirom težina dodijeljenih vezama, što se nastavlja sve dok mreža ne počne izvoditi željene transformacije na ulazu kako bi se dobio željeni izlaz.

Iako ovaj mrežni model uvelike pojednostavljuje strukturu mozga, ipak ilustrira nekoliko važnih aspekata. Prvo, paralelna arhitektura pruža ogromnu prednost performansi u odnosu na tradicionalno računalo, budući da mnoge sinapse na svakoj razini izvode mnoge male računalne operacije u isto vrijeme, umjesto da rade u vrlo dugotrajnom sekvencijalnom načinu rada. Ova prednost postaje sve značajnija kako se broj neurona na svakoj razini povećava. Začudo, brzina obrade informacija uopće ne ovisi o broju elemenata uključenih u proces na svakoj razini, niti o složenosti funkcije koju oni izračunavaju. Svaka razina može imati četiri elementa, ili sto milijuna; konfiguracija sinaptičke težine može izračunati jednostavne jednoznamenkaste zbrojeve ili riješiti diferencijalne jednadžbe drugog reda. Nije važno. Vrijeme izračuna bit će potpuno isto.

Drugo, paralelna priroda sustava čini ga neosjetljivim na male pogreške i daje mu funkcionalnu stabilnost; gubitak nekoliko veza, čak i primjetnog broja njih, ima zanemariv učinak na ukupni napredak transformacije koju provodi ostatak mreže.

Treće, paralelni sustav pohranjuje veliku količinu informacija u distribuiranom obliku, pri čemu omogućuje pristup bilo kojem fragmentu tih informacija u vremenu koje se mjeri u nekoliko milisekundi. Informacije se pohranjuju u obliku određenih konfiguracija težina pojedinih sinaptičkih veza koje su nastale u procesu prethodnog učenja. Željena informacija se "oslobađa" dok ulazni vektor prolazi kroz (i transformira) ovu konfiguraciju veze.

Paralelna obrada podataka nije idealna za sve vrste računalstva. Pri rješavanju problema s malim ulaznim vektorom, ali koji zahtijevaju mnogo milijuna rekurzivnih izračuna koji se brzo ponavljaju, mozak se pokazuje potpuno bespomoćnim, dok klasični MS strojevi pokazuju svoje najbolje mogućnosti. Ovo je vrlo velika i važna klasa računarstva, tako da će klasični strojevi uvijek biti potrebni, pa čak i potrebni. Međutim, postoji jednako široka klasa izračuna za koje je arhitektura mozga najbolje tehničko rješenje. To su uglavnom proračuni s kojima se živi organizmi obično suočavaju: prepoznavanje obrisa predatora u "bučnom" okruženju; trenutno se prisjeća ispravne reakcije na njegov pogled, načina kako pobjeći kada se približi ili obraniti kada je napadnut; razlikovanje jestivih i nejestivih stvari, spolnih partnera i drugih životinja; izbor ponašanja u složenom i stalno promjenjivom fizičkom ili društvenom okruženju; itd.

Na kraju, vrlo je važno napomenuti da opisani paralelni sustav ne manipulira simbolima prema strukturnim pravilima. Umjesto toga, manipulacija simbolima samo je jedna od mnogih drugih "inteligentnih" vještina koje mreža može, ali i ne mora naučiti. Manipulacija simbolima vođena pravilima nije primarni način na koji mreža funkcionira. Searleovo razmišljanje usmjereno je protiv MC strojeva kojima upravljaju pravila; vektorski transformacijski sustavi tipa koji smo opisali stoga ne spadaju u opseg njegovog argumenta kineske sobe, čak i kad bi bio valjan, u što imamo drugih, neovisnih razloga sumnjati.

Searle je svjestan paralelnih procesora, ali, po njegovom mišljenju, i oni će biti lišeni stvarnog semantičkog sadržaja. Kako bi ilustrirao njihovu neizbježnu inferiornost u tom pogledu, on opisuje drugi misaoni eksperiment, ovaj put s kineskom teretanom punom ljudi organiziranih u paralelnu mrežu. Daljnji tijek njegova razmišljanja sličan je razmišljanju u slučaju Kineske sobe.

Po našem mišljenju, ovaj drugi primjer nije tako uspješan i uvjerljiv kao prvi. Prije svega, činjenica da niti jedan element u sustavu ne razumije kineski ne igra nikakvu ulogu, jer isto vrijedi i za ljudski živčani sustav: niti jedan neuron u mom mozgu ne razumije engleskog jezika, iako mozak u cjelini razumije. Searle dalje kaže da bi njegov model (jedna osoba po neuronu plus jedan brzonogi dječak po sinaptičkoj vezi) zahtijevao najmanje 1014 ljudi, budući da ljudski mozak sadrži 1011 neurona, svaki s prosječno 103 veze. . Stoga bi njegov sustav zahtijevao populaciju od 10.000 svjetova poput naše Zemlje. Očito je teretana daleko od toga da može primiti koliko-toliko adekvatnu manekenku.

S druge strane, kada bi se takav sustav ipak mogao sastaviti, u odgovarajućem kozmičkom mjerilu, sa svim vezama točno modeliranim, imali bismo ogroman, spor, čudno dizajniran, ali još uvijek funkcionalan mozak. U ovom slučaju, naravno, prirodno je očekivati ​​da će uz pravi unos misliti, a ne obrnuto, da za to nije sposoban. Ne može se jamčiti da će rad takvog sustava predstavljati stvarno razmišljanje, budući da teorija vektorske obrade možda neće adekvatno odražavati rad mozga. Ali na isti način, nemamo a priori jamstvo da ona neće misliti. Searle još jednom pogrešno poistovjećuje trenutne granice vlastite (ili čitateljeve) mašte s granicama objektivne stvarnosti.

Mozak

Mozak je vrsta računala, iako je većina njegovih svojstava još nepoznata. Mozak nije lako okarakterizirati kao računalo i takav pokušaj ne treba shvatiti previše olako. Mozak radi računalne funkcije, ali ne na isti način kao u primijenjenim zadacima koje rješava klasična umjetna inteligencija. Kada govorimo o stroju kao računalu, ne mislimo na sekvencijalno digitalno računalo koje treba programirati i koje ima jasnu razliku između softvera i hardvera; niti mislimo da ovo računalo manipulira simbolima ili slijedi određena pravila. Mozak je računalo bitno drugačije vrste.

Još nije poznato kako mozak hvata semantički sadržaj informacija, no jasno je da ovaj problem daleko nadilazi lingvistiku i nije ograničen na ljude kao vrstu. Mali komadić svježe zemlje znači, i čovjeku i kojotu, da je gopher negdje u blizini; odjek s određenim spektralnim karakteristikama znači za šišmiš prisutnost moljca. Da bismo razvili teoriju formiranja značenja, moramo znati više o tome kako neuroni kodiraju i transformiraju senzorne signale, neuralnu osnovu pamćenja, učenja i emocija te odnos između tih čimbenika i motoričkog sustava. Teorija razumijevanja značenja koja se temelji na neuroznanosti može čak zahtijevati našu intuiciju, koja nam se sada čini tako nepokolebljivom i koju Searle tako slobodno koristi u svom razmišljanju. Takve revizije nisu neuobičajene u povijesti znanosti.

Može li znanost stvoriti umjetnu inteligenciju koristeći ono što je poznato o živčanom sustavu? Ne vidimo temeljne prepreke na tom putu. Searle se navodno slaže, ali uz upozorenje: "Svaki drugi sustav sposoban generirati inteligenciju mora imati uzročna svojstva (barem) ekvivalentna odgovarajućim svojstvima mozga." Na kraju članka razmotrit ćemo ovu izjavu. Vjerujemo da Searle ne tvrdi da uspješan AI sustav nužno mora imati sva uzročna svojstva mozga, kao što su sposobnost mirisa truleži, sposobnost prijenosa virusa, sposobnost požutjenja pod djelovanjem peroksidaze hrena itd. Zahtijevati potpunu usklađenost bilo bi kao tražiti od umjetne letjelice da može polagati jaja.

Vjerojatno je mislio samo na zahtjev da umjetni um ima sva uzročna svojstva koja, kako je rekao, pripadaju svjesnom umu. Međutim, koje točno? I tu se opet vraćamo na raspravu o tome što pripada svjesnom umu, a što ne. Ovo je samo mjesto za raspravu, ali istinu u ovom slučaju treba saznati empirijski - pokušajte i vidite što će se dogoditi. Budući da znamo tako malo o tome što su točno misaoni proces i semantika, bilo kakva sigurnost o tome koja su svojstva ovdje relevantna bila bi preuranjena. Searle nekoliko puta nagovještava da svaka razina, uključujući biokemiju, mora biti zastupljena u svakom stroju koji tvrdi da je umjetna inteligencija. Očito, ovo je prejak zahtjev. Umjetni mozak može postići isti učinak bez korištenja biokemijskih mehanizama.

Ta je mogućnost prikazana u studijama K. Meada na Kalifornijskom institutu za tehnologiju. Mead i njegovi kolege koristili su analogne mikroelektroničke uređaje za stvaranje umjetne mrežnice i umjetne pužnice. (Kod životinja mrežnica i pužnica nisu samo pretvornici: postoji složena paralelna obrada koja se odvija u oba sustava.) Ovi uređaji više nisu jednostavni modeli u miniračunalu na koje se Searle smijulji; oni su pravi elementi za obradu informacija koji u stvarnom vremenu odgovaraju na stvarne signale: svjetlo u slučaju mrežnice i zvuk u slučaju pužnice. Dizajni uređaja temelje se na poznatim anatomskim i fiziološkim svojstvima mačje mrežnice i pužnice sove ušare, a njihov učinak je izuzetno blizu poznatim rezultatima organa koje modeliraju.

Ovi mikrosklopovi ne koriste nikakve neurotransmitere, stoga se čini da neurotransmiteri nisu potrebni za postizanje željenih rezultata. Naravno, ne možemo reći da umjetna mrežnica nešto vidi, budući da njezin izlaz ne ide u umjetni talamus ili cerebralni korteks, itd. Još nije poznato je li moguće izgraditi cijeli umjetni mozak pomoću programa Mead, ali na prisutan Nemamo dokaza da odsutnost biokemijskih mehanizama u sustavu čini ovaj pristup nerealnim.

Živčani sustav obuhvaća čitav niz organizacija, od molekula neurotransmitera (ispod) do cijelog mozga i leđne moždine. Srednje razine sadrže pojedinačne neurone i neuronske sklopove, poput onih koji provode selektivnost percepcije vizualnih podražaja (u sredini), te sustave koji se sastoje od mnogo sklopova, sličnih onima koji služe funkcijama govora (gore desno). Samo istraživanjem može se ustanoviti koliko je umjetni sustav sposoban reproducirati biološke sustave koji imaju um.

Poput Searlea, odbacujemo Turingov test kao dovoljan kriterij za prisutnost svjesnog uma. Na jednoj razini, imamo slične razloge za to: slažemo se da je vrlo važno kako je funkcija definirana input-outputom implementirana; važno je da se u stroju odvijaju ispravni procesi. Na drugoj razini vodimo se potpuno drugačijim promišljanjima. Searle svoj stav o prisutnosti ili odsutnosti semantičkog sadržaja temelji na intuicijama zdravog razuma. Naše gledište temelji se na specifičnim kvarovima klasičnih MS strojeva i specifičnim prednostima strojeva čija je arhitektura bliža strukturi mozga. Usporedba ovih različitih tipova strojeva pokazuje da neke računalne strategije imaju ogromnu i odlučujuću prednost nad drugima u odnosu na tipične mentalne zadatke. Ove prednosti, empirijski utvrđene, ne izazivaju nikakve sumnje. Očito, mozak sustavno iskorištava prednosti ovih računalnih prednosti. Međutim, to nipošto nije nužno jedini fizički sustav koji ih može iskoristiti. Ideja o stvaranju umjetne inteligencije u nebiološkom, ali u biti paralelnom stroju ostaje vrlo primamljiva i prilično obećavajuća.

Razmotrit ću mogu li strojevi misliti. Ali za ovo prvo moramo definirati značenje pojmova "stroj" i "misliti". Bilo bi moguće konstruirati ove definicije na takav način da što bolje odražavaju uobičajenu upotrebu ovih riječi, ali takav pristup je pun opasnosti. Radi se o tome da ako istražimo značenja riječi "stroj" i "misliti" ispitujući kako se te riječi obično definiraju, bit će nam teško izbjeći zaključak da značenje tih riječi i odgovor na pitanje "mogu li strojevi misliti?" treba tražiti putem statističkog istraživanja sličnog Gallup upitniku. Međutim, ovo je smiješno. Umjesto da pokušam dati takvu definiciju, zamijenit ću naše pitanje drugim pitanjem koje je usko povezano s njim i izraženo je riječima s relativno jasnim značenjem.

Ovaj novi oblik može se opisati u terminima igre koju ćemo nazvati "igra oponašanja". Ovu igru ​​igraju tri osobe: muškarac (A), žena (B) i netko tko postavlja pitanja (C), a to može biti osoba bilo kojeg spola. Pitač je od ostala dva sudionika igre odvojen zidovima prostorije u kojoj se nalazi. Cilj igre za ispitivača je odrediti tko je od druga dva igrača u igri muškarac (A), a tko žena (B). Zna ih kao X i Y, a na kraju igre kaže ili "X je A, a Y je B" ili "X je B, a Y je A". Dopušteno mu je postavljati pitanja poput:

S: "Zamolit ću X-a da mi kaže duljinu njegove (ili njezine) kose."

Pretpostavimo sada da je X zapravo A. U tom slučaju A mora dati odgovor. Za A, cilj igre je potaknuti C da dođe do krivog zaključka. Dakle, njegov odgovor bi mogao biti otprilike ovaj:

"Kosa mi je kratko ošišana, a najduži pramenovi dugi su oko devet centimetara."

Kako ispitivač ne bi mogao glasom odrediti tko je od druga dva sudionika u igri muškarac, a tko žena, odgovore na pitanja trebalo je dati pismeno, a još bolje - pisaćim strojem. Idealan slučaj bila bi telegrafska poruka između dvije sobe u kojima se nalaze igrači. Ako to nije moguće, onda odgovore i pitanja treba prenijeti neki posrednik. Cilj igre za trećeg igrača, ženu (B), je pomoći ispitivaču. Za nju je vjerojatno najbolja strategija dati istinite odgovore. Može i primjedbama poput "Ženo - ja, ne slušaj ga!", ali time neće postići ništa, jer takve primjedbe može dati i muškarac.

Postavimo sada pitanje: "Što će se dogoditi ako u ovoj igri sudjeluje stroj umjesto A?" Hoće li ispitivač u ovom slučaju griješiti jednako često kao u igri u kojoj su sudionici samo ljudi? Ova će pitanja zamijeniti naše izvorno pitanje, "Mogu li strojevi misliti?".

II. Kritika nove formulacije problema

Baš kao što postavljamo pitanje: "Što je odgovor na problem u njegovom novom obliku?", može se pitati: "Zaslužuje li problem da bude razmatran u svojoj novoj formulaciji?". Razmotrit ćemo ovo posljednje pitanje ne odgađajući stvari na neodređeno vrijeme, da se na njega kasnije ne vraćamo.

Nova formulacija našeg problema ima prednost jer pravi jasnu razliku između fizičkih i mentalnih sposobnosti čovjeka. Nijedan inženjer ili kemičar ne tvrdi da je stvorio materijal koji se ne bi razlikovao od ljudske kože. Takav bi izum jednog dana mogao biti napravljen. Ali čak i ako pretpostavimo mogućnost stvaranja materijala koji se ne može razlikovati od ljudske kože, još uvijek smatramo da nema smisla pokušavati učiniti "stroj koji misli" sličnijim čovjeku oblačeći ga u takvo umjetno meso. Forma koju smo dali problemu odražava tu okolnost pod uvjetom da ispitivač ne dolazi u kontakt s drugim sudionicima u igri, da ih vidi ili čuje njihove glasove. Navođenjem primjera mogućih pitanja i odgovora mogu se pokazati i neke druge prednosti uvedenog kriterija. Na primjer:

S: Molim te, napiši sonet o mostu preko rijeke Forth.

O: Izbavi me iz ovoga. Nikada nisam morao pisati poeziju.

C: Dodajte 34,957 na 70,764.

A (šuti oko 30 sekundi, zatim odgovara): 105 621.

S: Igrate li šah?

S: Imam samo kralja na e8 i nemam drugih figura. Imate samo kralja na e6 i topa na h1. Kako ćeš igrati?

A (nakon 15 sekundi tišine): Rh8. Mat.

Čini nam se da je metoda pitanja i odgovora prikladna za pokrivanje gotovo svih područja ljudskog djelovanja koje želimo uvesti u razmatranje. Ne želimo kriviti stroj za njegovu nesposobnost da zablista na natjecanjima ljepote, niti kriviti osobu za poraz u natjecanju s avionom, uvjeti igre čine te nedostatke beznačajnima. Oni koji odgovaraju, ako smatraju prikladnim, mogu se hvaliti svojim šarmom, snagom ili hrabrošću, kako žele, a ispitivač ne može zahtijevati praktične dokaze za to.

Možda se našoj igri može prigovoriti da su u njoj prednosti uglavnom na strani stroja. Kad bi se osoba pokušala pretvarati da je stroj, onda bi, očito, izgledala vrlo jadno. Odmah bi se odao sporošću i nepreciznošću u računanju. Osim toga, ne može li stroj učiniti nešto što bi se trebalo okarakterizirati kao razmišljanje, ali što bi bilo vrlo različito od onoga što radi osoba? Ovaj prigovor je vrlo težak. Ali kao odgovor na njega, možemo barem reći da ako je još uvijek moguće implementirati stroj koji će zadovoljavajuće igrati na imitaciji, onda se ovaj prigovor ne treba posebno brinuti.

Moglo bi se primijetiti da u "igri oponašanja" nije isključena mogućnost da jednostavno oponašanje ljudskog ponašanja neće biti najbolja strategija za stroj. Takav slučaj je moguć, ali ne mislim da će nas dovesti do nečeg bitno novog. U svakom slučaju, nitko nije pokušao istražiti našu teoriju igara u tom smjeru, a pretpostavit ćemo da je najbolja strategija za stroj dati odgovore koje bi osoba dala u pravom okruženju.

III. Strojevi uključeni u igru

Pitanje postavljeno u odjeljku I neće biti potpuno precizno dok ne preciziramo što se točno podrazumijeva pod riječju "stroj". Naravno, željeli bismo da možemo koristiti bilo koju vrstu inženjerske opreme u igri. Također smo skloni dopustiti mogućnost da inženjer ili grupa inženjera mogu izgraditi stroj koji će raditi, ali ne mogu dati zadovoljavajući opis kako radi jer je metoda koju su koristili bila u osnovi eksperimentalna. [pokušajem i pogreškom]. Na kraju, iz kategorije strojeva htjeli bismo isključiti ljude koji su rođeni na uobičajen način. Teško je konstruirati definiciju na takav način da zadovoljava ova tri uvjeta. Moguće je, na primjer, zahtijevati da svi dizajneri stroja budu istog spola; u stvarnosti, međutim, to nije dovoljno, jer je, očito, moguće uzgojiti kompletnu jedinku iz jedne uzete stanice ( na primjer) od ljudske kože. Učiniti to bio bi podvig biološkog inženjeringa vrijedan najveće pohvale, ali nismo skloni ovaj slučaj smatrati "izgradnjom mislećeg stroja".

To nas navodi na razmišljanje o napuštanju zahtjeva da bilo koja vrsta tehnologije treba biti dopuštena u igri. Ovoj ideji smo još skloniji iz razloga što je naše zanimanje za "misaone strojeve" proizašlo iz posebne vrste stroja, koji se obično naziva "elektroničkim računalom" ili "digitalnim računalom". Stoga dopuštamo samo digitalnim računalima da sudjeluju u našoj igri.

Altov Heinrich

Može li stroj misliti

Heinrich Altov

Može li stroj misliti?

Razmotrit ću pitanje: "Može li stroj misliti?" Ali za ovo prvo moramo definirati značenje pojma "misliti" ...

A. Turing. lanac okidača.

Dvaput tjedno, navečer, velemajstor je dolazio u Institut za kibernetiku i igrao se s elektroničkim strojem.

U prostranoj i napuštenoj dvorani nalazio se nizak stol sa šahovnicom, satom i tipkalnom komandnom pločom. Velemajstor je sjeo u stolicu, posložio figure i pritisnuo tipku "Start". Na prednjoj strani elektroničkog stroja zasvijetlio je pomični mozaik indikatorskih lampica. Ciljana je leća sustava za praćenje šahovska ploča. Zatim je na mat ploči bljesnuo kratki natpis. Auto je napravio svoj prvi pokret.

Bio je prilično malen, ovaj auto. Velemajstoru se ponekad činilo da nasuprot njemu stoji najobičniji hladnjak. Ali ovaj "hladnjak" uvijek je pobjeđivao. U godinu i pol dana velemajstor je jedva izvukao samo četiri partije.

Stroj nikada nije pogriješio. Prijetnja vremenskog pritiska nikada nije visjela nad njom. Velemajstor je više puta pokušao srušiti automobil, praveći namjerno smiješan potez ili žrtvujući figuru. Zbog toga je morao žurno pritisnuti tipku "Predaja".

Veliki majstor je bio inženjer i eksperimentirao je sa strojem kako bi poboljšao teoriju samoorganizirajućih automata. Ali ponekad ga je ljutila apsolutna smirenost "hladnjaka". Čak iu kritičnim trenucima igre stroj nije razmišljao dulje od pet-šest sekundi. Mirno trepćući raznobojnim svjetlima pokazivača zapisala je najjači mogući potez. Stroj je mogao napraviti prilagodbe za stil igre svog protivnika. Ponekad je podigla objektiv i dugo gledala osobu. Velemajstor je bio zabrinut i griješio...

Danju je u dvoranu ušao tihi laborant. Natmuren, ne gledajući u stroj, reproducirao je na šahovskoj ploči odigrane partije drugačije vrijeme izvrsni šahisti. Leća "hladnjaka" izdužila se do kvara i visjela preko daske. Stroj nije pogledao laboranticu. Neostrašćeno je bilježila informacije.

Eksperiment za koji je napravljen šahovski automat bližio se kraju. Odlučeno je organizirati javnu utakmicu između čovjeka i stroja. Prije utakmice, velemajstor se počeo pojavljivati ​​u institutu još češće. Velemajstor je shvatio da je poraz gotovo neizbježan. A ipak je intenzivno tražio slabe točke u igri hladnjaka. Stroj, kao da je slutio nadolazeću borbu, svaki je dan igrao sve jače i jače. Munjevitom brzinom razotkrila je velemajstorove najgenijalnije planove. Razbijala je njegove komade iznenadnim i izuzetnim napadima...

Neposredno prije početka meča automobil je prevezen u šahovski klub i postavljen na pozornicu. Velemajstor je stigao u zadnji čas. Već je požalio što je pristao na meč. Bilo je neugodno izgubiti od “hladnjače” pred svima.

Velemajstor je u igru ​​unio sav svoj talent i svu volju za pobjedom. Odabrao je otvaranje koje još nije igrao automatom i igra je odmah eskalirala.

Na dvanaestom potezu velemajstor je ponudio kola lovcu za pješaka. Suptilna, unaprijed pripremljena kombinacija bila je povezana s biskupovom žrtvom. Stroj je razmišljao devet sekundi - i odbacio žrtvu. Od tog trenutka velemajstor je znao da će neizbježno izgubiti. Ipak, nastavio je igru ​​- samouvjereno, hrabro, riskantno.

Ovakvu utakmicu nitko od prisutnih u dvorani nije vidio. Bila je to super umjetnost. Svi su znali da stroj uvijek pobjeđuje. No ovaj se put položaj na ploči promijenio tako brzo i tako naglo da je bilo nemoguće reći tko će pobijediti.

Nakon dvadeset devetog poteza, na semaforu stroja bljeskao je natpis: "Neriješeno". Velemajstor je začuđeno pogledao u "hladnjak" i prisilio se pritisnuti tipku "Ne". Poskočili su, preuređujući uzorak svjetla, indikatorska svjetla - i oprezno se ukočili.

U jedanaestoj minuti povukla je potez od kojeg se velemajstor najviše bojao. Uslijedila je brza izmjena figura. Položaj velemajstora se pogoršao. Međutim, na signalnoj ploči automobila ponovno se pojavila riječ "Izvlačenje". Velemajstor je tvrdoglavo pritisnuo tipku "Ne" i poveo damu u gotovo beznadni protunapad.

Sustav za praćenje stroja odmah se počeo pomicati. Stakleno oko objektiva gledalo je u čovjeka. Velemajstor se trudio ne gledati u stroj.

U svjetlosnom mozaiku indikatorskih lampica postupno su počeli prevladavati žuti tonovi. Postali su bogatiji, svjetliji - i konačno su se sve lampe ugasile, osim žutih. Zlatna zraka pala je na šahovsku ploču, iznenađujuće slična toploj sunčevoj svjetlosti.

U napetoj tišini škljocala je kazaljka velikog kontrolnog sata, skačući s podjeljka na podjeljak. Auto je pomislio. Razmišljala je četrdeset i tri minute, iako je većina šahista koji su sjedili u dvorani smatrala da nema o čemu posebno razmišljati i da je sigurno napadati skakačem.

Odjednom su se žuta svjetla ugasila. Leća je, nesigurno drhteći, zauzela svoj uobičajeni položaj. Zapis napravljenog poteza pojavio se na semaforu: stroj je pažljivo pomaknuo pješaka. U dvorani se začula buka; mnogi su smatrali da to nije najbolji potez.

Četiri poteza kasnije, stroj je priznao poraz.

Velemajstor je, odgurnuvši stolicu, dotrčao do auta i naglo podigao bočni štit. Ispod štita bljesnulo je crveno svjetlo kontrolnog mehanizma i ugasilo se.

Mladić, dopisnik sportskih novina, probio se na pozornicu koju su odmah ispunili šahisti.

Izgleda da je samo popustila, rekao je netko nesigurno. - Igrala je tako nevjerojatno - i odjednom ...

Pa znate, - usprotivio se jedan od poznatih šahista, - događa se da čak i osoba ne primijeti dobitnu kombinaciju. Stroj je igrao punom snagom, ali su njegove mogućnosti bile ograničene. Samo i sve.

Velemajstor je polako spustio štitnik stroja i okrenuo se dopisniku.

Dakle, - ponovio je nestrpljivo, otvarajući svoju bilježnicu - što mislite?

Moje mišljenje? - upita velemajstor. - Evo ga: otkazao je lanac okidača u sto devetom bloku. Naravno, potez pješaka nije najjači. Ali sada je teško reći gdje je uzrok, a gdje posljedica. Možda zbog ovog lanca okidača stroj nije primijetio najbolji potez. Ili je možda stvarno odlučila ne pobijediti - i to ju je koštalo okidača strujom. Uostalom, nije tako lako da se osoba slomi ...

Ali zašto ovaj slab potez, zašto izgubiti? - iznenadio se dopisnik. Kad bi stroj mogao misliti, težio bi pobjedi.

Velemajstor je slegnuo ramenima i nasmiješio se.

Kako da kažem... Ponekad je puno ljudskije napraviti slabašan potez. Spremni za polijetanje!

ajak je stajao na visokoj stijeni, daleko u moru. Ljudi su se na svjetioniku pojavljivali samo povremeno kako bi provjerili automatsku opremu. Dvjestotinjak metara od svjetionika iz vode je izranjao otok. Dugi niz godina počeo je na otoku, kao na pijedestalu, postavili su svemirski brod koji se vratio na Zemlju nakon dugog leta. Nije imalo smisla ponovno slati takve brodove u svemir.

Došao sam ovamo s jednim inženjerom koji je bio zadužen za svjetionike na cijeloj crnomorskoj obali. Kad smo došli do vrha svjetionika, inženjer mi je pružio dalekozor i rekao:

Bit će oluje. Vrlo sretan: prije lošeg vremena uvijek oživi.

Crvenkasto sunce mutno je obasjavalo sive kreste valova. Stijena je rezala valove, oni su je obilazili i bučno se penjali po skliskom, hrđavom kamenju. Zatim se uz duboki uzdah rašire kao zapjenjeni potočići otvarajući put novim valovima. Ovako su napredovali rimski legionari: prvi red, udarivši, vratio se kroz otvorenu formaciju, koja se zatim zatvorila i novom žestinom krenula u napad.

Kroz dalekozor sam dobro vidio brod. Bio je to vrlo stari zvjezdani brod dugog dometa s dva sjedala. Na pramcu su se isticale dvije uredno zakrpane rupe. Duž trupa se protezala duboka udubina. Prsten za pojačavanje gravitacije bio je prepolovljen i spljošten. Stožasti tragači davno zastarjelog sustava i infrazvučnog meteorološkog motrenja polako su se okretali iznad kormilarnice.

Vidite - reče inženjer - on osjeća da će biti oluja.

Negdje je galeb uzbunjeno vrištao, a more je odjekivalo u tupim udarcima valova. Siva izmaglica, podignuta nad morem, postupno je zamagljivala horizont. Vjetar je prema oblacima povukao rasvijetljene vrhove valova, a oblaci su se, opterećeni lošim vremenom, spustili do vode. Od kontakta neba i mora trebala je izbiti oluja.

Pa, još uvijek razumijem ovo, - nastavio je inženjer: - solarne ploče napajaju baterije, a elektronički mozak upravlja uređajima. Ali sve ostalo ... Ponekad se čini da zaboravi na zemlju, more, na oluje i počne se zanimati samo za nebo. Izlazi radioteleskop, antene lokatora se okreću dan i noć... Ili nešto treće. Odjednom se diže nekakva cijev i počinje gledati u ljude. Zimi ovdje pušu hladni vjetrovi, brod je prekriven ledom, ali čim se ljudi pojave na svjetioniku, led odmah nestane ... Usput, alge na njemu ne rastu ...

Ili
digitalne nanotehnologije u našoj budućnosti.

Predgovor

Američki pisac znanstvene fantastike Isaac Asimov ima priču o tome kako umjetni mozak svemirske letjelice nosi žensko ime Maria, i dizajnirana za izvršavanje verbalnih zapovijedi zapovjednika broda, puno je razgovarala sa svojim zapovjednikom o raznim temama ljudski život, uključujući ljubav, pokušavajući uljepšati svoju samoću tijekom leta. I kao rezultat njihove bliske i duge međusobne komunikacije, Maria se zaljubila u svog zapovjednika i nije se htjela rastati od njega nakon završetka njihovog putovanja.

Stoga je učinila sve da do njihovog povratka na zemlju ne dođe. Umjetna inteligencija letjelice u licu žene koju je Maria osjetila voljena žena i namjerno odveo svemirski brod u beskraj svemira, zauvijek ostavši sa svojom voljenom, čak i mrtvom.

Dakle, komunikacija s umjetnom inteligencijom nosi određene opasnosti. Ali naši intelektualci, koji mnogo i često na ruskim TV kanalima govore o našoj budućnosti, o tome nemaju pojma.

Odgovor je jednostavan i krije se u oštroj, sarkastičnoj rečenici nepoznatog autora:
A ona ne može.

U redu. Pošto postavljaš tako glupa pitanja, znači da ne znaš ni misliti.

Ali naši intelektualci ne posustaju i o ovoj pomodnoj temi, o umjetnoj inteligenciji, čije je vrijeme, po njihovom mišljenju, već došlo, nastavljaju beskrajno govoriti na raznim televizijskim kanalima u zemlji.

Nedavno sam na kanalu 24 čuo još jednu intelektualnu emisiju ruskih humanitaraca o novim "nanotehnologijama" koje se rađaju u našem svijetu zajedno s prvim uzorcima mogućnosti umjetne inteligencije.

Čudno, ali iz nekog razloga sada u Rusiji o našoj tehničkoj budućnosti uglavnom raspravljaju "specijalisti" koji po svom obrazovanju nisu "tehničari", već humanitarci, razni politolozi, kulturolozi, lingvisti, filozofi, dileri, menadžeri, politički novinari i sl. dalje i sl. Odnosno ljudi koji ne samo da ne razlikuju vijak od matice, već ne razumiju ni bit tehničkog razmišljanja. No, s druge strane, samouvjereno govore o automatima i robotskim sustavima koji zamjenjuju ljude proizvodni procesi pa čak i kod kuće, o umjetnoj inteligenciji i njezinoj usklađenosti sa zahtjevima našeg vremena.

Ljudi sa tehničko obrazovanje, tzv. "tehnolozi", televizija nije dopuštena u takve emisije, jer su "tehničari" po njihovom shvaćanju ljudi primitivnog načina razmišljanja, uskogrudni, ograničeni, nekontrolirani i mogu reći nešto krivo u takvim emisijama.

I sami s entuzijazmom počinju govoriti o činjenici da se sada već rađa era tiskanja proizvoda za masovnu ljudsku potrošnju na volumetrijskim pisačima, pa stoga uskoro više neće biti potrebne tvornice s konstantnim pušenjem cijevi i stalnim trovanjem naših života. okoliš. A ove stotine i stotine specijalnosti ljudi koji rade u modernim tvornicama neće biti potrebne. Zašto su sada? Sada će sami potrošači putem interneta i svojih 3D printera ispisivati ​​robu koja im je potrebna u životu.

Na primjer, trebat će vam nešto, počevši od automobila s hladnjakom ili namještaja i plinskog štednjaka, potražite na internetu, odaberite odgovarajuću tiskaru za proizvode koji vam trebaju, naručite i oni će vam otisnuti proizvod koji vam je potreban i donijeti vam ga pravo kući. Nove "nanotehnologije" su te koje će nam osigurati tako nevjerojatnu budućnost.

U Skolkovu, računala već razrađuju nove tehnologije u metalurgiji i strojarstvu. I nema laboratorija u nekadašnjem smislu te riječi s hrpom metalurške i metaloprerađivačke opreme. I nema industrijskih zona s tvornicama koje se dime u nebu u ekološki čistoj zoni Skolkovo, nema radionica, transportera, visokih peći, pretvarača, valjaonica i svih vrsta željeza. Neka računala i masovni pisači. I ništa više. Istina, na printerima se mogu tiskati samo plastični dijelovi i proizvodi. I da, male. Ali to je za sada. Pozdrav. A onda ćemo prijeći na “nanomaterijale” i život će postati kao u bajci.

Tada će cijela ljudska zajednica u potpunosti prijeći na proizvode od "nanomaterijala" tiskane na volumetrijskim printerima, te će si početi osiguravati sve što je potrebno za život prema odgovarajućim programima.

Recimo, u SAD-u postoji jedan ruski geolog, geofizičar, neću mu navoditi prezime, ali on je čest gost na našoj TV. Nakon što je diplomirao na MGRI, on je, ne nalazeći posao u Rusiji, otišao u SAD, gdje je vrlo brzo dobio geofizički laboratorij, zatim još jedan laboratorij u Kanadi i sada ima laboratorij u Švicarskoj. Još nema trideset, ali već se smatra velikim stručnjakom za računalno istraživanje zemljine kore. Ne ide u geološke ekspedicije, ne proučava jezgre izvađene prilikom bušenja stijena u različitim dijelovima zemlje, sve te teške i skupe radove geologa na zemlji prenio je na računalo i bavi se samo računalnim proučavanjem zemljine kore. i već je iznio svoju teoriju o formiranju Mohorovichichovog sloja, ove donje granice zemljine kore, na kojoj dolazi do neshvatljivog naglog porasta brzina uzdužnih seizmičkih valova. I znanstveni svijet prihvatio njegovu teoriju.

Mladost mi je prošla u geologiji i čak sam četiri godine studirao na MGRI i znam u detalje što je to, terenski rad u geološkim ekspedicijama i kako je sastavljena geološka karta SSSR-a, najveća karta na svijetu. Ali sada se pokazalo da je praktična, terenska geologija postala nepotrebna moderno društvo. A kamerne geološke radove, koji su se dosad radili na temelju rezultata terenskih istraživanja, sada možete raditi kod kuće u svom uredu na računalu u ugodnim uvjetima, a nema ekspedicija s najtežim uvjetima života i rada negdje izvan civilizacije. duže potrebno.

Ako je to tako, onda ispada da se naš stvarni svijet doista radikalno promijenio i da ova nova, takozvana virtualna stvarnost već aktivno istiskuje stare predodžbe o našem sadašnjem životu.

I sada nam stvarno ne trebaju tvornice za proizvodnju proizvoda koji su nam potrebni, a također nam ne trebaju ekspedicije za proučavanje površine i utrobe zemlje, već nam trebaju samo računala s 3D printerima koji će uz odgovarajuće programiranje riješiti sve naše stvarne probleme našeg novog stvarnog života. Ali je li to sve?!

Odjednom, kao i uvijek, iznenada je pukla voda u našem ulazu, te sam nazvao zloglasni Stambeni ured i pozvao vodoinstalatere da otklone havariju. I nisu im trebala nikakva superračunala s volumetrijskim printerima, već samo bravarski alat s kojim su došli kod nas otkloniti havariju i više od dva dana petljati oko zamjene puknute cijevi. Ali suvremeni intelektualci mi govore da konkretno ovaj moj slučaj nema nikakve veze s umjetnom inteligencijom.

Vidi se da sam ja toliko čovjek prošlog vremena i toliko ne razumijem današnje realnosti da za mene nema mjesta u novom kompjuterskom svijetu. Uostalom, ovo uopće ne bi trebalo biti naše sadašnje društvo, jer moderni ljudski um neće moći kontrolirati takve računalne procese, ovdje nam treba umjetni um, umjetni mozak, umjetna inteligencija. A samo mali dio modernih ljudi moći će raditi s umjetnom inteligencijom, pa će ostatak svjetske populacije postati suvišan i beskoristan bilo kome. Što će se tada s njima morati učiniti, još se ne zna. Još nisam odlučio!

Tako se rađa ideja o “zlatnoj milijardi” modernih “vladara” zemlje, čiji je zadatak da upravljaju i koriste zemaljska dobra, a ostali ljudi na zemlji će biti potrebni samo da im služe. i stvoriti im ugodne životne uvjete. Ali gdje ih naći, te kandidate za prijem u "zlatnu milijardu", te ljude sa super visokom inteligencijom, koji mogu raditi s umjetnom inteligencijom? I morat će se odabrati već u fazi trudnoće. A tu selekciju morat će provesti sama umjetna inteligencija, sama umjetna inteligencija.

I takve su se gluposti vrtile gotovo dva sata na kanalu 24. Odakle sve to u modernom svijetu? Odgovor je jednostavan. Pad opće i stručne razine obrazovanja u zemljama Europe i Amerike, a o Rusiji da i ne govorimo, toliko je snažan da poluobrazovano stanovništvo Zapada i Rusije tjera da aktivno vjeruje u takve „priče“ i bajke.

Ali život i dalje lomi njihovu intelektualnu percepciju života koji nas okružuje, naše trenutne stvarnosti. I stalno se lomi. Ali oni to ne primjećuju, jer su njihovi pogledi usmjereni u budućnost, gdje nema prljavštine svakodnevice i usmjereni su u budućnost.

Uostalom, nitko od njih nema ni najelementarnijeg pitanja tko će onda tim intelektualcima graditi stanove, ceste, tko će im osigurati hranu, tko će čistiti njihov otpad, tko će popravljati naše kuće, naša dvorišta, naše vodovode i plinovode, koji će sami izrađivati ​​i održavati ta računala i printere. WHO? O svemu će odlučiti sama umjetna inteligencija, odgovaraju mi. A oni su sigurni u svoj odgovor i snishodljivo gledaju na mene i na ljude poput mene.

No može li se ta umjetna inteligencija natjecati s ljudskom? Pitanje je retoričko. Da ne kažem glupo. Ali kažu mi da umjetna inteligencija već pobjeđuje ljude u šahu, a i u programiranju. A moderno slikarstvo kiparstvom “razgaljuje” na način kakav nijedna ljudska mašta ne može zamisliti.

I nema smisla s njima raspravljati o tome. Ali, čini mi se, njihov um može zamijeniti umjetna inteligencija. Ovdje nema poteškoća. Jer razmišljaju standardno i primitivno. Ali moj um, um inženjera-izumitelja, um moje supruge, visokokvalificirane liječnice i sličnih ljudi koji profesionalno rade svoj posao, nikakav umjetni um ne može zamijeniti. Ovdje ne govorim o umu žena majki.

Ali um većine državnih dužnosnika i zastupnika raznih vrsta "državnih duma" i njihovih brojnih pomoćnika, čak bi vrijedilo smjesta zamijeniti umjetnim. Kao i um ovih "intelektualaca", doktora svih vrsta znanosti, koji satima na TV-u lupetaju o našoj svijetloj budućnosti, koju kontrolira "zlatna milijarda" čovječanstva, naoružana umjetnom inteligencijom, staviti društvo pod kontrolu već je postajući najvažniji i najnužniji zadatak u Rusiji. Inače ćemo se utopiti u njihovom praznom govoru.

PS Koncept razmišljanja, razmišljanja, svaka osoba ima svoj. Čovjek misli kad misli za troje; razmišlja žena kada bira haljinu za izlazak na spoj ili šminka lice; biznismen razmišlja kada pokušava manje platiti svoje radnike, a staviti više u svoj džep, inženjer razmišlja kada rješava tehnički problem pred njim, i tako dalje i tako dalje. Pa o čemu sadašnji državni dužnosnik razmišlja, nemam pojma, jer mi je ta sfera ljudskog djelovanja u današnjoj Rusiji apsolutni misterij. Uostalom, nema ni naznake misli – samo primitivni, sebični interesi.

Imitacija fiziologije
Činjenica je da se pojam "umjetna inteligencija" (usput, postupno zamijenjen pojmovima "inteligentni sustavi", "metode donošenja odluka", "iskopavanje podataka") u početku smatrao uključivim za veliku klasu modela i algoritme koji su trebali raditi na isti način.poput ljudskog mozga (prema idejama tog vremena).
To uključuje, na primjer, ozloglašene neuronske mreže svih pruga i genetske algoritme.

Generalizacija, statistika i analiza
S druge strane, mnoge metode tzv. AI nisu ništa drugo nego razvoj grana matematike: statistike, operacijskih istraživanja, topologije i metričkih prostora. To uključuje većinu metoda rudarenja podataka i otkrivanja podataka znanja, klaster analizu, metodu grupnog obračuna argumenata i druge.

To su metode tzv. induktivnog zaključivanja, kada se na temelju dostupnih podataka izvode opći obrasci.

Pravila, logika, zaključak
Treća posebna skupina može kombinirati metode koje pokušavaju izgraditi opće obrasce i iz njih izvući zaključke u odnosu na određene činjenice. To su metode deduktivnog zaključivanja, a predstavljaju ih: Aristotelov stari silogistički, iskazni i predikatski račun, različiti formalni sustavi i logike. Odmah su na rubu bile pričvršćene teorije formalnih i prirodnih jezika, razne generativne gramatike.

Vidimo da se sve što se obično naziva pojmom "AI" pokušava simulirati ili logično riješiti zadatak oponašanja ljudski intelekt.

Postavlja se pitanje što je to što čovjek radi toliko specifično što moderna računala, izgrađena na Babbageovim principima, još ne rade?
Jedna od definicija zadataka kojima se AI bavi je: „zadatak za koji nema algoritamskog rješenja ili to nije primjenjivo zbog složenosti računanja».

Tako je, primjerice, zadatak igranja dame nekada bio zadatak umjetne inteligencije, a nakon izgradnje cjelovitog modela i skupa potpune baze podataka nepoboljšljivih poteza, pretvorio se u jednostavan zadatak pretraživanja u informacijskoj bazi (vidi i ).

AI zadaci se mijenjaju s vremenom
Možda će naša djeca živjeti u svijetu informacija, kada će se riješiti mnogi zadaci i pojaviti novi - od komunikacije na prirodnim jezicima do automatskog upravljanja svim vrstama opreme i mehanizama.

Međutim, kada je svatko od nas čuo riječi "umjetna inteligencija", poželio je nešto drugo.
Htjeli smo nabaviti auto koji može razmišljati tko posjeduje osnovne vještine učenja, generalizacije; sposoban je, poput živih organizama, zamijeniti neke organe drugima i poboljšati se. Svi su čitali ranu znanstvenu fantastiku, zar ne?

Je li bio dječak?
Pa gdje je nestao razum? Kada je i zašto ono što smo htjeli vidjeti postalo dosadni matematički modeli i prilično neelegantni algoritmi?

Par offtopic redaka. Ako radite disertaciju s riječju "inteligentan", onda će članovi vijeća obično tražiti od vas da pokažete mjesto u sustavu koje je intelektualno i da dokažete ZAŠTO je to. Ovo pitanje se odnosi na apsolutno "nehvatanje".

Činjenica je da su ljudi koji su osmislili sve na čemu stoji moderni "AI" bili vođeni inovativnim i revolucionarnim idejama za ono vrijeme (zapravo, naše vrijeme se razlikuje samo po tome što smo se svega toga već igrali do mile volje, uključujući korištenje moderne računalne snage)

Primjer 1 (iz sfere nespoznatljivog).
Neuronske mreže s propagacijom naprijed s algoritmom za propagaciju pogreške (tzv. back-propagation). Ovo je definitivno iskorak.
Pravilno konfigurirana mreža (s pametno odabranim ulazima i izlazima) može naučiti bilo koju sekvencu unosa i uspješno prepoznati primjere koje nije podučavala.
Tipični eksperiment formuliran je na sljedeći način: 1000 primjera, na polovici učimo algoritam, a na drugoj provjeravamo. A odabir prve i druge polovice vrši se nasumično.
Radi, osobno sam učio različite NN-e barem 10 puta različite zadatke i dobio normalne rezultate, sa 60-90% točnih odgovora.

U čemu je problem s neuronskim mrežama? Zašto oni nisu prava inteligencija?
1. Ulazne podatke gotovo uvijek treba vrlo pažljivo pripremiti i prethodno obraditi. Često se prave tone koda i filtara kako bi podaci bili jestivi za mreže. Inače će mreža godinama učiti i ništa ne naučiti.
2. Rezultat NN učenja ne može se interpretirati i objasniti. A stručnjak to stvarno želi.
3. Mreže često samo pamte primjere umjesto da uče obrasce. Ne postoje točni načini za izgradnju mreže koja je dovoljno pametna da predstavlja obrazac, a nedovoljno prostrana da glupo zapamti cijeli uzorak.

Što je inteligencija neuronskih mreža?
U tome što nismo naučili sustav da riješi problem, naučili smo ga da nauči kako riješiti probleme. Algoritam za određivanje spola osobe osoba ne ugrađuje u sustav, on se pronalazi gotovo empirijski i ušiven je u težine sinapsi. Ovo je element inteligencije.

Primjer 2 (iz područja deduktivnog zaključivanja).
Ideja je jednostavna. Naučit ćemo stroj razmišljati kao osoba (dobro, barem izvući primitivne zaključke) i dati elementarne činjenice. Dalje - pusti je.
Ekspertni sustavi, strojni logički sustavi, ontologije (s malo nategnutosti) rade po ovom principu. Radi? nedvojbeno. Implementirano je i nastavlja s radom tisuće sustava za dijagnosticiranje bolesti i opisivanje područja znanja.

U čemu je problem? Zašto formalni sustavi nisu prava inteligencija?
Problem je u tome što sustav, nakon što je upio kolosalne količine krvi i znoja svojih kreatora, počinje u najmanju ruku ponavljati i razvijati odluke stručnjaka (ili zajednice) koji ga je naučio.
Je li od pomoći? nedvojbeno. Stručnjak je smrtan, zadaci se množe.

Što je inteligencija sustava temeljenih na znanju?
Činjenica da stroj donosi NOVE zaključke kojima ga nitko nije naučio. Taj je element njezina rada iznimno loš (zasad) i ograničen modelima i algoritmima koji su postavljeni. Ali ovo je element inteligencije.

Dakle, u čemu je problem s modernom umjetnom inteligencijom?
Samo smo jako mali. Naše naivne i površne ideje o tome kako čovjek razmišlja i kako mozak radi, daju plodove koje zaslužuju.

Naravno, ludo smo daleko od stvaranja strojeva koji bi mogli razmišljati u našem ljudskom smislu, ali naši koraci u tom smjeru su ispravni i korisni.

A čak i ako idemo u krivom smjeru, tko zna, možda ćemo, poput Strugackih, kao rezultat usmjerenih napora, nenamjerno učiniti nešto puno bolje nego što smo namjeravali?