HUBERT L.

DREYFUS

I, 'I

SJ:A"-RACUNARI
·'~:NEMO:GU
,.
,!

.. '-' . I."
J

"._
0'

..

4 :.. .. :

-.

".
O·

'\

~;¥:

....

II

_-

..
c

..
.... ...... . ....
.e'

.'

...

...

"

" I

.1

I •I
I •

..
'I
II-

,"

r • '" -

•
I

-.
~I I

- '" --ir ·
.. ,

Or
'
8"~

.-

~
,. -

....

..~ 11~ ...

.._
1'",..
.-,
.II I •

1~~

...
0'

I?

NOLIT
-'

. =-

--.'':1- ..,

-... ~.•-

.~ \

-._....

-._

..

0·, .

II

I'

'.
I'

..

pi

-,

BIBLIOTEKA

SAZVEZDA

58

UREDNIK

MILOs STAMBOLIC

....

RECENZIJA: LJUBOMIR RADANOVIC • CRTE2 NA KORICAMA: DUSAN RISTIC • TEHNICKI UREDNIK: BOGDAN CURCIN • KOREKTOR: SVETLANA DRAMLIC • IZDAVAC: IZDAVACKO PREDUZECE NOLIT, BEOGRAD, TERAZIJE 27 • STAMPA: GRAFICKO PREDUZECE SLOBODAN .IOVIC, BEOGRAD, STOJANA PROTICA 52 • TIRA2: 5.000 _PRIMERAKA

HUBERTrL.

DREYFUS

STA RACUNARI
NE MOOU
VE5TACKE KRITIKA INTELIGENCIJE

NOLIT.

BEOGRAD 1977·

Naslov originala HUBERT L. DREYFUS

WHAT COMPUTERS CAN'T DO

A Cri tique of Artificial Reason Harper
& Row, Publishers,

Inc.,

New York, 1972.

PREVEO

NENAD NIKOLIC

PREDGOVOR

Racunar je, be; sumnje, jedan od najznacainijih izuma naseg veka. Po misljenja Herberta Sajmona on je posle pisma, arapskog brojnog sistema, anal iticke geometrije i diferencijalnog racuna cetvrta istorijska prekretnica u razvoja civilizaciie. Danas je skoro nemoguce zamisliti rad mnogih tehnoloskili postrojenja, poslovnih organizacija i javnih sluibi be: elektronskih racunskili masina. Brzine pojedinih procesa toliko su porasle da odgovarajuca sracunavanja i donosenje pravovremenih odluka moie da obavlja samo racunar. Kolicine informacija koje nastaju u privredi, administraciji i nauci dostiiu ogromne razmere tako da se prema nekim proracunima svakih 40 minuta stvara dovoljno informacija da popuni citavu jednu enciklopediju od 24 sveske. Samo racunar moie izvuci relevantnu cinjenicu iz tog nepreglednog mora informacija u nekom razumnom vremenu. Racunari danas vode knjigovodstvo, izdaju racune, cekove i sastavljaju finansijske izvestaje, obavljaju matematicke analize, vrSe rezervaciie avionskih karata i hotelskih soba, vode kartoteke pacijenata i postavljaju dijagna:e, rasporeduju postu, staraju se 0 pravovremenom popunjavanju zaliha u robnim kucama, regulisu saobracaj, upravljaju tehnoloskim procesima, pomaiu u otkrivanju zlocinaca i obavljaju mnoge druge poslove brie i bolje od coveka. ad prve komercijalne primene racunara pros10 je svega 25 godina, a na triistu se vee pojavila

LJUBOMIR

RADANOVlc

cetvrta generacija masina, ovog puta sa memorijom zasnovanom na laserskoj tehnici. Brzina racunara udvostrucava se u proseku jednom u godini dana tako da je u odnosu na klasicni stoni racunar savremena elektronska masina bria oko sto miliona puta. Industrija racunara doiivljava nezapamcenu ekspanziju sa godisnjom stopom rasta od blini 20 procenata, a podrucja primene sire se brzlnorn koju je skoro nemoguce pratiti. U ovom vrtlogu nezadriivog tehnoloskog napretka, koji preko noci unistava citave profesije i stvara nove, rada se podjednako i strah i ekstaza. Dok jedni sa osecanjem inferiornosti i strahopostovanja ustupaju svoja radna mesta racunaru. i sa zebniom ocekuju svakojake zloupotrebe, drugi u odusevljenja proricu da ce "u godini 2000. racunari verovatno moci da dostignu, simuliraju ili nadmase i neke od najljudskijih sposobnosti, ukliucujuci moida i estetske i kreativne, a imace i neke sposobnosti koje covek nema ... " (Kan i Viner u knjizi "Godina 2000."). Drajfusova knjiga Sta racunari ne mogu - kritika vestackog uma predstavlja jedan od malobrojnih, ali znacajnib pokusaja da se sa opstin [ilozo]skih stanovista ocrtaju dometi vestackog uma, odnosno da se utvrde granice do kojih je moguca simulacija inteligentnog ponasanja pomocu digitalnih racunara. Da bi racunar resio neki zadati problem, neophodno je da mu se propise odgovarajuca procedura, odnosno da se sastavi algoritam za resavan]e datog problema. Algoritam je niz instrukcija ko]e, ako se izvrsavaju propisanim redosledom, dovode na kraju do traienog resenja. Za probleme koje racunari danas rutinski resavaju neophodni algoritmi mogu se uvek, us: manje iii vece teskoce, uspesno sastaviti. Ima, medutim, problema kod kojih je algoritam toliko sloien da masina postavljene zadatke ne moie izvrsiti u razumnont vremenu. Tako, na primer, za igru saha se moie sastaviti program koji bi analizirao sve moguce buduce kombinacije

PREbGOVOR

poteza i protiv-poteza, ali i pod pretpostavkom da u svakoj datoj situaciji moie u proseku da se povuce samo pet poteza, broj kombinacija za dvadeset na-. rednih poteza bio bi veci nego sto je zbir mikrosekundi u godini dana. V takvim slucajevima program za masinu se ne moie svesti na ni: instrukcija koje treba izvrsavati propisanim redosledom, vee se moraju sastaviti programi koji ee odabirati one rutine i strategije koje sa najvecom verovatnocom vode ka resenju. Drugim recima, potrebno je masinu programirati tako da se u izvesnom smislu ponasa inteligentno. Oko ovog problema masinskog resavanja zadataka koji zahtevaju inteligenciju razvila se jedna posebna naucna disciplina poznata pod imenom vestacka iii masinska inteligencija. Vestacka inteligencija je jos neomedeno, fluidno podrucje nauke 0 racunarima koje je pod ovim imenom poznato jedva dvadeset godina, precizniie od 1957. Ono se moie posmatrati sa bar tri raslicita stanovista. Po jednom od ovih stanovista, vdtacka inteligencija se bavi proucavanjem intelektualnih funkcija, odnosno pokusava da odgovori na pitanje .Icoiim se mehanizmom moie ostvariti neka intelektualna funkcija". N jen zadatak sastoji se, dakle, u proucavanja jedne po jedne funkcije sve dok se ona ne razotkrije i savlada iii dok se ne pokaie da je svaki pokusaj mehanizacije osuden na neuspeh. Prema drugom stanovistu, vestacka inteligencija je naucno podrucje posveceno otkrivanju i sakupljanju nauiinilt metoda, slicno podrucja numericke analize, matematickog programiranja ili moida cak hemijskog inzenjerstva. V estacka inteligencija ponudila je do sada nekoliko metoda koje opravdavaju ovakvo stanoviste 0 njenoj prirodi. V te meto de spadaju .generiranie i testiranje", .euristicko pretraiivanje", "penjanje uz planinu", "sparivanje" itd. Sve su to takozvane slabe metode, odnosno meto de koje zahtevaju vrlo malo informacija, a ipak prtciaja nade da se mogu naci traiena resenja.

UUBOMIR

RADANOvtc

Prema trecem stanovistu, vestacka inteligencija je teorijska psihologija koja coveka posmatra kaosistem za obradu informacija, tj. opisuie ga simbolickim sistemima koji se mogu poistovetiti sa odredenim ljudima u odredenim situacijama posmatranjem i eksperimentom. Ovakvi modeli ne obuhvataju sve fenomene koji okruiuju coveka. vee se usredsreduju na zadatke koji su cisto simbolicki i ne zahtevaju motorne sposobnosti niti su neposredno zavisni od senzornili sistema. U okviru ovih istraiivanja mogu se posebno izdvojiti tri podoblasti: resavanje problema, psiholingvistika i percepcija. Mada je osnovni cilj vestacke inteligencije da se "bavi informacionim procesima koji obavljaju zadatke za cije je resavanje neophodna inteligencija" - ne pretpostavljaiuci pri tom a priori da se to mora raditi na isti nacin kao sto rade ljudi - ona ne moie da izbegne diskusiju 0 nekim opstim [ilozojskim pitanjima 0 prirodi ljudskog uma, 0 tome sta je to inteligentno ponasanje i kako se ono stvara, kakva je priroda mentalnih procesa, mogu li se oni mehanizovati i koji su krajnji dometi vestacke inteligencije. U svojoj raspravi Drajfus polazi sa stanovista da je vestacka inteligencija, sa ono malo krajnje skromnih rerultata koje je ostvarila do 1967. godine, vee dosegla svoje konacne domete i suocila se sa barijerom koju nece biti u stanju da premosti. Ovu barijeru stvorila je pogresna, ali duboko ukorenjena "platonska" pretpostavka, koju vestacka inteligencija prihvata kao aksiom, a prema kojoj se sav svet, sva iskustva, sva razmisliania mogu svesti na elementarne atomisticke pojmove sa kojima se dalje moie operisati kao sa brojevima. Prema toj pretpostavci i "covek je uredaj koji obavlja strogo propisane racunske operacije sa podacima koji imaju oblik atomskih cinjenica", pa bi prema tome moralo biti moguce da se i razum unese kao program u racunsku masinu i na taj nacin simulira inteligentno ponasanje. Ovakva polazna pretpostavka mora-

PREDGOVOR

la je, po Drajfusovom misljeniu, neizbeino da dovede do niza neuspeha i do krajnje sporog napretka u istraiivaniima na podrucia vestacke inteligencije. V prvom delu svoje rasprave Drajfus detaljno nab raja neuspehe u desetogodisnjem razvoju vesteeke inteligencije u razdoblja od 1957. do 1967. godine. Analizirajuci ove neuspehe, Drajfus dolazi do zakljucka da su uspesi uvek bili vezani za resavanje problema kod kojih se relevantni podaci mogu ograniciti na nekoliko jasno razdeljivih alternativa, a da su neuspesi redovno pratili one probleme koji ne dozvoljavaju takvo ogranicavanje. Tako, na primer, dok su u igri saha relevantni samo podaci 0 boji i poloiaju figura a ne i podaci 0 njihovoj velicini, temperaturi, itd., kod prevodenja [ezika, gde je po opstem misljenju. zabeleien najveci neuspeh ili moida potpun promasaj, za resavanje dvosmislenosti neke recenice moie potencijalno da bude relevantno celokupno ljudsko znanje. Po Drajfusovom mislienju, situ~ odreduje znacenje cinjenica i njihovu relevant~, pa cak moida i to sta se sme svrstati medu cinienice. On smatra da nema neutralnih cinjenica i da su basebog nesavladivih teskoca oko [ormalizovania, odnosno programiranja pragmaticnog konteksta, inteligentne masine osudene na neuspeh. Istovremeno Drajfus smatra da je kljucno filozofsko pitanje upravo pitanje da li se ljudski kontekst uopste moie [ormalizovati: Drajfus ne odbija mogucnost naucnog objasnjenja inteligentnog ponasanja, pa prema tome ni mogucnost [ormalizovanja ljudskog konteksta, ali je kategorican u svojoj tvrdnji da se to sadasnjim masinama ne moie postici. Ovu svoju tvrdnju Drajfus detaljno obrazlaie u drugom delu knjige, gde "platonsku" pretpostavku pobija na bioloskom, psiholoskom, epistemoloskom i ontoloskom planu, oslanjajuci se uglavnom na misljenja Hajdegera, Vitgenstajna i Merlo-Pontija. Za Drajfusa nema dileme: sa danasnjim masinama nista se vise ne mote uciniti. Svaki pokusa] da se njihovim programiranjem ostvari in-

LJUBOMIR

RADANOVIC

teligentno ponasanje ravan je pokusaja alhemicara da od olova naprave zlato. ledinu alternativu Drajfus vidi u potpunom odbacivanju tradicionalnili pretpostavki i u prihvatanju [enomenoloskog opisivanja strukture ljudskog ponasanja. Analiziraiuci ovaj problem, Drajfus navodi neka svojstva covekovog iskustva koja po njegovom misljenju racunar nece nikada moci da reprodukuje ili imitira. Tu spadaju fenomeni .rnarginalne svesti" (kada je covek maglovito svestan relevantnosti ne- A ke nedovoljno definisane cinjenice), .usredsredivanja" (kada se problemska situacija .organizuje oko" nekog pristupa koji obecava uspeh) i "tolerancije dvosmislenosti" (kada je, na primer, covek u stanju da u odredenom kontekstu ignorise znacenje neke reci koje se tek u drugom kontekstu javlja kao pravo). Ova sposobnost coveka da prvo sagleda celinu, pa da je tek onda, ako je potrebno, razlaie na atome posledica je, po Merlo-Pon~ Cinjenice da covek poseduje telo koje mu on@cava da neprekidno vlada svojom okolinom ne rastavljajuci je na elemente. Razvijaiuci dalje ovo stanoviste Merlo-Pontija, Drajfus izvodi zakljucak da bi eventualna masina, .Jco]« bi bila sposobna da se sluii prirodnim ierikom i da prepoznaje sloiene oblike, morala da ima telo". On cak smatra da nema razloga "zasto u principu ne bi bilo moguce konstruisati vestacki organizam, ako bi se upotrebile komponente dovoljno slicne onima od kojih je sacinjeno ljudsko telo". ledino u takvom robotu koji ima i um i telo, u .medigitalnom automatu sposobnom da obraduje neformalne informacije", Drajfus vidi mogucnost inteligentnih masina i mogucnost simulacije ljudskog uma. Ali da bi se ostvario takav vestacki organizam, potrebna je nova revolucija u nauci 0 razumu, maida suprotna onoj koja je u XVII vekuizmenila citavu nauku. pr~laskom sa kvalitativne logike osobina na kvantltattvnu matematiku merljivih velicina.

PREDGOVOR

Pitanja koja Drajfus pokrece imaju sirok naucni, [ilozojski i drustveni znaca]. Dna svakako zasluiuju ozbiljnu javnu debatu, jer su, kao sto kai» Entoni Etinger, .suvise naucna da bi se prepustila [ilozojima, a isuvise filozofska da bi se prepustila naucnicima", Doprinos koji ovoj debati Drajfus daje svojom knjigom svakako je dosad naiopseiniji i najizuzovniji. Svima anima koje interesuju problemi na preseku nauke i filozofije i problemi covecanstva uopste, ova knjiga ce biti podjednako zanimljiva i instruktivna.
Ljubomir Radanovic

STA RACUNARI
NE MOGU

Mojim

roditeljima

Razlika izmedu. matematickog duha (esprit de geometric) i perceptivnog duha (esprit de finesse): razlog sto matematicari nisu perceptivni sastoji se u tome sto oni ne vide sta je pred njima i sto se, naviknuti na egzaktne i jednostavne principe matematike i naviknuti da ne do nose zakliucke pre nego sto dobro srede i ispitaju svoje principe, gube u stvarima percepcije gde principi ne dozvoljavaju takvo sredivanje Ovi principi su tako prefinieni i toliko brojni da [e potreban vrlo delikatan i jasan smisao da bi se mogli uociti i da bi se 0 niima moglo pravedno suditi kada se uoce, a velikim delom ne postoji mogucnost da se demonstriraju u onakvom poretku, kao u matematici; to je zbog toga sto principe ne saznaiemo na isti nacin i sto bi beskrajan. posao bio preduzimati tako nesto. Stvar moramo odjednom da sagledamo, na prvi pogled, a ne procesom rasudivanja, bar do izvesnog stepena ... Matematicari zele da razmatraiu probleme percepcije matematicki i tako sebe prave smesnim.i . duh... to Clm precutno, prirodno i be: tehnickin pravila.
i • ,

PASCAL, Pensees

DVOD

I Otkako su Grci izumeli logiku i geometriju, ideja da sveukupno rasudivanje moze da se svede na neku vrstu racunanja - tako da svi argumenti mogu da se postave odjednom i zasvagda - fascimlrala je vecinu rigoroznih mislilaca zapadne .tradicije. Sokrat je bio prvi koji je oglasio ovu viziju. Prica 0 vestackoj inteligenciji moze da pocne negde oko 450 godina pre nase ere kada se (prema Platonu) Sokrat obraca Eutifronu, atinskom drugu, koji u ime poboznosti namerava da preda rodenog oca zbog ubistva: ,,2:elim da znam sta je karakteristika poboznosti koja svako delovanje cini poboznim ... u koju mogu da se pouzdam i da je koristim kao merilo kojim prosudujem svoje delovanje i delovanje drugih Ijudi."l§ Sokrat trazi od Eutifrona .miz pravila koja nam govore iz casa u cas kako da se ponasamo,'? nesto sto bi moderni teoreticari racunara nazvali "efikasna procedura". Platon je generalizovao ovaj zahtev za moralnom izvesnoscu u epistemoloski zahtev. Prema Platonu, sveukupno znanje bi moralo da se izlozi u eksplicitnim definicijama koje bi svako mogao da pri1. Plato, Euthyphro, VII, prev, F. J. Church (New York: Library of Liberal Arts), 1948.str. 7. 2. Marvin Minsky, Computation: Finite and Infinite Machines (Englewood Cliffs, N. J.: Prentice-Hall, 1967), str. 106. Naravno, Minsky misli na izracunavanje a ne na moralno delovanje.

12

HUBERT L. DREYFUS

meni. Ako neko ne moze da saopsti svoje znati-kako pomocu takvih eksplicitnih instrukcija - ako njegovo znanje k~ne moze da se preobrati u znanje da - onda t~ije znanje, vee puko verovanje. Prema Platonu, kuvari, na primer, koji se sluze ukusorn i intuicijorn i pesnici, kojirade iz inspiracije, ne poseduju znanje; one sto oni rade ne povlaci sobom poimanje i ne moze da bude razumljivo. Opstije receno, ono sto ne moze da se izrazi preciznim instrukcijama - sva podrucja ljudske misli koja zahtevaju umesnost, intuiciju ili smisao za tradiciju - upucena su na neku vrstu proizvoljne nevestosti. Ali Platon jos nije u potpunosti bio kiberneticar (mada je prema Norbertu Wieneru (Norbert Viner) bio prvi koji je upotrebio taj termin) zato sto je tragao za semantic kim pre nego za sintaksickim kriterijumima. Njegova pravila pretpostavljaju da osoba shvata znacenja konstitutivnih termina. U Republici Platon kaze da Razum (odredeni nivo uskladen pravilima na njegovoj izdeljenoj liniji koja predstavljacitavo znanje) zavisi od Uma koji obuhvata u sebi dijalekticku analizu i u krajnjoj instanci neku intui~q:,lo znacenju fundamentalnih pojmova koji se ko' u razumevanju. Tako Platon priznaje da njegove instrukcije me mogu u potpunosti da se formalizuju. Slicno ovome, moderni ekspert za racunare, Marvin Minsky (Marvin Minski) primecuje, posle probnog predstavljanja Platonovog pojma efikasne procedure: "Ovakav pokusaj definisanja je podlozan kritici prema kojoj se prepusta da interpretacija pravila zavisi od neke osobe ili agensa."3 Aristotel, koji se razlikovao od Platona u ovom, kao i u vecini pitanja u pogledu primene teorije u praksi, sa zadovoljstvom je zabelezio da je intuicija nuzna za primenu Platonovih pravila:
3. Ibid.

~TA RAcuNARi

NE MOCU

13

rnbak nije lako pronaci formulu pomocu koje bismo mogli ~ odredimo koliko daleko i do koje tacke covek moze da gresi pre nego sto se izloz! kritici. Ali, ova teskoca definisanja inherentna je u svakom predmetu opazanja: pitanje stepena povezano je s okolnostima pojedinacnog slucaja, gde je nas jedini kriterijum opazanje.s

Da bi se ostvario Platonov projekt, potrebno ie uciniti jedan proboj: citavo pozivanje na intuiciju i sudenje mora da se eliminise. Kao sto je Galileo (GaIiIej) otkrio da rnoze da se pronade cisti formalizam za opisivanje fizickog kretanja zapostavljajuci sekundarne kvalitete i teleoloska razmatranja, tako se moze pretpostaviti da bi jedan Galileo na polju ljudskog ponasanja mogao da redukuje sva semanticka razmatranja (pozivanje na znacenja) na tehnike sintaksicke (formalne) manipulacije. Verovanje da je takva potpuna formalizacija znanja moguca pocelo je uskoro da dominira zapadnom misl iu, Ono je vee izrazavalo osnovni moralni i intelektualni zahtev, a uspeh fizicke nauke izgledada je znacio za filosofe sedamnaestog veka, kao sto jos uvek znaci za misIioce kao sto je Minsky, kako bi moglo da se udovolji zahtevu. Robs je bio prvi koji je eksplicitno izrazio sintaksicki pojam misli kao racunanja: .Kada covek rarmisl]a, on nista drugo ne radi osim sto poima ukupni zbir iz sabiranja delova", pisao je on, "jer UM ... nije nista drugo do racunanje ... "5 Preostaje sarno da se izraze jednoznacni delovi iIi "bitovi" s kojima moze da operise ovaj sintaksicki racunar: Leibniz (Lajbnic) se, kao pronalazac binarnog sistema, posvetio pronalazenju jednog neophodnog, nedvosmislenog formalnog jezika. Leibniz je misIio da je pronasao univerzalni i egzaktni sistem notacije, jednu algebru, jedan simbolicki jezik, "univerzalnu karakteristiku" pomocu
4. Aristotle, Nicomachean Ethics, prev. J. A. K. Thomson kao The Ethics of Aristotle (New York: Penguin Books, 1953). str. 75. 5. Hobbes, Leviathan (New York: Library of Liberal Arts, 1958), str. 45.

14

HUBf.R't

L. DREYFUS

koje "mozemo da dodelimo svakom predmetu njegOY odredeni karakteristicni broj.?" Ovako bi svi pojmovi mogli da se svedu na mali broj originalnih i nedefinisanih ideja; citavo znanje bi moglo da se izrazi i sakupi pomocu jednog deduktivnog sistema. Na osnovu ovih brojeva i pravila za njihovo kombinovanje, svi problemi bi mogli da se rese, a kontraverze okoncaju: .Jcada bi neko posumnjao u moje rezultate," rekao je Leibniz, lIodgovorio bih mu: .Racunajmo, gospodine,' i tako prihvativsi se pera i mastila, raspravili bismo problem."? Kao kakav savremeni teoreticar racunara koji najavljuje novi program, Leibniz tvrdi:
Medutim, posto neobicna povezanost svih stvari pricinjava veliku teskocu za eksplicitno formulisanje karakteristicnih brojeva pojedinacnih stvari, pronasao sam elegantan trik pomocu koga izvesne relacije mogu da se predstave i numericki utvrde i da se, zatim, dalje odreduju numerickim izracunavanjem.s

Leibniz nije precutno presao preko vaznosti govog skoro kompletnog programa.

nje-

Kada se jednom utvrde karakteristicni brojevi za vecinu pojmova, tada ce covecanstvo posedovati novi instrument kojim ce se uvecati intelekt u daleko vecem obimu nego sto SIll opti6ki instrumenti pojacali vid, a prevazici ce mikroskop i teleskop u onom obimu u kome je urn superiorniji od cula vida.?

. Sa ovim novim mocnim sredstvom vestine koje Platon nije mogao da formalizuje mogle bi da se pretvore u teoriju. U jednom ad svojih IIpredloga" - u svojim objasnjenjima 0 tome na koji nacin bi mogao da redukuje citavu misao na manipulaciju brojevima kada bi imao dovoljno novca i vremena - Leibniz kaze:
6. Leibniz, Selections, 1951),str. 18. 7. Ibid., str. 25. 8. Ibid., str. 15. 9. Ibid., str. 23. ured. Philip Wiener (New York: Scribner,

STA RACUNARI NE MOGU

15

Jos nisu napisana najvaznija zapazanja 0 preobracanju vestina u sve vrste zanata i profesija, Ova cinjenica je dokazana iskustvorn kada zelimo nesto da uradimo prelazenjern sa teorije na praksu, Naravno, mozemo isto taka [ da zapisemo avu praksu, pasta je ona u osnovi sarno jos jedna slozenija i partikularnija teorija ... 10

Leibniz je nudio sarno obecanja, ali u delu Georgea Boolea (Dzordz Bul ), matematicara i logicara koji je stvarao pocetkom devetnaestog veka, program je krenuo jedan korak blize realnosti. Kao i Robs, Boole je pretpostavljao da je rezonovanje racunanje i naumio je da .Jspita fundamentalne zakone onih operacija intelekta pomocu kojih se rasuduje i da ih izrazi simbolickim jezikom diferencijalnog racuna ... "11 Booleova algebra je binarna algebra za predstavljanje elementarnih logickih funkcija. Ako "a" i "b" predstavljaju promenljive, .,:' predstavlja .i". ,,+" predstavlja "ili", a ,,1" i ,,0" predstavljaju "istinu" i "neistinu", onda mogu da se napisu pravila za logicko manipulisanje u algebarskoj formi na sledeci nacin:

a+a=a a .a=a

a+O=a a .0=0

a+l=l a· 1=a

Sada je covek Zapada pripremljen da otpocne sa racunanjem. Odmah potom, u zamislima Charles a Babbagea (Carls Bajbidz, 1835), praksa je pocela da ide u korak s teorijom. Babbage je zamislio "analitieku masinu", kako ju je sam prozvao, koja je, mada nikad izgradena, trebalo da funkcionise bas kao savremeni digitalni racunar koristeci busene kartice, kombinujuci logicke i aritmeticke operacije i donoseci logicke odluke zasnovane na rezultatima prethodnih sracunavanja. Vazna karakteristika Babbageove masine sastoji se u tome sto je ona bila digitalna, cifarska.
10. Ibid., str. 48. (Moj kurziv.) 11. George Boole, Laws of Thought, go: Open Court, 1940), Vol. II, str. 1. Collected Logical Works (Chica-

16

HUBERT L. DREYFUS

Postoje dva fundamentalna tipa masina za racunanje: analogni i digitalni. Analogni racunari ne racunaju u striktnom smislu te reci. Oni rade tako sto mere velicine fizickih kolicina, Koristeci fizicke kolicine, kao sto su napon, trajanje, ugao rotacije diska i tako dalje, koje su proporcionalne kolicinarna kojima zelimo da manipulisemo, analogni racunari kombinuju ove kolicine na fizicki nacin i mere rezultat. Logaritmar je tipican analogni racunar. Digitalni racunar - kao sto rec digit, latin ski "prst", implicira - predstavlja sve kolicine diskretnim stanjima, na primer, relejima koji su otvoreni ili zatvoreni, brojcanikom koji moze da zauzme bilo koji od deset polozaja i tako dalje, i onda bukvalno odbrojava da bi dobio rezultat. Tako, dok analogni racunari operisu sa neprekidnim kolicinama, svi digitalni racunari su rna~e sa diskretnim stanjima. Kao sto kaze A. M. Tu~g (A. M. Tjuring ) ,6uven po definisanju sustine digitalnih racunara:
(Masine sa diskretnim stanjima) krecu se u iznenadnim skokovirna s jednog, u potpunosti odredenog -stanja, prema drugom. Ova stanja su dovoljno razlicita da bi se mogla zanemariti mogu6nost konfuzije medu njima. Strogo govoreci, ne postoje takve masine. Sve se u stvarnosti krece kontinualno. Ali, postoje mnoge vrste masina 0 kojima mozemo da mislimo kao 0 rnasinama sa diskretnim stanjima, Na primer, 'U razmatranju prekidaca za sistern osvetljavanja, pogodno je zamisliti da svaki prekidac mora da bude ili -definitivno ukljucen ili definitivno iskljucen. Mora da postoje i medupolozaji, ali za ve6inu svrha mozemo i da ih zanemarirno.P

Babbageove ideje su bile suvise napredne za tehnologiju njegovog vremena jer nije postojao nijedan pogodan i brz nacin da se predstave brojna mesta i da se njima rukuje. On je morao da koristi nepodesna mehanicka sredstva, kao sto su zupcanici, kako bi predstavio diskretna stanja. Medutirn,
12. A. M. Turing, "Computing Machinery and pano u Minds and Machines, ured. Alan Ross Cliffs, N. J.: Prentice-Hall, 1964), str. 11. Intelligence", prestamAnderson (Englewood

STA RACUNARI NE MOGU

17

elektricni prekidaci su omogucili neophodni tehnoloski prodor. Kada je 1944. go dine H. H. Aiken (H. H. Ejken) stvarno izgradio prviprakticni digitalni racunar, bio je to elektrornehanicki racunar koji je koristio oko 3000 telefonskih releja. Oni su jos uvek bili spori i tek je sa sledecom generacijom racunara, koji su .koristidi elektronske cevi, bio spreman savremeni elektronski racunar. Spreman za sve. Jer, samim tim sto digitalni racunar operise s apstraktnim simbolima koji mogu da oznacavaju bilo sta, i logickim operacijama koje mogu da postave u odnos sve sa svacim, bilo koji digitalni racunar (za razliku od analognog racunara) je univerzalna mas ina. Prvo, kao sto Turing postavlja stvar, ona moze dasimulira bilo koji digitalni racunar,
Ovo specijalno svojstvo digitalnih racunara da mogu da podrazavaju bilo koje diskretno stanje masine opisano je na taj nacin sto se kaze da su orni univerzalne masine. Postojanje masina sa ovim svojstvima irna vaznu posledicu u tome sto, ostavbjajuci po strani problem brzine, nije potrebno konstruisati nove posebne unasine za obavljanje posebnih procesa racunanja, Svi se oni mogu obaviti jednim digitalnim racunarorn, podesno programiranim za svaki poseban slucaj. Kao posledicu ovog uocicemo cinjenicu da su svi digitalni racunari u nekom smislu ekvivalentni.P

Drugo, a filosofski znacajnije, svaki proces koji moze da se formalizuje tako da moze da se predstavi kao niz instrukcija za rukovanje diskretnim elementirna rnoze, bar u principu, da bude reprodukovan pomocu takve masine. Tako cak i analogni racunar, pod uslovom da odnos njegovog ulaza prema njegovom izlazu moze da se opise preciznom matematickom funkcijom, moze da se simulira na digitalnoj masini.P"
13. Ibid., str. 13.
14. U 5. poglavlju cemo imati priliku da vidimo kako ovaj prmcip pruza cvrsto ali neopravdano ubedenje onima koji rade na simulaciji procesa covekovog misljenja sa digitalnim masinama.

18

HUBERT

L. DREYFUS

Ali takve masme su mogle da ostanu sarno kao predimenzionisane masine za sabiranje, bez Platonove vizije koja je nasl a u njima svoj puni smisao i to doterivanjem metafizike duge dve hiljade godina. Najzad, evo masine koja operise prema sintaksickim pravilima, sa bitovima podataka! Stavise, pravila su ugradena u strujna kola masine. Kada se masina jednom programira, ne postoji potreba za interpretacijom niti potreba za pozivanjem na ljudsku intuiciju i sudenje, To je bas one sto su trazili Hobs i Leibniz, a Martin Heidegger je u kibernetici zgodno HOGiO kulminaciju filosofske tradicije.P" I dok su prakticari Eckert (Ekert) i Mauchly (Mohli) sa Univerziteta u Pensilvaniji konstruisali prvu elektronsku digitalnu masinu, dotle su teoreticari, kao sto je Turing, poceli da se interesuju za podrucje koje je dotada spadalo u nadleznost filosofa, u pokusaju da shvate sustinu i kapacitet takvih mas in a za samu prirodu uma. Godine 1950. Turing je napisao jedan vrlo uticajan clanak, "Raeunske masine i inteligencija", u kome je istakao da je "sadasnje interesovanje za .masine koje misle' pobudila jedna posebna vrsta masina, a koja se obicno zove ,elektronski racunar' ili ,digitalni raeunar'."16 Tada je on postavio pitanje, "Mogu li (takve) masine da misle?" - Da bi odgovorio na ovo pitanje, Turing predlaze jedan test koji je on nazvao igra imitacije:
Novi oblik problema moze da se opise pomocu igre koju cerno nazvati .Jgra imitacije". Niu igraju tri osobe: muskarae (A), zena (B) i ispitivac (C) jednog iIi drugog pola. Ispitivac je izdvojen u posebnu prostoniju. Za ispitivaca je cilj igre da odredi ko je od ovo dvoje muskarac a ko zena. On ih zna po oznakama X i Y, a na kraju igre treba da kale
15. Martin Heidegger, ..La fin de Ia philosophie et Ia tache de la pensee," u Kierkegaard vivant (Paris: GaIlimard, 1966), str. 178-179. (Moj prevod.) ..U sadasnjoj epohi filosofija je dosla do kraja. Ona je pronasla svoje mesto u naucnorn gtedistu ... Fundamentalna karakteristika naucnog odredenja sastoji se u tome sto je ona kibernetska ... " 16. Turing, op. cit., str. 7.

sTA RACUNARI NE MOGU

19

iIi .x je A, a Y je B" iIi "X je B, a Y je A". Ispitivacu je dozvoljeno da postavlja pitanja A i B: C: Neka mi ;( kate duzinu svoje kose? Sada, pod pretpostavkorn da je X u stvari A, onda A mora da odgovori. Cilj A u igri je da pokusa da nave de C na pogresnu identifikaciju. Zato njegov odgovor rnoze da bude "Moja kosa je kratko podsisana, a najduze vlasi su dugacke oko 23 ern." Da boa glasa ne bi bila od pomoci ispitivacu, odgovori moraju da se pisu, iii jos bolje, da se kucaju na masini. Idealni slucaj je kada se teleprinterom komunicira izrnedu dye prostorije.. Alternativno, pitanja i odgovore moze da prenosi posrednik, Cilj Igre za treceg igraca (B) sastoji se u pomoci ispitivacu. Za njega je verovatno najbolja strategija da pruza istinite odgovore. On svojim odgovorima moze da doda i takve stvari kao sto su: "Ja sam zena, ne slusajte njegal", sarno to nece doneti nikakve koristi ako i muskarac moze da napravi slicne primedbe. Sada postavljamo pitanje, "Sta ce se desiti ako rnasina preuzme ulogu A u ovoj igri? Hoce Ii u ovom slucaju ispitivac praviti isti broj gresaka kao kada se igra odvija izmedu muskarca i zene? Ova pitanja su zamena za nase prvobitno pitanje "mogu Ii masine da misle?"17

Ovaj test je postao poznat kao Turingov test. Filosofi mogu da sumnjaju u to da li sarno slicnost ponasanja moze da pruzi adekvatnu osnovu za pripisivanje inteligencije," ali Turingov test je bas ono sto je potrebno kao cilj onima koji stvarno pokusavaju da konstruisu masine sto misle, i kao kriterijum za kriticare kada procenjuju rad onih prvih. Naravno, nijedan digitalni racunar nije odmah bio spreman niti je bio planiran za Turingovu igru. Uprkos svojoj brzini, tacnosti i univerzalnosti, digitalni racunar ios nije bio nista vise od samog uredaja za manipulisanje opstim simbolima. Zetoni su, medutim, sada stavljeni na lajbnicovsku staru opkladu. Vreme ie bilo sazrelo da se stvori podesan simbolizam i da se izrade detaljne instrukcije pomocu kojih bi pravila uma mogla da se ugrade u
17.

tua.,

str. 5.

18. Vidi, na primer, kriticke clankc ad Kieth Gundersona i Michael Scrivena u Minds and Machines, knjiga navedena u belesci 12.

20

HUBERT L. DREYFUS

program za racunar. Turing je shvatio tu mogucnost i ponudio je kriterijum za uspeh, ali njegov clanak se zavrsava sarno sugestijama u vidu skiea o tome sta treba dalje da se radi:
Mozemo se nadati da ceo rnasine eventualno da se takrnice s ljudima na svim cisto intelektualnim poljima. Ali koja su ona najbolja s kojirna bi se otpocelo? Cak je i 0 ovome tesko odluciti, Mnogi misle da je apstraktna aktivnost, kao igranje saha, najbolja. Moglo hi, isto tako, da se zastupa glediste po kome je najbolje masinu snabdeti najboljim culnim organima i onda je poducavati u tome da razume i govori engleski. Ovaj proces bi mogao da se odvija isto kao i norrnalno poducavanje deteta. Stvari bi se pokazivale i imenovale i tako dalje. Jos jednom da naglasim: ne znam koji je pravi odgovor, ali rnislim da bi trebalo pokusati s oba pristupa."

J os uvek je bila potrebna tehnika za pronalazenje pravila za koju su mislioci, od Platona do Turinga, pretpostavljali da mora da postoji - tehnika za preobracanje bilo kakve prakticne aktivnosti, kao sto je igranje saha ili ucenje jezika, u niz instrukcija koje je Leibniz nazvao teorijom. Odmah potom, kao da su sledeni Turingovi nagovestaji, zapocet je rad na polju saha i jezika. Iste one godine kada je Turing napisao svojclanak, Claude E. Shannon (Klod E. SEmon), izumitelj teorije informacija, napisao je clanak 0 masinama koje igraju sah, u kome je diskutovao 0 izborima s kojirna se suocavalo u pokusaju da se programira digitalni racunar za igranje saha.
Analiziranje jednog odredenog nacina igranja od cetrdesetog poteza bilo bi isto tako lose kao i analiziranje svih naGina do samo drugog poteza. Pogodan bi bio kornpromis da se ispitaju sarno vaznije moguce varijante - sto znaci, kada se iznude potezi, zatirn osvajanja i glavne pretnje i da se analiziranje mogucih poteza sprovede dovoljno duboko kako bi mogle dovolino jasno da se sagledaju posledice svakog poteza. Moguce je postaviti neki grubi kriterijum za izbor vaznih varijanti, ne toliko efikasan kao sto je prisutan kod sahovskih majstora, ali dovoljno dobar
19. Turing, op. cit., str. 30.

STA RA(;UNARI NE MOGU

21

da se broj varijanti primetno redukuje i time ornoguci dublje ispitivanje onih poteza koji se stvarno zele povuci,w

Shannon nije napisao program za igru saha, ali je verovao da bi "elektronski racunar, programiran na ovaj nacin, mogao da igra sasvim jaku igru i to brzinom koja bi mogla da se poredi sa ljudskom brzinom."!' Allen Newell (Alen Njuel) je 1955. godine napisao jedan trezveni pregled 0 problemima koje je nametala sahovska igra i izneo sugestije u pogledu nacina na koji bi mogli da se rese, Newell primeouje da su "ovi (sugerisani) mehanizmi toliko kornplikovani da je nernoguce predvideti da li ce oni zaista funkcionisati."22 Medutim, sledeca godina je donela zaprepascujuci uspeh. Grupa iz Los Alamosa izradila je program koji je igrao skroman, ali pravilan sah na redukovanoj tabli. U prikazu ovog rada, Allen Newell, J. C. Shaw (J. C. So) i H. A. Simon (H. A. Saimon), zakljucili su: "S vrlo malo slozenosti bar smo stupili u arenu ljudske igre mozerno cia tucerno pocetnika.i'w A Alex Bernstein (Aleks Bernstajn) je 1957. godine posedovao program za IBM 704 koji je igrao dye "osrednje amaterske igre."24 U meduvremenu, Anthony Oettinger (Entoni Etinger) je radio na drugom Turingovom putokazu. Posto je jos 1952. godine programirao masinu koja je simulirala prosto uslovljavanje, povecavajuci ili smanjujuci zadati odziv na osnovu pozitivnog ili ne20. Claude E. Shannon, "A Chess-Playing Machine." prestampano u World of Mathematics, ured. James R_ Newman (New York: Simon and Schuster, 1965), 2129. 21. Ibid., str. 2129. 22. Allen Newell, "The Chess Machine," u The Modeling of Mind, Kenneth M. Sayre i Frederick J_ Crosson, ured. (South Bend, Ind.: Notre Dame University Press, 1963), sir. 89_ 23. Allen Newell, J. C. Shaw i H. A. Simon, "Chess-Playing Programs and the Problem of Complexity," u Computers and Thought, Edward A. Feigenbaum i Julian Feldman, ured. (New York: McGraw-lIiII, 1963), str. 48. ;14, iua., str. 4~.

22

HUBERT L. DREYFUS

gativnog stimulusa, Oettinger se okrenuo problemu prevodenja jezika i izradio je program za mehanicki recnik. Izgledalo je da dalja istrazivanja u ovorn pravcu mogu da dovedu do racunara koji bi mogao da se nauci da asocira reci i predmete. Medutim, nijedan od ovih prilaza nije ponudio nista slicno opstoj teoriji inteligentnog ponasanja. Ono sto je bilo potrebno u stvari su pravila za preobracanje bilo koje vrste inteligentne aktivnosti u niz instrukcija. U ovom pogledu, Herbert Simon i Allen Newell, analizirajuci nacin na koji student prilazi resavanju logickih problema, zapazili su da studenti nastoje da koriste pravila koja nisu univerzalno ispravna, ali koja cesto pomazu, iako neki put i zataje. Na primer, takvo pravilo bi moglo biti: uvek pokusaj da zam~~duzi izraz kracim, Simon i Newell su odlucili . okusaju da simuliraju ovu prakticnu inteligenciju. Termin .Jreuristicki program" koristio se za razlikovanje rezultujucih programa od program a koji garantovano rade, takozvanih algoritamskih programa koji slede neki iscrpan metod da bi se doslo do resenja, ali brzo postaju nezgrapni kada se ima posla sa prakticnim problemima. Ovaj pojam 0 pravilu prakse omogucio je proboj onima koji su trag ali za takvim nacinom programiranja pomocu koga bi racunari mogli da ispolje sposobnosti opsteg resavanja problema. Neste od uzbudenja, u pogledu ove nove ideje, oseca se u prvom odeljku klasicnog clanka Newella, Shawa i Simona .Empirijska istrazivanja sa masinom logicke teorije: primer studije 0 heuristici."
Ovo je studija 0 jednom metodu resavanja problema koji predstavlja deo istrazivanja 0 slozenim sistemima obrade informacija. Mi smo dali specifikacije sistema za nalazenje dokaza teorema u elementarnoj sirnbolickoj logici i, programirajuci racunar prema ovim specifikacijama, dobili smo empirijske podatke. 0 procesu resavanja problema u elementarnoj logici. Program je dobio ime rnasina logicke teorije (LT); masina je projektovana tako sto uci na koji nacin se mogu resavati teski problemi, kao sto su dokazi-

STA RACUNARI NE MOGU

23

vanja matematickih teorema, otkrivanje naucnih zakona iz podataka, igranje saha ili razurnevanje znacenja engleske proze. Istrazivanje 0 kome se ovde govori ima za cilj da objasni slozene procese (heuristiku) koji su efikasni u re. savanju problema. Otuda mi nismo zainteresovani za metode koji garantuju resenja, vee za one koji zahtevaju obimna sracunavanja. Radije zelimo da shvatimo kako je matematicar, na primer, sposoban da dokaze teoremu i onda kada, zapocinjuci dokaz, ni sam ne zna kako ce i da Ii ce uspeti,«

Ali Newell i Simon su ubrzo shvatili da ni ovaj pristup nije bio dovoljno opsti, Sledece go dine (1957) oni su pokusali da izdvoje heuristiku koju su koristili u logickoj masini i da je primene na niz slicnih problema. Iz ovoga je nastao program koji se zove opsti razresilac problema ili GPS. Motivaciju i orijentaciju rada na opstem razresiocu problema objasnili su Newell, Shaw i Simon u svom pryom vecern izvestaju 0 tom poduhvatu:
Ova rasprava ... [e den istrazivanja krajnje slozenih procesa koji su obuhvaceni inteligentnim, adaptivnim i kreativnim ponasanjern ... Mnoge vrste informacija rnogu da doprinesu res avanju problema: informacija moze da sugerise redosled po kome bi se ispitivala moguca resenja: ona rnoze da iskljuci citavu klasu resenja za koja se prethodno mislilo da su moguca: rnoze da pribavi Iak test za razlikovanje verovatnih od neverovatnih mogucnosti, i tako dalje. Sve ove vrste informacija predstavljaju heuristiku - stvari koje pomazu otkricu. Heuristika retko obezbeduje nepogresivo vodenje ... Ona cesto "radi", ali rezultati su promenljivi, a uspeh retko zagarantovan."

Da bi ilustrovali karakter opste heuristike koja je upotrebljena u njihovom programu, Newell i Simon su naveli jedan primer svakodnevnog inteligentnog ponasanja:
25. Allen Newell, J. C. Shaw i H. A. Simon, "Empirical Explorations with the Logic Theory Machine: A Case Study in Heuristics," u Computers and Thought, str. 109. 26. Allen Newell, J. C. Shaw i H. A. Simon, "Report on a General Problem - Solving Program," Proc. Int. Con], on Information Processing (Paris: UNESCO, 1960), str. 257,

24

HUBERT

L. DREYFUS

zelim da odvedem svog sina u z~ste. U cemu je razlika izmedu onoga sto imam ~ onoga elim? Udaljenost, sta menja udaljenost? Mo] automobe; O'j automobil ne radi. sta je potrebno da proradi? Nov akumulator, Ko drzi nove akumulatore? Auto-radionica. Potrebna mi je radionica da bih stavio nov akumulator, ali radionica ne zna da mi je bas ona potrebna. U cernu je teskoca? U kornunikaciji. sta omogucava ikomunikaciju? Telefon ... I tako dalje. Ovakva vrsta analize - klasifikovanje stvari prema funkciji koju vrse, oscilovanje izmedu ciljeva, potrebnih funkcija i sredstava koja ih obavljaju - cini osnovni sistern heuristike GPS. Preciznije receno, ova:j sistem heuristike, zasnovan na sredstvima i ciljevima, pretpostavlja sledece: 1. Ako je dat predmet koji nije zeljen! predmet, primetice se razlike izmedu raspolozivog i zeljenog predmeta. 2. Opera tori deluju na neka svojstva svojih operanada, dok druga ostavljaju neizmenjenim. Otud operator! mogu da se karakterdsu promenama koje proizvode i mogu da se upotrebe za pokusaj eliminacije razlika medu predmetima na koje se prirnenjuju i zeljenih predmeta. 3. Na neke razlike ce rnoci teze da se deluje nego na druge. Zbog toga je korisno pokusati sa eliminacijom "teskih" razlika, cak i po cenu uvodenja novih razlika rnanje teskoce, Ovaj proces rnoze da se ponavlja sve dok postoji napredak u pravcu eliminisanja teskih razlika."

€V

Izgledalo je da je sa digitalnim racunarima, koji resavaju takve probleme kao sto je prevo denje tri ljudozdera i tri misionara preko reke a da Ijudozderi ne pojedu misionare, filosofska ambicija na kraju pronasla potrebnu tehnologiju: da su univerzalnom i brzom racunaru data pravila za prevodenje umovanja u racunanje, Simon i Newell su uocili vaznost momenta i pobedonosno su objavili kako je na domaku ruke era inteligentnih mas ina.
Poceli smo da ucimo kako da upotrebljavamo racunare u resavanju problema tamo gde nismoImali sistematske i efikasne racunske algoritrne. A sada znamo, bar. u ogranicenom podrucju, ne sarno kako da prograrniramo racunare da uspesno resavaju takve probleme, vee isto tako, znarno kako da programiramo racunare da uce da rade ove stvari.
?7. Ibid .. str. 259.

STA RAcUNARI NE MOGU

25

Ukratko, sada posedujemo eleme~Orije 0 heuristickom (nasuprot algoritmickom) res ~ u problema; a ovu teoriju mozerno da Ikoristimo ne s da bismo razumeli ljudske heuristioke procese, vee i da sirnulirarno takve procese pomocu digitalnih racunara, Intuicija, vidovitost i ucenje nisu vise iskljuciva svojstva ljudi: svaki veci brzi racunar rnoze da se programdra kako bi ih isto tako ispoljio.t"

Ovo polje istrazivanja, posveceno upotrebi digitalnih racunara za simulaciju inteligentnog ponasanja, ubrzo je postalo poznato kao "vestacka inteligencija". Ovaj naziv ne bi trebalo nikog dazbuni. Nesurnnjivo je da bi jedan vestacki nervni sis tern, dovoljno slican ljudskom, sa ostalim karakteristikarna, kaosto su culni organi i telo, bio inteligentan. Ali termin "vestacki" ne znaci da oni koji rade na vestackoj inteligenciji pokusavaju i da izgrade vestackog coveka, Pri sadasnjem stanju fizike, hemije i neurofiziologije takav poduhvat nije izvodljiv. Simon i pioniri vestacke inteligencije predlazu stvaranje neceg mnogo skromnijeg: heuristicki program koji ce omoguciti digitalnoj masini da ispolji inteligenciju u obradi informacija. Na isti nacin, termin "inteligencija" moze da zavede. Niko ne ocekuje od robota da reprodukuje sve ono sto se ubraja u inteligentno ponasanje ljudskih bica. Na primer, on ne mora da bude sposoban da izabere dobru zenu ili da prelazi prometnu ulicu. On jedino mora da se ogleda u objektivnim i netelesnim sferama ljudskog ponasanja kako bi bio sposoban da pobedi u Turingovoj igri. Ovakav ograniceni cilj onih koji rade na vestackoj inteligenciji jeste bas ono sto takvom radu daje neodoljiv znacaj, Ovi poslednji metafizicari ulazu sve u covekovu sposobnost da formalizuje svoje ponasanje: da zaobide mozak i telo i da stigne sto sigurnije do sustine racionalnosti.
28. Herbert A. Simon i Allen Newell, "Heuristic Problem Solving: The Next Advance in Operations Research," Operation Research, Vol. 6 (januar=februar 1958),str. 6.

26

HUBERT L. DREYFUS

Racunari su vee izazvali tehnolosku revoluciju koja moze da se poredi sa industrijskom revolucijom. Ako je Simon u pravu kad tvrdi da je vestacka inteIigencijastvar bliske buducnosti, onda su racunari na pragu stvaranja cak i vece konceptualne revolucije - promene u nasem shvatanju coveka. Svako uocava vaznost ove revolucije, ali mi smo tako bIiski dogadajima da je tesko razaznati njihov znacaj, Ipak, ovo je sasvim jasno. Aristotel je definisao coveka kao racionalnu zivotinju i od tada se zadrza10 shvatanje da je urn covekova sustina, Ako smo na pragu kreiranja vestacke inteligencije, uskoro cemo biti svedoci trijumfa jedne posebne koncepcije uma. Zaista, ako budemo u stanju da programiramo urn u racunar, ondacemo dokazati da razumemo covekovu prirodu, cemu su se zapadni mislioci pipajuci primicali tokom dve hiljade godina, ali sto tek sada imaju cime da ostvare i izraze. Inkarnacija ove intuicije drasticno ce izmeniti nase shvatanje 0 nama samirna. Ako se, s druge strane, pokaze cia je vestacka inteIigencija nemoguca, onda cemo biti prinudeni da razIikujemo Ijudski urn od vestackog uma, a ovo ce, isto tako, raddkalno izmeniti nase glediste 0 nama samima. Tako je naisao cas kada moramo iii da se suocimo sa istinom najdublje tradicionalne intuicije, iIi cia odbacimo ono sto se tokom dve hiljade godina smatralo da objasnjava covekovu prirodu. Mada je, mozda, suvise rano za neki potpuni odgovor, moramo da pokusamo da odredimo obim i granice uma koji je stupio na scenu otkako je usavrsena "analiticka masina". Moramo pokusa ti da razumemo do kog je stepena moguca vestacka inteligenoija, a ako postoje granice do kojih moze da ide racunarska sirnulacija inteIigentnog ponasanja, onda moramo cia odredimo te gran ice i njihov znacaj, Ono sto naucimo 0 granicamainteIigencije racunara reci ce nam nesto 0 karakteru i dometu ljudske inteligencije. Ono sto se zahteva nije nista manje nego kritika vestackog uma,

STA RAWNARI

NE MOGU

27
II

Potreba za kritikom vestackog uma je specijaIan slucaj jedne opste potrebe za kritickorn predostroznoscu u naukama 0 ponasanju, Chomsky (Comski) zapaza kako je U ovirn naukama "postojala prirodna ali nesrecna tendencija da se .ekstrapolira' veoma mala kolicina znanja stecena brizljivim eksperimentalnim radom i rigoroznom obradom podataka i da se istakne njen mnogo sirl znacaj i velika drustvena vaznost." On zakljucuje da
strucnjaci snose odgovornost za razjasnjavanje stvarnih granica svoga shvatanja i rezultata koje su postigli. Pazljiva analiza tih granica demonstrirace Cinjenicu da u gotovo svakom domenu drustvenih nauka i nauka 0 ponasanju rezultati postignuti do danas nece opravdati takvu .ekstrapolaciju",»

Na prvi pogled izgleda da je vestacka inteligencija srecni izuzetak u odnosu na ovakav pesimisticki princip. Svaki dan citamo kako digitalni racunari igraju sah, prevo de, raspoznavaju oblike, a uskoro ce biti sposobni da preuzmu nase poslove. U stvari, ovo sada lici na decju igru. Doslovno tako! U jednom saopstenju koje je dalo Udruzenje severnoamerickih listova (decembra 1968), pod naslovom .Racunari za malisane", saznajemo da je
"Cosmos", zapadnonemacka izdava6ka kuca ... dosla na novu ideju 0 poklonima ... To je pravi (mada mali) racunar, a kosta oko 20 dolara. Radi na baterije i lici na portabl pisacu masinu, Moze da se programira kao i bilo koji veliki racunar, da prevodi sa stranih jezika, daje dijagnozu bolesti, pa cak da daje i vremensku prognozu.

Au skorasnjem broju casoplsa Life (20. novembar, 1970) pod naslovom ,Upoznajte Sejkija, prvu licnost elektronike', iznenadenom citaocu se govori o racunaru "koji se sastoji od pet glavnih sistema koji sasvim odgovaraju osnovnim ljudskim sposob29. Noam Chomsky, Language Brace & World, 1968), str. V. and Mind (New York: Harcourt,

28

HUBERT

L. DREYFUS

nostima: osecanju, umu, jeziku, pamcenju (i) egu." Prerna tom clanku, ovaj racunar "vidi", "razume", "uei" i uopste "rpokazuje da masine mogu da misle." Citira se nekolicina istaknutih naucnika koji predvidaju da cerno u roku od tri do petnaest godina "imati masinu sa opstorn inteligencijom prosecnog Ijudskog bica ... a u roku od nekoliko meseci (posle toga) one ce biti na nivou genija ... " Mozda nas zaista od kompletnog robota deli samo nekoliko godina, ali svako koga interesuje stanje na kraju ovog veka, u fdlmu 2001: Odiseja u svemiru moze da vidi robota po imenu HAL, koji je hladnokrvan, govorljiv i skoro sveznajuci i svemoguc. Ali ovaj film nije samo naucno-fantasticka fantazija. Odiseja u svemiru je film pravljen na osnovu brizljivo prikupljene dokumentacije. Reditelj Stanley Kubrick (Stenli Kjubrik) konsultovao je najistaknutije specijaliste za racunare da se ne bi prevario i u onome sto je bar izdaleka moguce, Sam Turing je 1950. godine izrazio uvere:nje da ce se pri dcraju ovog veka upotreba reci i uopste obrazovano misljenje izmeniti do te mere da cecovek moci da govori 0 masinama koje misle, ne ocekujuci da mu se protivreci." A tehnicki konsultant za film, profesor Marvin Minsky, radeci na jednom ranom prototipu HAL-a u svojoj laboratoriji u Institutu za tehnologiju u Masacusetsu, (M. I. T.), uveravao je Kubricka da je Turing, ako nista drugo, bid suvise pesimistican, Da Kubrick nije pogresno razumeo Minskyog jasno se vidi iz uvodnog komentara Minskyog za casopis Science Journal, koji zvuci kao scenario za

2001:

U pocetku su rnasine imale jednostavne kandze. Uskoro ce one imati fantasticno umilne artikulacije. Oci racunara nekad 'Su mogle sarno da razaznaju rupice na kartici. Sada mogu da raspoznaju oblike na jednostavnim pozadinama. Uskoro ce moci da se takmice sa covekom u analizi okoline, Nekad su programi za racunar samo sabirali kolone cifara. Sada dob30. Turing, op. cit., str. 14, navedeno u belesci If,

STA RACUNARI NE MOGU

29

ro igraju igre, razumeju jednostavne konverzacije, odmeravaju mnoge faktore kod odlucivanja, Sta dolazi kao sledece? Danas masine uglavnom resavaju probleme u skladu sa principima koje ugradujerno u njih. Uskoro cerno naucit! kako da ih podesimo da rade na veoma specijalnom problemu poboljsanja sopstvenih sposobnosti resavanja problema. Kada se jednom prede 'izvesna granica onda to dovodi do spirale ubrzanja, pa ce tako tesko biti usavrsiti neki pouzdani "regulator" koji bi je obuzdao."

Reklo bi se da mozda ne postoji granica dometu i briljantnosti dobro programiranog racunara. Nije cudo sto medu filosofima nauke nailazimo na pretpostavku da masine mogu da rade sve ono sto mogu i ljudi, iza cega odmah sledi pokusaj da se objasni kakve zle slutnje to donosi filosofiji duha; dok medu moralistima i teolozima nailazimo na poslednje odbrambeno uporiste u tako slozenom ponasanju kao sto su moralni izbor, ljubav i stvaralacko otkrice, koje je, po njima, van domasaja masine. Mislioci oba ta:bora propustili su da postave jedno preliminarno pitanje: da li masine stvarno mogu da ispolje bar element arne vestine, kao sto su igranje igara, resavanje jednostavnih problema, citanje prostih recenica i raspoznavanje oblika. Po svoj prilici oni su to propustili da ucine zbog toga sto su pod utiskorn stampe i istrazivaca vestacke inteligencije, prema kojima su, jednostavni zadaci, pa cak i neki vrlo teski, vee reseni ili ce uskoro biti reseni. Stoga, prvo treba da se ispitaju ovakve tvrdnje. Zgodno je poceti sa predvidanjern Herberta Simona iz 1957. godine, posto je izgledalo da njegov opsti razresilac problema otvara eru vestacke inteligencije:
Moj cilj se ne sastoji u tome da vas zacudim ili sokiram ... Ali, najjednostavniji nacin na koji mogu da rezimiram jeste da kazem kako sada u svetu postoje masine koje misle, uce i stvaraju. StaviSe, njihova sposobnost da sve ovo rade veoma ce se brzo uvecavati sve dok - u sagledi31. Marvin Minsky, "Machines are More Than They Seem," Science Journal (octobar 1968), str. 3.

30

HUBERT L. DREYFUS

voj buducnosti - obim problema koje one mogu da obraduju ne bude ravan obimu na koji se primenjuje ljudski urn.

Simon zatim, izrnedu

ostalog, predvida:

1. Da ce za deset godina digitalni racunar biti svetski sampion u sahu, ukoliko mu ne bude zabranjeno ucesce na takrnicenju. 2. Da ce za deset godina digitalni racunar otkriri i dokazati neku novu vaznu maternaticku teoremu. 3. Da ce za deset godina vecima teorija u psihologiji preuzeti oblik programa za racunare, ili kvalitativnih iskaza 0 karakteristikama prograrna za racunare.v

Na nesrecu, desetogodisnjica ovog istorijskog govora prosla je neopazeno, a oni koji rade na vestackoj inteligenciji nisu ni na jednom od svojih mnogih nacionalnih i internacionalnih skupova izdvojili vreme da svoje izvestaje 0 napretku i ovakva predvidanja suoce sa stvarnim dostignucima. Do sada je proteklo cetrnaest godina, a stalno nas opominju kako ce uskoro biti tesko da kontrolisemo nase roboteo Izvesno je da je vee krajnje vreme da se ovo prvobitno prorocanstvo odmeri u skladu sa realnoscu. Vee posle pet godina od Simonovih predvidanja, publikacije su nagovestavale da je prvo od Simonovih predskazanja bilo upola ostvareno i da je ucinjen primetan napredak u pogledu ispunjenja njegovog drugog predvidanja, Predvidanje 0 otkricu teoreme "ispul1'io je" W. R. Ashby (W. R. Esbi) (jedan od vodecih autoriteta na tom polju) kada je u prikazu Feigenbaannove (Fignbaurn) i Feldrnanove (Feldman) antologije Racunari i misao pozdravio matematicku moe dobro programiranog racunara: "Gelernterov (Gelernter) program za dokazivanje teorema otkrio je novi dokaz 0 pons asinorum koji ne zahteva nikakvu konstrukciju." Ovaj dokaz je, nastavlja dr Ashby, dokaz "koji najveci matemati32. Herbert A. Simon i Allen Newell, "Heuristic Problem Solving: The Next Advance in Operations Research", navedeno u belesci 28.

~TA RACUNARI NE MOGU

31

cari tokom 2000 godina nisu uspeli da zapaze ... dokaz koji bi izmamio najvise ocene da je bio zapazen. "33 Teorema znacajno zvuci, a naivni citalac ne moze da ne deli Ashbyjev entuzijazam. Medutim, malo istrazivanja otkriva da je pons asinorum, iIi magareci most, elementarna teorema dokazana u Euklidovoj geometriji - nairne, da su suprotni uglovi ravnokrakog trougla jednaki. Stavise, prvo obelodanjenje "novog" dokaza koji je mas in a "otkrila" pripisano je Pappusu (Papus) (300. go dine nove ere).34 Postoji upadljiva disparatnost izmedu Ashbyjevog uzbudenja i starosti i jednostavnosti ovog dokaza. Jos uvek smo daleko od .znacajne matematicke teoreme" koja je trebalo da bade otkrivena 1957. godine. Prica 0 igri saha moze da posluzi kao model za proucavanje intelektualnog smoga u ovoj oblasti. U 1958. godini, godini koja sledi Simonovo predvidanje, Newell, Shaw i Simon su izlozili jedan slozeni program za igru saha, Kao sto je opisano u njihovom klasicnom radu, .Programi za igrusaha i problem slozenosti", program nije bio "jos u potpunosti dovrsen", tako da niko "ne moze mnogo da kaze 0 ponasanju programa."35 Ipak, jasno je da je on .xlobar u ... otvaranju."36 Ovo je poslednji detaljno objavljeni izvestai 0 tom programu. Medutim, iste godine, Newell, Shaw i Simon su najavili: "Napisali smo program koji igra sah,"37 a Simon je na osnovu ovog uspeha revidirao svoje ranije predvidanje.
v

33. W. Ross Ashby, ,Review of Feigenbaum's Thought," Journal of Nervous and Mental Diseases. 34. D. E. Smith, History
II, str. 284.

Computers

and

of Mathematics

(Boston: Ginn, 1925), Vol.

35. Newell, Shaw i Simon, "Chess-playing Programs and the Problem of Complexity," str. 60. 36.

iua.,

str. 45.

37. Allen Newell, J. C. Shaw i H. A. Simon, The Processes of Creative Thinking, The RAND Corporation, P-1320 (septembar, 16 1958), str. 6.

32

HUBERT L. DREYFUS

Na drugom mestu predvideli smo da ce za deset godina racunar otkriti i dokazati jednu vaznu rnatematicku teoremu. Na osnovu naseg iskustva sa heuristikama Iogike i saha, spremni smo da dodamo jos jedno predvidanje u smislu potrebe za umerenom ekstrapolacijorn sposobnosti programa koji vee postoje da bi se postigla dodatna moe resavanja problema, potrebna za takvu sirnulaciju.w

njihovom programu bile dovoljne da se lansiraju sahovske masine u podrucje mitologije. Norbert Wiener je 1959. go dine, isticanjem tvrdnje da je program "dobar u otvaranju", informisao Instltut za filosofiju na Univerzitetu u Njujorku kako ce se "masine koje Igraju sah odsada suprotstavljati potezima u majstorskoj igri potezima koji se priznaju u udzbenicima kao ispravni, do izvesne tacke u sredisnjici."39 Naistom simpozijumu Michael Scriven (Majkl Skrivn) je presao sa dvosmislene tvrdnje da "masine sada igraju sah" na pozitivnu tvrdnju da "su masine vee sposobne za dobru igru."40 U stvari, u nekoliko zabelezenih igara, program Newella, Shawa i Simona igrao je los, ali pravilan sah i u svojoj .poslednjoj zvanicnoj partiji (oktobar 1960) bio je porazen u trideset petom potezu od desetogodisnjeg decaka, pocetnika, Cinjenica je, medutim, prestala da biva relevantna. Dok je njihov program izgubio svojih pet ili sest siromasno odigranih partija - a mit koji su oni stvorili jos odolevao majstorima za sredisnjicu - dotle su Newell, Shaw i Simon cutali. Kada su ponovo progovorili, a to je bilo posle tri godine, nisu saopstili svoje teskoce i razocarenje. Umesto toga, kao da nastavlja tamo gde je mit stao, Simon je objavio clanak u casopisu Behavioral Science, na38. Ibid., str. 78. 39. Norbert Wiener, "The Brain and Dimensions of Mind, Sidney Hook, ured. str. 110. 40. Michael Scriven, "The Complete Androidology," u Dimensions of Mind, str. the Machine (Rezime)," U (New York: Collier, 1961), Robot: 122. A Prolegomena to

li su takvi da su tvrdnje Newella, Shawa i Simona

Lakovernost

javnosti i Simonov entuzijazam

bi0

STA RA(;UNARI NE MOGU

33

[avljujuci program koji igra "visoko kreativne" sahovske zavrsnice koje obuhvataju "i najtezekombinacije koje su zabelezene u istoriji saha."41 Spomenuto je, ali nije naglaseno, da program ogranicava ove zavrsnice na zavisnost od neprekidnog sahiranja, tako da je u velikoj meri redukovan broj relevantnih poteza. Cak se obmanjujuce implicira da slicne jednostavne heuristike vaze za majstorsku igru i u sredisnjici.s'" Tako.iclanak odaje utisak da je predvidanje 0 sahu skoro realizovano. Sa takvim napretkom u svakom momentu bi mogao da se zatraii sahovski sampionat. Zaista, jedan sovjetski kiberneticar, cuvsi za Simonovu desetogodisnju procenu, nazvao ju je "konzervativnom".43 A Fred Gruenberger (Fred Grinberger) iz RAND-a, smatrao je da svetski sampion ne bi bio dovoljan - da bi trebalo teziti programu "koji igra bolje od bilo kog coveka".44 Ova ponovo stvorena konfuzija podseca na neman iz francuskog mita za koju se pretpostavlja da luci maglu koja joj je neophodna za sopstveno disanje, Stvarnost hramljuci tapka iza ovako impresivnih rproglasa. Zbunjeni mojim ekspozeom 0 postojanju disparatnosti izrnedu njihovog entuzijazma i njihovih rezultata, istrazivaci na polju vestacke in41. H. A. Simon i Peter A. Simon, "Trial and Error Search in Solving Difficult Problems: Evidence from the Game of Chess," Behavioral Science, Vol. 7 (oktobar 1962),str. 429. 42. Na primer, u apstraktu Simonovog i Simonovog clanka (beleska 41 gore) donosi se zakljucak: "Ovaj esej pokusava da razjasni izvesnu mitologiju koja okruzuje sahovsku igru pokazujuci kako je uspesno resavanje problema zasnovano na visoko selektivnorn, heuristickom .programu' pre nego na cudovisnom pamcenju i uvidanju" (str. 425). A sam clanak zakljucuje sa neopravdanom generalizacijom: "Svedocanstvo u velikoj meri sugerise da eksperti u sahovskoj igrt otkrivaju kombinacije zbog toga sto njihovi programi sadrze mocne selektivne heuristike, a ne zbog toga sto oni brze misle iii bolje pamte od ostalih ljudi" (str, 429). Casno procenjeni dokazi navode na pomisao da se ovo u najboljem slucaju desavasamo u specificnirn situacijama u zavrsnici. 43. Paul Armer,,,Attitudes Toward Intelligent Machines," u Computers and Thought, str. 405. 44. Fred Gruenberger, Benchmarks in Artificial Intelligence, The RAND Corporation, P·2586(June 1962),str. 6.

34

HUBERT L. DREYFUS

teligencije (VI) konacno su proizveli jedan kornpetentan program. R. Greenblattov (R. Grinblat) program nazvan MacHack, stvarno je pobedio autora.v" amatera kategornika, a istupao je na nekoliko turnira na kojima je dobio vise partija. Ovaj delimicni uspeh oziveo je nade i tvrdnje. Seymour Papert (Sejmur Peiprt), drugi u vodenju projekta 0 robotu pri M. I. T., skocio je u odbranu Simonovog predvidanja, tvrdeci da "je ovaj stay razuman ako se uzme kao stav 0 onome sta isrrazivaoi na tom polju rada smatraju da moze biti moguci cilj u bliskoj buducnosti."46 A na prvoj strani casopisa Science Journal, u oktobarskom broju iz 1968. godine, Donald Michie (Donald Mi6), Iider vestaoke inteligencije u Engleskoj, pise kako "danasnje masine mogu da igraju sah na sampionskorn nivou."47 Medutim, sahovski majstor de Groot (de Grut ), diskutujuci 0 ranijim sahovskim programima, izjavio je jednom: "programi su jos uvek slabi igracisaha i ne polazem mnogo nade u buduce sustinsko poboljsanje." A drugi sahovski majstor, Eliot Hearst (EJiot Herst), diskutujuci 0 programu M. I. T. u casopisu Psychology Today, dodaje: "De Grootov komentar je sastavljen 1964. godine, a Macl-laokov nedavni turnir ne hi ga naveo da revidira svoje miIMjenje."48 Niti bi to mogli
45. Radost s kojom je ova pobeda najavljena kompjuterskoj zajednici, kao da su time bile dokazane, prethodne tvrdnje 0 tome sta racunari mogu, oglasio je Alvin Toffler na str, 187. u knjizi Future Shock (New York: Random House, 1971). Autor me interpretira kao da sam rekao da nijedan racunar nikad neb; mogao da igra cak ni amaterski sah, Na osnovu punog navoda jasno je da je ovo izvrtanje cinjenice. Moje tvrdenje je jednostavno bilo korektan izvestaj 0 stanju umesnosti tog vremena (1965): "Prema Newellu, Shawu i Simonu ovakvo je procenjivanje programa Leis Alamos, IBM i NSS: ,Sva tri programa igraju sah priblizno istim kva1itetom (mediokritetski) sa priblizno istim iznosom vremena za proracunavanje.' Jos uvek nijedan sahovskl program ne moze da igra cak ni amaterski sah, a od svetskog samplonata nas dele samo dve godine." 46. Seymour Papert, 9th RAND Symposium (7. novembar 1966), str. 116_ 47. Donald Michie, Science Journal, Vol. 4. No. 10 (oktobar 1968) str. 1. 48. Eliot Hearst, "Psychology Across the Chessboard," Psychology Today (jun 1967), str. 32.

STA RAcUNARI

NE MOGU

35

da ucine skorasnji dogadaji. Greenblattov program Se postepeno poboljsavao, ali dzgleda da je dostigao tacku zasicenosti. Tokom dye poslednje go dine izgubio je sve partije na turnirima na kojima je igrao, i nije nailazio ni na kakav dalji publicitet. Uskoro cemo videti da je sa ogranicenjima digitalnog racunara taka nesto moralo ida se ocekuje, Greenblattu treba odati priznanje sto nije napravio nijedno predvidanje u jeku MacHacka. Sto se tice Simona i svetskog sampionata, deset godina je isteklo, a racunar je u najboljem slucaju amater III kategorije.w" Ova rapidno pogorsanje situacije u pogledu dva Simonova predvidanja, izgleda da je procistilo atmosferu. Bitno je na samom pocetku biti svestan da uprkos predvidanjima, stampi, filmovima i upozorenjima, vestacka inteligencija predstavlja obecanje, a ne ostvarenu cinjenicu. Tek kada se ostvari, mozerno da otpocnemo naseIspitivanje stvarnog stanja i buducih nadanja o vestackoj inteligenciji na dovoljno rudimentiranom nivou. Oblast vestacke inteligencije ima mnogo odeljaka i pododeljaka, a1i najvazniji rad u toj oblasti moze cia se klasifikuje u cetiri podrucja: igranje igara, prevodenje jezika, resavanje problema i raspoznavanje oblika. Vee smo raspravljali 0 stanju istrazivanja u igranju igara. Sada cemo detaljno osmotriti sta se radi u preostala tri podrucja, Moja opsta teza u I delu ce biti da oblast vestacke inteligencije ispoljava rekurentan karakter razvoja: dramatican uspeh u pocetku odjednom prate neocekivane teskoce, Ovu pojavu srecemo u sva cetir! podrucja, u dye faze, od kojih je svaka trajala dobrih pet godina, Rad
49. Trece predvidanje - da bi vecina psiholoskih teorija trebaIo da preuzme formu programa za racunare - zaista je bilo delimicno ispunjeno, mada je jos uvek ostalo mnogo od biheviorista. Ali ovde se vazno pitanje ne sastoji u tome da Ii je izvestan zadatak 'sam PO sebi postignut kao majstorska igra iii originalno dokazivanje teorema nego da Ii one 5tO je predvideno moze i da se postigne. U psihologiji, zamena bihevioristickih modela masinskim modelima ne predstavlja ocigledan korak napred. Problem je komplikovan i zahteva detaIjnu diskusiju. (vidi Poglavlje 4).

36

HUBERT

L.

DREYFUS

od 1957. do 1962. godine (PogIavIje 1) prvenstveno se odnosi na kognitivnu simuIaciju (KS) - upotrebu heuristickih programa za simulaciju Ijudskog ponasanja u pokusaju da se reprodukuju koraci koji Ijudska bica stvanno vode napretku. Drugi period (PogIavlje 2) pretezno je posvecen semantickoj obradi informacija. Ovo je vestacka inteligencija u uzem smislu nego sto sam dosada koristio taj termin. VI (za ovaj uzi smisao koristicu inicijale) jeste pokusaj da se simuIira ljudsko inteligentno ponasanje koriscenjem tehnika programiranja koje mogu da imaju malu ili nikakvu slicnost sa ljudskim mentalnim procesima. Teskoce s kojima se suocava ovaj pristup tek su pocele da se javljaju. Zadatak ostatka I dela sastoji se u otkrivanju osnove zajednickog porekla svih ovih, naizgled nepovezanih, neuspeha. Ove empirijske teskoce, ovi neuspesi u postizanju predvidenog napretka nikada, medutim, nisu obeshrabrile istrazivace, ciji optimizam izgleda da raste sa svakim novim razocarenjem. Zbog toga treba da postavimo pitanje, koje pretpostavke ima ovaj neprestani optimizam suocen sa neuspesima koji se ponavljaju. U II delu pokusacemo da iznesemo na videlo cetiri duboko ukorenjene pretpostavke ili predrasude koje maskiraju ozbiljnost sadasnjeg zastoja i da razotkrijemo pojmovnu zbrku, koja je proistekla iz ovih predrasuda. Ali ove predrasude su tako duboko ukorenjene u nasem misljenju da za njih postoji jedina alternativa u obskurantistickom odbijanju mogucnosti postojanja nauke 0 ljudskom ponasanju. U III delu pokusacemo da odgovorimo na ovu primedbu, ukoliko na nju uopste moze da .se odgovori, predlazuci alternativu ovim tradicionalnim pretpostavkama, a oslanjajuci se na ideje mislilaca dvadesetog veka, ciji je rad jedna implicitna kritika vestackog uma, mada on nije ranije bio posmatran u ovakvoj svetlosti. Potom cemo biti u situaciji da u zakljucku okarakterisemo vestacki urn i da ukazemo na njegov

STA RACUNARI NE MOGU,

37

obim i njegove granice. Ovo ce nam, zauzvrat, ornoguciti da razlikujemo razne oblike inteligentnog ponasanja i da prosudimo do koje mere svaki od ovih tipova inteligentnog ponasanja podleze programiranju, u praksi i u principu. Ako ovako izlozena argumentacija i ton mojih uvodnih primedbi izgledaju suvise polemicki za iedan pokusaj filosofske analize, onda mogu sarno da istaknern, kao sto smo vee videli, da je vestacka inteligencija oblast u kojoj se retorickirn izlaganjem rezultata cesto zamenjuju istrazivanja, tako da istrazivacki radovi vise lice na rezime nekog diskutanta nego na naucni izvestaj. Na takvo jedno ubedujuce redanje cinjenica jedino moze da se odgovori na isti nacin. Otud tako optuzujuci ton u I delu. Medutim, u II delu, pokusao sam, koliko je to moguce, da ostanem objektivan u ispitivanju fundamentalnih pretpostavki, mada iz iskustva znam da ce osporavanje ovih pretpostavki izazvati reakcije slicne onim koje ispoljava nesigurni vernik kada je njegova vera dovedena u pitanje. Na primer, one go dine koja je sledila objavljivanje mog prvog istrazivanja 0 radu na vestackoj inteligenciji, korporacija RAND je organizovala jedan skup strucnjaka iz naucne oblasti 0 racunarima da bi se, pored ostalih tema, raspravljalo i 0 mom izvestaju. Na uvid javnosti je bio dat sarno "preciSeeni" prepis sa ovog skupa, ali caki unjemu .ie, skoro na svakoj stranici, bio prisutan paranoican ton diskusije. Moj .izvestaj je bio nazvan .mracnim", "necasnim", "veselo smesnim" i "neverovatno pogresnominterpretacijom istorije". Kada je na jednom mestu dr J. C. R. Licklider (J. C. R. Liklider), tada iz firme I. B. M., pokusao da brani moj zakljucak da bi rad trebalo da se obavlja u kooperaciji coveka i masine, Seymour Papert (M. I. T.) je odgovorio:
zestoko protestujem protiv pmpis[vatrlljaDreyfusu bilo cega dobrog. Neprincipijelno je tvrditi da se mozerno sloziti s nekirn od njegovih zakljucaka. Dreyfusova zamisao povezivanja ljudi s masinama zasnovana je na potpu-

38

HUBERT L. DREYFUS

nom nerazumevanju problema i nema nista zajednieko s bilo kakvom dobrom postavkom koja moze da se izrazi istim recima.w

Trebalo bi ispitati i same uzroke ovakve panicne reakcije, ali to je posao psihologije iii sociologije znanja. Ipak, ocekujuci neminovnepogrde, zelim apsolutno da razjasnim na samom pocetku da one sto ja kritikujem jesu implicitne i eksplicitne pretpostavke Simona i Minskyog i njihovih saradnika, a ne njihov tehnicki deo posla. Istina, njihove filosofske predrasude i naivnost iskrivljuju sopstvenu procenu njihovih rezultata, ali ovo ni 11 kom slucaju ne umanjuje vaznost i vrednost njihovog istrazivanja 0 specificnim tehnikama, kao sto je struktnrra lista, 0 opstijim problemima, lkao sto su organizacija ,i pristup bazi podataka, teoreme kompatibilnosti i tako dalje. Fundamentalne ideje, !koje ISU oni un eli u ova podrucja, ne sarno sto su omogucile ogranicena dostignuca u vestackoj inteligenciji, vee su doprinele i ostalim uspesnijim podrucjima nauke o racunarima. Na izvestan ogranicen naciricak i VI rnoze da ima - a po svoj prilici. ce i imati - rpnukt:iJenu vrednost uprkos svojim osnovnim ogranicenjima koje cu pokusati da iznesem. (Ogranicio sam se na VI zato sto nije jasno da Ii naivna kognitivna simuIacija, kakva se sada koristi, moze uopste da ima bilo kakvu vrednost, izuzev, mozda, kao ubedljiv dokaz da u ponasanju inteligentni ljudi ne obraduju informacije kao heuristicki programiran digitalni racunar.) Neki artefakt bi mogao da zameni ljude u nekim zadacima - na primer, u istrazivanju planeta - pa ipak da se ne ponasa kao i ljudska bica niti da isrpoljava ljudsku fleksibilnost. Istrazivanje u ovoj oblasti nije ni uzaludno niti besmisleno, mada hi jedno uravnotezeno glediste 0 tome sta moze a sta ne maze da se ocekuje ad takvog artefakta svakako dobilo u snazi ako bi mu se dala izvesna filosofska perspektiva.
50. Papert, op, cit., str. 117.

IDEO

DESET GODINA ISTRAZIVANJA U OBLASTI VESTACKE INTELIGENCIJE (1957-1967)

I FAZA (1957-1962) KOGNITIVNA SIMULACIJA

I. ANALIZA RADA NA PREVODENJU JEZIKA, RESAVANJU PROBLEMA I RASPOZNAVANJU OBLIKA

PREVODENJE JEZIKA

Uz pokusaje da se pomocu racunara prevode jezici vezani su, kako najraniji uspeh i najopseznije i najskuplje istrazivanje, tako i najnesumnjiviji neuspeh. Vrlo brzo je postalo jasno da se lako moze konstruisati mehanicki recnik u kome hi lingvisticke jedinice, bilo da su to delovi reci, citave reci, bilo grupe reci, mogle nezavisno da se obrade i prenesu, jedna po jedna, u odgovarajuce jedinice drugog jezika. Anthony Oettinger, prvi koji je izradio mehanicki recnik (1954), podseca na klimu tih ranih dana: .Pojam ... potpuno automatskog mehanickog prevodenja visokog kvaliteta, koji su posadili suvise revnosni propagatori automatskog prevodenja s obe strane Gvozdenezavese, a koji se hranio ceznjama potencijalnih korisnika, rascvetao se kao nabujaIi korov."! Ovaj pocetni entuzijazam i kasnije razocarenje stvaraju neku vrstu paradigme za tu oblast. Ovo je prikladno opisao Bar-Hillel (Bar-Hilei) u svom izvestaju "Sadasnji status automatskog prevodenja jezika".
I. Anthony G. Oettinger, "The Slate of the Art of Automatic Language Translation: An Appraisal," u Beitraege zur Sprachk.unde und Injormations Verarbeitung, ured. Herbert Marchi, Vol 1, Heft 2 (Munich; Oldenbourg Verlage, 1963),str. 18.

42

HUBERT L. DREYFUS

Tokom prve godine istrazivanja u masinskom prevodenju je ucinjen primetan napredak ... To je rnedu onima koji su bili aktivno angazovani radom u ovoj oblasti stvorilo jako osecanje da je upotrebljiv sistem skoro nadohvat ruke. Iako je razumljivo da je jedna takva iluzija mogla da nastane u to vreme, ipak je to bila iluzija. A zasnovana je bila na cinjenici da je veliki broj problema mogao lako da se resava ... Jos ,se nije dovaljno shvatilo da je jaz izmedu takvog rezultata ... i pravog prevodenja visokog kvaliteta jos bio ogroman i da su dotad reseni problemi stvarno bili brojni, ali i najjednostavniji, dok Sill ani .malobrojni" preostali problemi bili teski - zaista veoma te.siki.2

U toku deset godina koje su usledile posle razvoja mehanickog recrrika, pet vladinih agencija potrosilo Je oko 20 rniliona dolara na istrazivanje mehanickog prevodenja," Uprkos cinjenici da se u raznim rnomentima u casopisima tvrdilo da je masinsko prevodenje bar izvodljivo, ovo istrazivanje je, pre svega, dovelo do mnogo dubljeg saznanja 0 neocekivanoj slozenosti sintakse i semantike. Kao sto Oettinger primecuje, "Glavni problem odabiranja neke prikladne reci za izvornu rec na osnovu konteksta ostaje neresen, a s tim u vezi i problem utvrdivanja neke jedinstvene sintaksicke strukture recenice za koju citaoci smatraju da je nedvosmislena."! Oettinger zakljucuje: "Izgledi su mraeni za one koji jos uvek gaje nadu u potpuno automatsko masinsko prevodenje visokog kvaliteta.P"
2. Yehoshua Bar-Hillel, "The Present Status of Automatic Translation of Languages," u Advances in Computers, F. L. Alt, ured. (New York: Academic Press, 1960),Vol. I, str. 94. 3. Nacionalna Akademija nauka, Language and Machines (Washington, D. C., 1966),str. 29. 4. Oettinger, op. cit., str. 21. 5. Ibid., str. 27. Takva kr-iticka procenjivanja masinskog prevodenja cesto se zavrsavaju utesnim zakljuckom da je taj rad doprineo nasem znanju strukture jezika. Ali cak je i ovo opravdanje pod znakom pitanja. Chomsky ima nejasno glediste 0 ovom "upredanju": " ... prilicno investiranje vremena, energije i novca u upotrebi racunara za lingvisticko istrazivanje - prilicno po merilima uskog polja kao sto je lingvistika - nije doprinelo nekom znacajnorn napretku u nasem razumevanju upotrebe iii prirodc jezika. Ovi sudovi su ostri, ali misljenja sam da mogu da se

STA RACUNARI NE MOGU

43

Bilo je to 1963. godine. Tri godine kasnije, vIadin izvestaj, Jezik i masine, koji rastura Nacionalni savet za istrazivanja Akademije nauka, izrekao je posIednju rec .0 prevodilackom bumu. Posle pazljivog uporedivanja covekovog prevodenja sa masinskim prevodima, odbor je zakljucio:
Vee smo napomenuli da time sto imamo masinsko prevodenje opsteg naucnog teksta, nemamo i masinski koristan prevod. staviSe, ne postoji niikaikvaneposredna ili rpredskaziva perspektiva 0 podesnom masinskom prevodenju.s

Deset godina je proteklo od preuranjenog optimizma u vezi sa masinskim prevodenjem, U to vreme je let na mesee jos uvek bio naucna fikcija, a mehanicka sekretarica je bila na dohvatu ruke. Sada smo se vee spustili na mesec, a masinsko prevodenje kueanih naucnih tekstova jos uvek je izvan horizonta, a izgleda da se horizont ubrzano udaljava. Posto nada u robote, kao sto su oni iz 2001, ili u skromnije sluge, u mnogome zavisi od istog onog razumevanja prirodnog jezika od koga zavisi i masinsko prevodenje, zakljucak Akademije nauka udara po svim predvidanjima - kao sto su Minskyeva - da ce za zivota jedne generacije sustinski biti resen problem kreiranja vestacke inteligencije.
REsAV ANJE PROBLEMA

Veliki cleo ranih radova na opstem planu vestacke inteligencije, narocito rad na igranju igara i resavanju problema, bio je pod uticajem i dorninacijom Newellovog, Shawovog i Simonovog rada u korporaciji RAND i Karnedzijevom institutu za tehnoIogiju,? Njihov pristup se zove kognitivna simulacija
brane . .0 njima jedva raspravljaju aktivni Iingvisti6ki iii psiholingvisticki istrazivaci." (Noam Chomsky, Language and Mind (New York: Harcourt, Brace & World, 1968), str. 4.) . 6. Language and Machines, op. cit., str. 32. 7. Najvaznije rasprave koje izvestavaju 0 obavljenom radu tokom ovog perioda sakupljene su u Edward A. Feigenbaum i Julian Feldman, ured., Computers and Thought (New York: McGraw-Hili, 1963).

44

HUBERT

L. DREYFUS

(KS) zato $<tO se opsta tehnika koju oni primenjuju sastoji u prikupljanju protokola od pojedinaca, koji se onda analiziraju kako ibi se otkrile heuristike koje koriste ovi pojedinci.s" Zatim se sastavlja program u koji se ugraduju slicna pravila, Opet nailazirno na pocetni uspeh: logiClki teoreticar Newella, Shawa i Simona, koristeci heuristicki vodenu strategiju pokusaja i greske, dokazao je 1957. godine 38 od 52 teoreme iz Principia Mathematica. Dve godine kasnije drugi Newellov, Shawov i Simonov program, opsti razresilac problema (GPS), koristeci mudriju analizu postupkasredstva-ciljevi, resio je problem .Jjudozderi i misionari" i ostale probleme slicne slozenosti.?" Godine 1961, posto isu uporedili rnasinski popis (vidi sliku 1, str, 41) sa protokolom Ii u izvesnoj meri utvrdili da oni odgovaraju jedno drugome, Newell i Simon su oprezno zakljucili:
Fragmentarno svedocanstvo koje smo dobili ohrabruje nas u misljenju da opsti razresilac problema pruza dobru prvu aproksimaciju informacione teorije izvesnih vrsta misljenja i resavanja problema. Procesi ,;misljeruja" ne mogu vise da se posrnatraju kao potpuno misteriozni.w
8. Protokol je verbalni izvestaj subjekta u procesu resavanja problema. Evo jednog tipicnog protokola nekog subjekta koji pokusava da resi jedan logicki problem: "PosmatrajuCi levu stranu jednacine, prvo~elimo da - elirniniserno jednu od strana koristeci pravilo 8. Reklo bi se da je suvise komplikovano raditi sa prvom. Sada ne, ne, ne mogu to da uradim zato sto cu eliminisati iii Q iii P u tom celokupnom izrazu. To ne zelim prvo da uradim. Sada tragarn za nacinorn da se oslobodim pctkovice koja se nalazi izrnedu dve zagrade koje se javljaju na levoj i na desnoj strani jednacinc. Ali ne vidim kako, Ah, da, ako primenim pravilo 6 na obestrane jednacine, pa cu odatle da vi dim da Ii mogu da primenim pravilo 7." (Computers and Thought, str. 282). 9. H. A. Simon, Modeling Human Mental Processes, The RAND Corporation, P-2221 (20. februar 1961), str. 15. Nije tacno da ovi problemi 'nisu bili reseni, Objavljeno je bilo nekoliko rutinskih, neheur is tickih. maternatickih algoritama koji resavaju ove i kompleksnije rutinske probleme. 10. Allen Newell i H.

Thinking, The RAND Corporation, u Science, Vol. 134 (22. decembar

A. Simon, Computer Simulation P-2276 (20. april 1961); takode 1961), str. 19. (Moj kurziv.)

of Human
objavljeno

STA RACUNARI NE MOGV

45

LO-(-Q Pi L I (R::o-P) (-RC)Qi CILl I TRANSFORM lSI L I U L 0 CILl 2 IZBACI R IZ L I CILl J PRIMENI R 8 NA L I DAlE L 2 R::o-P CILl 4 TRANSFORMISI L2UL0 CILl 5 DODAl Q NA L 2 ODBACI 2 CILl 6 PRIMENI R 8 NA L I DAlE L J -R::oQ

CIU

CILl

7 TRANSFORMISI L3UL0 CILl 8 DODAl P NA L J ODBACI 2 CILl

q

CIU

PRIMENI R 7 NA L I CILl 10 ZAMENI SVEZU SA V U LEVOM L I CILl II PRIMENI R 6 NA LEVI L 1 DAlE L4 (-RV-P) (-R",Q) 12 PRIMENI R 7 NA L 4 CILl 13 ZAMENI SVEZU SA V U DESNOM L 4 CILl 14 PRIMENI R 6 NA DESNI L 4 DAlE L 5 (-RV-P) (RVQ) CILl 15 PRIMENI CILl CILl

CILl

cn.r 16 PROMENI

R 7 NA L 5 ZNAK LEVOG DESNOG L 5 17 PRIMENI R 6 NA DESNI L 5 DAlE L 6 (-R V-Pi (-R::oQ) L(

18 PRIMENI R 7 NA L 6 CILl 19 ZAMENI SVEZU SA V U DESNOM ODBACI VISE

Cl l.J 16 NISTA

cn.r cn.r
10 NISTA

13 NISTA VISE VISE

Slika 1

46

HUBERT

L. DREYFUS

Uskoro je Simon popustio pred mnogo ushicenijim tvrdnjama:

Kasniji rad je imao tendenciju da potvrdi (nasu) pocetnu slutnju i da demonstrira kako heuristike Hi iskustvena pravila formiraju integralno jezgro ljudskih procesa u resavanju problema. Kada srno poceli da shvatamo prirodu heuristi'kakoje ljudi koriste u misljenju, misterija pocinje da ,iscezava iz takvih (dosada) nejasnoshvacenih procesa, kao sto su "intuicija" i "rasudivanje".l1

Ali, kao st.o smo videli na primeru prevodenja jezika, teskoce se, na veoma neugodan nacin, ponovo potvrduju, Ovog puta se .misterlja" rasudivanja ponovo pojavljuje U organizacionim aspektima programa za resavanje problema. Jos 1961. godine u jeku Simonovog ushicenja, Minsky je uvideo teskoce koje mogu da budu prisutne u primeni tehnika pokusaja-i-greske na stvarno slozene probleme:
Najprostiji problemi, kao igranje mica ili dokazivanje najjednostavnijih teorema Iogike, mogu da se resavaju prostom rekursivnom primenom svih raspolozivih transformacjja na sve situacije koje se dogadaju, resavajuci probleme onim redom kakvim se radaju, Ovo postaje neprakticno kod slozenijih problema posto se prostor, koji treba pretraziti, prosiruje, a svaki pokusaj postaje skuplji u pogledu vremena i napora. Niiko vise ne moze bez ozbiljne stete da podnese politiku napustanja jednog neuspesnog pokusaja da bi se preslo na drugi. Jer svaki pokusaj resavanja teskog problema zahtevace mnogo napora tako da moramo da budemo sasvim sigurni da, bez obzira na ishod, napor nece biti sasvim uzaludan. Moramo biti selektivni do te mere da nijedan pokusaj ne cinimo bez nuzde ... 12

avo, tvrdi Minsky, pokazuje potrebu za programom planiranja, ali kao sto on dalje Istice:
11. H. A. Simon, op. cit., str. 12. 12. Marvin Minsky, "Descriptive Languages and Problem Solving," Proceedings of the 1961 Western Joint Computer Conference; prestampano U Semantic Information Processing, Minsky, ured. (Cambridge, Mass., M. I. T. Press, 1969),str. 420.

!'iTA RACDNARI NE MOGD

47

Metodi planiranja ... prete da propadnu kada utvrdeni nizovi kategorija, koje su adekvatne za proste probleme, moraju da se zamene izrazima deskriptivnog jezika.v

U elanku "Neki problemi osnovne organizacije programa za resavanje problema" (decembar 1962), Newell diskutuje 0 nekim problemima koji nastaju u organizovanju .sahovskog programa, logickog teoreticara i narocito GPS-a sa iskrenoscu retkom u toj oblasti, a priznaje da je "veCina (ovih problema) do izvesnog stepena neresiva bilo u potpu:nosti, bilo zato sto su usvojena resenja jos uvek nezadovoljavajuca na ovaj ili na onaj nacin."> Ne postoji nikakav izvestaj 0 daljem napredovanju ka uspesnoj hijerarhijskoj oganizaciji heuristickih programa. (Znacajno je da Wangov (Vong) program dokazivanja teorema, koji predstavlja najvece dostignuce u oblasti mehanidkog dokazivanja teorema, a i koji dokazuje za manje od pet minuta sve 52 teoreme po izboru Newella, Shawa i Simona, me koristi heuristike). Javno priznanje da je GPS potpun promasaj doslo je, medutim, mnogo kasnije. Godine 1967, na desetogodisnjicu Simonovog predvidanja, Newell (i Ernst) su trezveno, mirno i nekako dvosmisleno najavili da se GPS napusta. Predgovor njihovog clanka otkriva O[lU jedinstvenu mesavinu lutanja i optimizrna koju smo poceli da prepoznajemo kao karakteristiku ove oblasti:
Na nekoliko mesta u tekstu koristili smo izraz "konacni". To ne ukazuje ni na kakvo osecanje da ovaj dokument oznacava kraj naseg istrazivanja 0 opstim razresiteliima problema; istina je sasvim nesto suprotno, Ipak, stvarno osecamo da bi ovaj konkretni agregat koda IPL-V trebalo ostaviti na miru.w
13. Ibid., str. 420. 14. Allen Newell, Some Problems of Basic Organization in Problem-Solving Programs, The RAND Corporation, RM-3283-PR (decembar 1962), str. 4. 15. G. W. Ernst i A. Newell, Generality and GPS, Carnegie Institute of Technology, januar 1967, str, I,

48

HUBERT L. DREYFUS

Da se GPS srusio pod tezinom sopstvene organizacije postalo je jasno kasnije u monografiji. Odeljak pod naslovom "Istorijat GPS-a" zakljucuje:
Jedno od ozbiljnih ogranicenja ocekivanog ponasanja GPS-a su program i velicina njegove prilicno komplikovane strukture podataka. Sam program zauzima znacajan deo racunarske memorije, a generiranje novih struktura podataka tokom resavanja problema brzo iscrpljuje ostatak memorije. Tako je GPS jedino konstruisan za resavanje skromnih problema cije predstavljanje nije suvise slozeno. Mada bi vece racunarske memorije ublazile ekstravagantnosti GPS-ove upotrebe memorije, i dalje bi ostale koncepcijske teskoce.ts

Ova kriva uspeha, od optimizma do neuspeha, mogla bi da se sledi u minijaturi i u slucaju Gelernterove masine za geometrijske teoreme (1959). Njen pocetni uspeh sa teoremama, kao pons asinorum, dao je povoda da se prvo predvidanje diskredituje u potpunosti, UClanlkru objavljenorn 1960. godine Gelernter objasnjava heuristiku svog programa i onda zakljucuje: "Pre tri godine dominiralo je misljenje da geornetrijska masina danas nece postojati. A danas, tesko da ce neki ekspert osporiti tvrdenje da ce kroz tri godine masine dokazivati interesantne teoreme u teorijibrojeva," sto znaci 1963. godine.P Posle toga nije se vise ni rec cul a od Gelerntera, niti je hila daljeg napretka u cisto mehanickoj matematici. Ne postoji izrazitiji primer 0 .zapanjujucem" pocetnom uspehu i isto toliko zapanjujucern neuspehu koji ga je sledio. '
RASPOZNAV ANJE OBLIKA

o ov.oj oblasti se diskutuje na kraju zato sto razresenje teskoca, lkoje su zaustavile razvoj u igranju
16. Ibid., str. 45. 17. H. Gelernter, J. R. Hansen i D. W. Loveland, "Empirical Explorations of the Geometry-Theorem Proving Machine," u Computers and Thought, str. 160.

sTA RAcUNARI

NE MOGU

49

igara, prevodenju jezika i resavanju problema, pretpostavlja uspeh u oblasti raspoznavanja oblika (koja opet pati od svih onih teskoca koje se srecu u drugim oblastima). Kao sto Selfridge (Selfridz) i Neisser (Nejser ) istiou III svom dclasicnom clanku .Raspoznavanje oblika pomocu masine",
covek je neprekidno izlozen bujici podataka kojim ga zasipaju njegova cula i iz takve bujice on izvlaci oblike re1evantne za njegovu trenutnu aktivnost, covekova sposobnost da resava probleme, da dokazuje teoreme i uopste da ziv! svoj zivot, zavisi od ovog tipa percepcije. Mi smatramo da ce dostignuca u rnehaniokom resavanju problema ostati izolovani trijumfi tehnike sve dok se ne razviju programi za raspoznavanje oblika,"

Kao i obicno u pocetku je rad bio izvrstan. Na primer, grupa iz Laboratorije .Linkoln" pod vodstvom Bernarda Golda (Bernard Gold) izradila je program za transkribovanje Morzeovog koda emitovanog rucnim odasiljanjem, Kasnije su napisani programi za prepoznavanje ogranicenog niza rukom ispisanih reci Jstampanih znakova raznih tipografskih vrsta. Svi oni rade tako sto traze unapred odredene topoloske karakteristike znakova koje treba prepoznati i uporeduju ove karakteristike sa zadatim iii naucenim "definicijama" svakog slova preko ovih karakteristika. Trtk se sastoji u nalazenju relevantnih karakteristicnih crta, s1:oznaci, onih koje ostaju general no nepromenljive pri svim varijacijama velicina i orijentacija. Ovakav rpristup je bio iznenadujuce uspesan tamo gde raspoznavanje zavisi od malog broja specificnih crta. Ali, nijedan od ovih programa ne cirri proboj u raspoznavanju oblika, Svak i program je jedan mali inzenjerski tr'ijumf, jedno ad hoc resenje specificnag problema bez opste prirnene. Murray Eden (Marej Idn), koji je najvise ucinio na raspoznavanju
18. Oliver G. Selfridge i Ulric Neisser, "Pattern Machines," u Computers and Thought, str. 238. Recognition by

50
oblika, rezimirao je situaciju nacin:

HUBERT L. DREYFUS

1968. godine na ovaj

Tamo gde je bilo uspeha u izvrsavanju zadataka raspoznavanja oblika pomocu mehanickih sredstava, ti uspesi su pocivali na pravilima propisanim ad hoc u doslovnom smislu te reci, sto znaci, uspesni rnetodi pouzdano klasifikuju onaj odredeni skup oblika za kojisru metodi razvijeni, ali verovatno nece imati neku znacajniju vrednost za klasifikovanje bilo kakvog drugog skupa obllka.w

Cak i u ovim posebnim slucajevima, kao sto su primetili Selfridge i Neisser, "covek-programer je jedini nacin na koji masina moze da dobije adekvatan skup karakteristicnih crta."20 Tako su oni zakljucili svoj pregled 10 toj oblasti, pre s nekim izazovom, nego s nekim predvidanjem:
Najvazni]! od svih proeesa ucenja JOS nije ni dotaknut: nijedan postojeci program ne moze da generira sopstvene probne karakteristicne erte. Uspesnost svih programa zauvek je ogranicena ingenioznoscu ili prolzvoljnoscu njihovih programera. Jedva mozemo da nagadamo na koji ce nacin ova restrikcija moci da se prevazide, Sve dotle "veStacka inteligencija" ce ostati obojena smicalicarna.u

Medutim, cak i ovakve opaske mogu da budu preterano optimisticke u svojim pretpostavkama da se sadasnji problem sastoji u generiranju karaloteristicnih crta. Relativni uspeh Uhr-Vosslerovog (Ur-Vosler) program a koji generira i procenjuje sopstvene orperatore, pokazuje da je ovaj problem delimicno resiv." Ali, dokle god raspoznavanje bude
19. Murray Eden, "Other Pattern-Recognition Problems and Some Generalizations," u Recognizing Patterns: Studies in and Automatic Systems, Paul A. Kolers i Murray Eden, ured. (Cambridge, Mass., M. I. T. Press, 1968),str. 196. 20. Selfridge i Neisser, op . cit., str. 244. 21. Ibid., str. 250. 22. Leonard Uhr i Charles Vossler, "A Pattern-Recognition Program that Generates, Evaluates, and Adjusts its own Operations", u Computers and Thought, str. 251.

~TA RACUNARI NE MOGU

51

zavisilo od ogranicenog skupa karakteristicnih erta, bilo ad hoc Ili uopste, mehanicko raspoznavanje nece moci da ide dalje od tacke do koje je dospelo. Ogranicen je broj erta koje mogu da se pregledaju u nekom razumnom iznosu vremena, a sadasnji programi su vee dostigli ovu tehnolosku granicu. U predavanju odrzanom na internacionalnom skupu na Havajima 0 metodologijama raspoznavanja obli!ka (1968), Laveen Kanal (Lejvin Kenl) i B. Chandrasekaran (B. Candrasikaran) rezimirali ISU taj corsokak na sledeci nacin:
Ocigledno je da IDienjerski pr'Lstup ima ugradena ogranicenja, Postoji izvestan nivo slozenosti iznad ko!jeg inzenjerskd. trikovJ ne uspevaju da pruze vezultate, Tako, na primer, dok se poznavanje cak i razlicitih tipova starnpanih znakova resava na zadovoljavajuci nacin, raspoznavanjerukopisa prkosi svirn pokusajirna. Slicno ovorne, izgleda da postoji veliki raspon izmedu raspoznavanja izolovanog govora i kontinualnog raspoznavanja govora. I oni koji su se nadali da ce modelovati ldudske procese raspoznavanja, isto su ta!ko dospeIi u corsokak, Verovatno je da su probIemi, za koje su Inzenjeri utvrdili da ih je tesko resavati, stalno oni problemi koji treba da sacekaju detaljnije shvatanje ljudskog sistema raspoznavanja. U svakom slucaju, ova osecanja krize intimno se odnose i na one iz drugih podrucja vestaoke inteligencije: igranje igara i mehani6ko prevodenje,w

Ponovo nailazimo na isti onaj oblik optimizma iza koga sledi razocarenje, Cesto oni koji su razocarani cak i ne shvataju zasto su izgubljene njihove nade i zasto njihova pitanja ostaju nesaslusana usred obecanja i nagovestaja malih tehnoloskih uspeha. Jedan od disidenata je i Vincent Giuliano (Vinsent Dulijano ), bivsi clan korporacije "Arthur D. Little". Da je Giulliano irnao bolji i detaljniji uvid u stvari koje su isle lose, on bi bio jedan Oettinger Hi Bar-Hillel na polju raspoznavanja oblika.
23. Laveen Kana! i B. Chandrasekaran, "Recognition, Machine Recognition and Statistical Approaches," Methodologies of Pattern Recognition (New York: Academic Press, 1969), str. 318, 319.

52

HUBERT

L.

DREYFUS

KaD i mnogi od rnojih kolega, vatreno sam sledio puteve razvoja onog MD smo ponekad nazivali vestackom inteligencijom '" sredinom pedesetih godina rnnogi arnbiciozni istrazivacki projekti lansirani su sa ciljem jasnog demonstriranja racunarskih sposobnosti ucenja kako bi mogli idiomatski da prevode, da vode slobodnu i prirodnu konverzaciju sa ljudima, da raspoznaju govor i da ga stampaju, da daju dijagnozu bolesti. Svaka od ovih aktivnosti podrazumeva otkrivanje i ucenje slozenih oblika, Sarno, pre nekoliko godina stvarno smo verovali da bi konacno racunarima mDgID da se poveri izvrsenje zadatka resavanja takvih problema, samo ako bismo mogli da pronademo pravi kljruc za takvo njihovo delovanje. Avaj! Osecam da su mnogi ciljevi kojima smo tezili sarno jaja od porcelana: nikada se nista iz njih nece izleci, bez obzira na toplotu kojorn ih okruzujemo, zato sto oni zahtevaju otkrivanje oblika iskljucivo od strane masine. Zadaci otkrivanja zahtevaju ljudske kvalitete.s-

ZAKLJUCAK Sudeci na osnovu rezultata objavljenih do 1962. godine, jedan opsti sablon poceo je da dobija oblik, mada se u nekim slucajevima nije raspoznavao sve donedavno: u pocetku je drarnatican uspeh bio zasnovan na lakom izvodenju prostih zadataka ili u radu na slozenim zadacima niskog kvaliteta, a potom su nastali mali obrti. razocaranja, au nekim slucajevima i pesimizam. Ovaj sablon nije rezultat jednog prekomernog entuzijastickog pritiska skepticki raspolozenih autsajdera koji su zahtevali premnogo za suvise kratko vreme. Neuspeh se odmerava sarno prema ocekivanjima onih koji su radili na tom polju. Medutim, kada ise situacija zaostri, entuzijaste uvek mogu da pribegnu :sopstvenom optimizmu. Tendencija da se dugorocni programi zamene operativhim, izmigoljila se Feigenbaumovoj 'i Feldmanovoj tvrdnji po kojoj je "prognoza za napredak u Istrazi24. Vincent E. Giuliano, "How We Find Patterns," Science and Technology (februar ,1967),str. 40. International

STA RACUNARI NE MOGU

53

vanju Ijudskih kognitivnih procesa ohrabrujuca.J''" Prognoza je uvek postojala, ali se treba zapitati, koliko su ohrabrujuce perspektive? Feigenbaum i Feldman tvrde kako se zaista ostvaruje opipljiv napredak, a napredak su vrlo pazljivo definisali kao "pomeranje prema krajnjem cilju."26 Prema ovoj definiciji, prvi covek koji se popeo na drvo mogao je da polaze pravo na opipljiv napredak u pravcu dosezanja meseca. Umesto slepog penjanja, bolje je gledati kuda se ide. Doslo je vreme da se do detaIja prouce specificni problemi s kojima je suocen rad na vestackoj inteligenciji, kao i teskoce koje ti problemi otkrivaju.

II. OSNOVNI ZNACAJ NEUSPEHA U POSTIZANJU PROGNOZIRANIH REZULTATA I negativni rezultati mogu da budu interesantni pod uslovom da ih raspoznamo kao takve. Mozda umanjeno dostignuce, umesto prognoziranog ubrzanog napretka, nagovestava neki neocekivani fenomen. Mozda se probijamo u nekom kontinuurnu kao sto je brzina, gde dalje ubrzanje staje sve vise i vise energije ukoliko se primicemobrzini svetlosti, ili smo mozda, umesto toga, suoceni sa diskontinutetom koji ne zahteva veci napor, vee sustinski drukcije tehnike, kao u slucaju coveka koji se popeo na drvo i pokusava da stigne do meseca. Izgleda prirodno da se na ovom mestu otpocne sa procenjivanjern ove oblasti, mada je cudno sto niko to jos nije ucinio. A da je to neko ucinio, uvideo bi da svako od cetiri razmatrana podrucja podrazumeva jednu specificnu formu ljudske "obra25. Feigenbaum and Feldman, Computers 26. Ibid., str. vi. and Thought, str. 276,

54

HUBERT

L. DREYFUS

de informacija", koja omogucava ljudima da u tom podrucju izbegnu one teskoce s kojim mora da se succi jedan vestacki "su'bjekt". U ovom odeljku izdvojicemo ova cetiri oblika ljudske "obrade informacija" i suprotstaviti ih njihovim masinskim surogatima.
MARGINALNA SVEST PREMA HEURISTICKI VODENOM PRETRAzIVANJU

Opste je poznato da izvesne igre mogu da se resavaju na danasnjim racunarima i sa danasnjim tehnikama - igre sa zetonima i mice mogu da se programiraju tako da masina svaki put dobija ili zavrsava igru nereseno. Medutim, ostale igre na danasnjim racunarima ne mogu da se resavaju na ovakav nacin, premda su uspesno programirane. U igri dama, na primer, ispada da postoje pouzdani nacini za odredivanje verovatne vrednosti nekog poteza na osnovu izvesnih parametara, kao sto su kontrola centralne pozicije, preimucstvo, i tako dalje. Sve ovo i jos Cinjenica da postoji relativno malo poteza posto figure blokiraju jedna drugu i iznuduju zarobljavanje, omogucava ispitivanje svih plauzibilnih poteza do dubine od svih dvadeset poteza, koji se pokazuju kao dovoljni za izvrsnu igru. Kod saha, medutim, koji moze da se resi prebrojavanjem svih mogucih poteza i odgovora na njih, iskrsava problem neminovno vezan za lavirinte izbora: eksponencijalnirast. Alternativne staze se tako brzo umnozavaju da ne mozemo cak ni da preispitamo sve mogucnosti grananja dovoljno duboko da bismo formiraIi jedan pouzdan sud 0 tome, da Ii data grana pruza dovoljno obecanja i da Ii zasluzuje dalje ispitivanje, Newell primecuje da bi pronalazenje nekog interesantnog poteza zahtevalo suvise vremena ako masina treba redom da ispita moguce poteze svake od figura na tabli, On je isto tako svestan ci-

STA RACUNARI NE MOGU.

55

njenice da, ako masina to ne uradi, ona moze da ispusti neku vaznu i originalnu kombinaciju, "Mi ne zelimo da masina sve svoje vreme provede u ispitivanju buducih ljudskih akcija; pa ip alk, ako to ne bi cinila, mogla bi da previdi realne prilike."27 Prvo Newellovo resenje je bilo "slucajni element": "Masina hi retko (sto znaci, povremeno) tragala za kombinacijama koje zrtvuju kraljicu.T" Ali, ovo resenje je nezadovoljavajuce, Kao sto sada, po svoj prilici, i sam Newell shvata. Masina ne treba sarno povremeno da traga za zrtvom kraljice, vee pre da traga za onim situacijama u !kojima bi takva zrtva bila relevantna. Pretpostavlja se da je to one sto obezbeduju prave heuristike, ogranicavajuci broj grana koje se ispituju, ali zadrzavajuci alternative koje vise obecavaju. Sarno, dosad nije pronadena nijedna heuristika na majstorskom nivou igre. Sve sadasnje heuristike iii iskljucuju neke poteze, lkoje hi majstori izmislili, iii ostavljaju otvorenim rizik eksponencijalnog rastao Iz razloga 0 kojima ce se raspravljati u II delu, Simon je ipak ubeden u cinjenicu da sahovski majstori koriste takve heuristike, pa "je tako uveren da cemo, slusajuci njihove protokole, prateci pokrete njihovih ociju, ispitujuci ih rnozda pod jakim osvetlj enj em, eventualno otkriti takve heuristike i ugraditi ih u nas program - a time potkresati i eksponencijalno drvo. Ali, ispitajmo poblize dokaze da je igranjesaha vodeno upotrebom heuristike. Razmotrimo sledeci protokol koji mavodi Simon, narocito uocavajuci kako on pocinje, a ne kako se zavrsava. Ispitivana osoba kaze:
27. Allen NeweJl, "The Chess Machine," u The Modeling of Mind, Kenneth M. Sayre i Frederick J. Crosson, ured. (South Bend, Ind: Notre Dame University Press, 1963), str. 80. 28. Ibid., str. 80,

56

HUBERT

L. DREYFUS

Ponovo primecujem da jedna od njegovih figura top, nije branjena i da moraju postojati nacini da se tu stekne preimu6stvo. Pretpostavimo sada, ako pesakom napadnem lovca, i ako se lovac povuce.vda ja dajem sah kraljicom i onda rnogu da osvojim top. Ako, itd., itd.29

, Na kraju Imamo primer za one sto ja zovem ,;prebrojavanje" - procenjivanje raznih mogucnosti pomocu grubog nabrajanja. Svi smo mi upoznati s ovim procesom za koji se pretpostavlja da, voden podesnim heuristikama, omogucava igru sahovskim majstorima. Ali kako je nas ispitanik primetio da je suparnikov top nebranjen? Da li je on uzastopno ispitao (iIi simultano) svaku od suparnikovih figura i njihove moguce branioce, dok nije naisao na ranjivog topa? Ovo bi zahtevalo veoma mnogo procena kao sto primecuju Newell, Shaw i Simon: "Najbolji podaci sugerisu da igrac ispituje nesto manje od 100 pozicija u anaIizi jednog poteza,"30 a nas igrac mora da ispita jos mnogo pozicija u proceni situacije, kada je jednom otkrio nebranjeni top. Ne moramo da pribegnemo samoispitivanju da bismo otkrili sta u stvari neki igrac cirri pre nego sto pocne da prebrojava; sam protokol to pokazuje: ispitanik se usredsreduje na povoljnu situaciju ("Primetio sam da jedna od njegovih figura nije branjena"). Igrac pocinje da prebrojava, da proverava sta moze da ucini tek posto se usredsredio na neko podrucje. Jedna analiza Macl-lackovogprograma, ikoju je napisao Richard Greenblatt, ilustrovace ovu razliku izmedu nacina na koji covek procenjuje poziciju i grubog prebrojavanja Ikoje vrsi masina. Cak ni MacHack ne hi mogao da ispita svaku alternativu. Program sadrzi generator plauzibilnih poteza koji og29. Thinking, 30. Problem Allen Newell i H. A. Simon, Computer Simulation of Human The RAND Corporation, P-2276 (20. april 1961), str. 15. Newell, Shaw and Simon, "Chess-Playing Programs and the of Complexity," u Computers and Thought, str. 47,

STA RACUNARI NE MO.GU

57

ranicava analizu poteza na one koji vise obecavaju. Ipak je u jednoj tezoj situaciji, u toku turnira, Greenblattov program jednom racunao punih petnaest minuta i analizirao 26,000 poteza, dok zlvi igrac moze da razmotri sarno 100 ili mozda 200 poteza. MacHack je dosao do jednog izvrsnog poteza, sto ne znaci daga neki majstor ne bi odigrao cak i bolje; ali, ono sto je ovde znacajno nije kvalitet poteza, vee razlika izmedu 26,000 i 200 mogucnosti, Ova razlika navodi na pomisao da, kada igrajusah, ljudi cine nesto sto ne moze da se svede sarno na razmatranje alternativa, pa je interesantno pitanje: sta to oni cine sto im omogucava da, analizirajuci 100 ili 200 alternativa, pronadu briljantnije poteze od racunara koji analizira 26,000 alternativa? Zivi igrac, ciji protokol ispitujemo, nije svestan da je eksplicitno razmotrio ili eksplicitno iskljucio iz razmatra:nja neku od stotinak mogucnosti koje je trebalo nabrojati da bi se prebrojavanjem doslo do odredenog relevantnog podrucja na tabli. Pri svem tom, odredeni deo table, koji privlaci paznju ispitanika, zavisi od celokupnog stanja igre. Da bismo razumeli kako je ovo moguce moramo da razmotrimo ono Mo je William James (Vilijem Dzejms) nazvao "rubovima svesti": jednostavan primer za ovu vrstu marginalne svesti jeste kucanje casovnika koje primecujemo tek onda kada on prestane da otkucava. Nasa maglovita svest 0 licima u gomili kada trazimo prijatelja drugi je, ali slozeniji i prikladniji slucaj. Ipak, dok nagovestavamo neku alternativu eksplicitnoj svesti 0 prebrojavanju, nijedan primer nije potpuno prikladan. Slucaj sa sahom je najshvatljiviji posredstvom Michael Polanyievog (Majkl Polani ) opsteg opisa sposobnosti rubova svesti da koncentrisu informacije koje se ticu naseg perifernog iskustva.

58

HUBERT L. DREYFUS

Ova sposobnost se nalazi u podrucju koje nastoji da funkcionise kao pozadina, zato sto se neodredeno proteze oko centralnog predmeta nase paznje, Ovo podrucje, videno uglom aka ili upamceno u pozadini naseg uma, prisilno utice na nacin na koji vidirno predmet na koji smo usredsredeni, Zaista mozemo da idemo toliko daleko pa da kazemo da smo svesni ovog uzgred primecenog podrucja, uglavnom kada 5e pojavljuje predrnet na Ikoji smo se usredsredili.w"

Na primer, kada je nekom poznata meka kuca, njemu procelje izgleda deblje od fasade zato sto je marginaLno svestan kuce u pozadini. Slicno je u sahu gde inditkacije scitave table privlace paznju na izvesne sektore koji ili obecavaju, ili su opasni, ili su prosto vredni pazljivog promatranja, iako ostaju na rubovima svesti. Kao sto Newell i Simon beleze:
Postoje pojmovi u igri saha koji su mnogo globalniji od onih gore opisanih: na pnimer, "razvijena pozicija", "kontrola centra",,,dobijena pozicija", "slabo kraljevo krilo", .zatvorena pozicija",»

Stavise, oni dozvoljavaju

da:

31. Michael Polanyi, "Experience and Perception of Pattern," u The Modeling of Mind, sir. 214. Onoliko koliko je meni poznato, Frederick Crosson je bio prvi koji je uocio vaznost gestalt-analize u oblasti vestacke inteligencije. U predgovoru za The Modeling of Mind on pise: " ..• Neke Ijudske funkcije ponekad se izvrsavaju korisccnjem informacija iIi signala koje ne sledimo bas eksplicitno iIi fokalno, a ovo izgleda da oznacava fundamentalnu razliku izmedu takvih funkcija i procesa koji se simuliraju pomocu automata. Razlog ovoj razlici treba trazitl u tome sto su digitalni racunari koji se upotrebljavaju kao modeli po prirodi svojoj binarni. Kao posledica proizlazi da funkcija koju masina moze da proizvede ... mora da bude u svakoj fazi, sve-Ill-nista, tj. dovoljno specificna i eksplicitna kako bi odgovor mogao da glasi .,da' iii ,ne'" (str. 21). Medutim, Crosson nije protumacio osobenosti i funkcijn ove nefokalne forme svesti, tako da ostaje nejasno da Ii bi prema njegovom shvatanju svi implicitni signali mogli, u principu, da se ucine eksplicitnim i sta bi se izgubilo, ako bi se uopste nesto izgubilo, u nekommodelu koji ima posla same sa eksplicitnim signalima.

of

32. Newell i Simon, An Example of Human Chess Playing Programs, Carnegie Institute 1964, str. 10--11.

Chess Play in the Light of Technology, avgust,

STA RACUNARI NE MOGU

S9

Ponekad de Grootov subjekt koristi veoma globalne fraze kao sto su "... to je dobijena pozicija za belog", gde nije moguce sagledati koja struktura ili karakteristika poziciie vode toj proceni=

Ovim, u stvari, Newell i Simon kazu da oni ne vide nacin kako bi se analizirala procena celokupne pozicije pomocu heuristicki vodenog prebrojavanja, I razborito, ali Izgleda ne shvatajuci sta to znaci za plauzibilnost Simonovih predvidanja, Newell i Simon nastavIjaju:
Do danas rad na sahovskim programima nije bacio mnogo nove svetlosti na ove pojmove viseg nivoa.w"

Ovde je stav Newella i Simona tipicno dvosmislen. Da Ii oni misle da bi boIji staticki procenjivaci sto znaci, bolje heuristike za generiranje plauzibilnih poteza - mogli da simuliraju usredsredivanje, Da oni stvarno na to misle sugerise nam njihovo neprekidno verovanje u mogucnost mehanickog sahovskog majstora. Ipak, njihova analiza majstorske igre, zasnovana na radu de Groota, pruza osnove za pesimizam. (Kao sto smo primetili, sam de Groot kaze da se on ne nada u sustinsko poboljsanje heuristickih sahovskih programa.) Newell i Simon kazu da je:
De Groot konacno uspeo u izdvajanju jakih od slabih igraca koristeci testove opazanja koji zahtevaju od igraca da reprodukuju sahovske pozicije, posto su irn stavljene na uvid jedno kratko vreme (3 -7 sekundi). Velemajstor je bio sposobanda savrseno reprodukuje pozicije, a ucinak je prilicno opadao sa smanjenjem sahovske sposobnosti igraca. De Groot je dosao do zakljuoka da su sposobnosti opazanja i organizacija vazni faktori u svakoj dobroj igri.35
33. Ibid., str. 13. (Moj kurziv). 34. Ibid., str. 11. Newell i Simon nastavljaju: "Opstije govoreci, psihologija je imala malo da kaze 0 tome kako globalni pojrnovi organizuju ponasanje." Naravno, ovo je neverovatno provincijalno. Gestalt psihologija upravo 0 tome i govori. Ono sta Newell i Simon zele da kazu jeste da ona vrsta psihologije koju oni pretpostavljaju, tj. vrsta psihologije koja koristi masinski program kao svoj model objasnjenja, nerna nikakvih mogucnosti da se bavi takvim gIobalnim proccsima. 35. Ibid., str, 14.

60

HUBERT

L. DREYFUS

Uclanku 0 kome smo vee raspravljali, sahovski majstor Hearst je dalje abjasnio proces opazanja i razloge zbog kojih on prkosi programiranju:
Ocigledno je da majstor opaza raspored u krupnijirn jedinicama, kao sto je struktura pesaka i figura koje saraduju . ;. Kada on napravi neku gresku, cesto je to ona greska pri kojoj se stavlja figura na neko veoma pozeljno polje za raj tip pozicije.w

Hearst rezimira svoje glediste na sledeci nacin:

Zbog toga sto je iskusan igrac stekao veliki broj ranijih asocijacija, on ne predstavlja sahovsku poziciju vizuelno, kao konglomerat rasutih polja i drvenih Iigura, vee kao organizovanu strukturu (slicno "gestaltu" ili integrisanoj konfiguraciji, koju su isticali gestalt-psiholozi.P?

Prirnenjujuci ove ideje na nas prvobitni protokol, mozemo da zakljucimo da je nasem ispitaniku, poznavanje celokupne isahovske strukture i ranijih poteza ove konkretne igre, omogucilo da prepozna linije napada, slaba i jaka mesta, kao i specificne pozicije. On primecuje da je njegov protivnik verovatno ranjiv u izvesnom podrucju (bas kao neko ko je upoznat sa kucama uopste, pa odredenu kucu vidi kao da ima neku vrstu pozadine), i koncentrisuci se na to podrucje, otkriva nesticeni top. Ovaj potez vidimo kao jedan korak u razvijanju strukture, Ne postoji nijedan sahovski program koji bi rnakar i pokusao da na ovakav nacin koristi iskustvo iz neke konkretne partije. Radije se uzima iznova svaki potez, kao da je to izolovani sahovski problem koji se nalazi u knjigama. Ova tehnika je naturena programerirna, posto hi program koji prenosi informacije 0 predasnjem polozaju svake figure brzo potonuo pod teretom akumulirajucih podataka. Potreban je, u stvari, program koji selek36. Eliot Hearst, "Psychology Across the Chessboard," Psychology Today (jun 1967), str. 35. 37. Ibid., str. 37.

~TA RAcUNARI

NE MOGU

61

tivno prenosi samo ana svojstva iz proslosti koja su znacajna za sadasnju strategiju i strategiju koja se pripisuje protivniku. Ali, posto sadasnji programi uopste ne poseduju nikakvu dugorocniju strategiju, jedina alternativa je da se pretrazuju sve up ameerie informacije, bit po bit, sto bi zahtevalo previse vremena. Bez globalne svesti 0 opstim strukturama izgleda da ne postoji nacin da se izbegne problem eksponencijalnog rasta iIi heuristicka ogranicenja mogucnosti ikoje se razmatraju.s'" Posto ova globalna forma "obrade informacija", u kojoj inforrnacija ostaje na rubovima svesti iimplicitno se uzima u obzir urnes to da se razmatra eksplicitno, konstantno deluje u organizovanju naseg iskustva, onda ne postoji nikakav razlog za pretpostavku da je nas ispitanik, da bi otkrio nebranjeni top morao brzo i nesvesno da prebrojava sve dok nije naisao na ono podrucje u kome je mogao da otpocne svesno da prebrojava. Stavise, postoje dobri razlozi za odbacivanje ove pretpostavke, posto ona pre stvara probleme nego sto ih resava. Ako je nas subjekt nesvesno prebrojavao hiljade altern at iva sa briljantnim heuristikama kaiko bi dospeo do one tacke gde se usmerava paznja na taj top, zbog cega onda nije nastavio do kraja stirn nesvesnim procesom, sve dok u njegovoj svesti ne iskrsne najbolji potez? Zasto on pribegava tegobnom metodu laganog, nepodesnog i svesnog prcbrojavanja stvari u odredenoj tacki gde je ugledao top, ako je nesvesno prebrojavanje brzo i tacna? IIi ako je, s druge strane, nesvesno prebrojavanje neadekvat38. Minsky primecuje ovu teskocu, ali na osnovu pukog verovanja pretpostavlja da mora da postoji neko heuristicko resenje: "Ovo bi moglo da se postigne preko neke heuristicke tehnike koja moze da oceni relevantnost, iii preko logike koja takve konsekvence uzima u obzir. Teskoca sa logikom sastoji se u tome sto antecedensi svih propozicija moraju da sadrze neki uslov 0 stanju sistema, a za slozene sisteme ovo postaje nesavladivo. Ostale sistematske solucije tog problema izgledaju podjednako neprihvatljive. Reklo bi se da je to problem koji zahteva brzu heuristicku soluciju." (Semantic Information Processing, str. 422.)

62

HUBERT L. DREYFUS

nu verziju is tog procesa? Ova vrsta teleoloskog razmatranja - iako ne predstavlja dokaz da je nesvesna obrada nedigitalna - namece teret dokazivanja onima koji tvrde da je to tako iIi da mora tako da bude. A oni koji to tvrde nisu izneli nikakve argumente za podrsku tvrdnje. Ne postoji dokaz, introspektivan ili bihevioristicki, da je prebrojavanje jedina vrsta "obrade informacija" u sahovskoj igri i da je "sus tina zadatka pretrazivanje u prostoru eksponencijalno rastucih rnogucnosti.i's? Naprotiv, svi protokoli potvrduju da sah obuhvata dye vrste ponasanja: (1) usredsredivanje, posredstvom sveukupne organizacije opazajnog poIja na podrucje koje je prvobitno bilo na rubu svesti, a koje druga podrucja cini interesantnim, mada se jos uvek nalaze na rubu svesti; i (2) prebrojavanje eksplicitnih alternativa, Ova distinkcija jasno objasnjava pocetni uspeh i kasniji neuspeh u radu na kognitivnoj simulaciji. U svim programima igranja igara postignut je pocetni uspeh u radu na onim igrama ili delovima igara u kojima je izvodljivo heuristicki vodeno prebrojavanje: neuspeh se javlja na onom mestu gde je slozenost problema takva da je nuzno potrebna globalna svest u izbegavanju nesavladivog eksponencijalnog rasta mogucnosti koje treba prebrojati.
TOLERANCIJA DVOSMISLENOSTI U ODNOSU NA PRECIZNOST OSLOBODENU KONTEKSTA

no, u cemu se sastoji preimucstvo prelaska na sves-

Rad na igranju igara otkrio je nuznost obrade .Jnformacija" koje se ne razmatraju ili iskljucuju eksplicitno, tj., informacija na rubu svesti. Rad na prevodenju jezika bio je zaustavIjen odredenom potrebom za jednom drugom neprogramIjivom formom "obrade informacija": sposobnoscu da se re39. Newell, Shaw, and Simon, "Chess·Playing Programs and the Problem of Complexity," u Computers and Thought, str. 65.

sTA RACUNARI NE MOGU

63

savaju dvosmislene situacije, a da ne moraju da se transformisu pomocu neke precizne deskripcije. Videli smo da su Bar-Hillel i Oettinger, dva najvise postovana i najbolje informisana radnika u oblasti automatskog jezickog prevodenja, saglasni u svojim pesimisticnim zakljuccima u odnosu na mogucnosti daljeg napretka u toj oblasti rada. I jedan i drugi su shvatili da je za prevodenje nekog prirodnog jezika potrebno mnogo vise nego sto je mehanicki recnik - rna koliko bio potpun - iii sto su zakoni gramatike - rna koliko bili slozeni, Red reci u recenici ne daje dovoljno informacija kako bi I$eomogucilo masini da ona odredi koje je od gramatickihrasclanjavanja one pravo, niti okolne reci - pisani kontekst - uvek nagovestavaju koje je od nekoliko mogucih znacenja autor imao na umu. Kao sto Oettinger iznosi u diskusiji 0 sistemima za proizvodenje svih gramatickih rasclanjavanja neke recenice prihvatljive u datoj gramatici:
Do danas je zad takvih analizatora otknio daleko visi stepen legitimne sintaksicke dvosmislenosti u engleskom i ruskom jeziku nego sto je to ranije bilo anticipirano. Ovo, kao i relevantna fluidnost granica izmedu gramatickog i negramatickog, pokrece ozbiljna pitanja 0 mogucnosti delotvornih, potpuno automatskih manipulacija engleskog i ruskog, za bilo koju svrhu prevodenja iii ekstrakcije inforrnacija.w

Umesto da tvrdi da je i pored nekih izuzetaka i teskoca pocela da iscezava misterija koja okruzuje nase razumevanje jeziika, na osnovu prvobitnog ali delimicnog uspeha sa mehanickim recnikom, i kasnije, zajedno sa Kunom (Kun) i drugima na osnovu uspeha sa sintaksickim analizatorima, Oettinger, medutim, skrece paznju na "vrlo misteriozne semanticke procese koji omogucavaju vecini razumnih ljudi da u vecini slucajeva nedvosmisleno tumace vecinu razumnih recenica.l's!
40. Oettinger, op. cit., str, 26. citirano u belesci 1 gore. 41. Ibid., str, 26.

64

HUBERT L. DREYFUS

To je jos jedan primer koji pokazuje koliko je vazna marginalna svest. Ocigledno je da onaj ko koristi prirodni jezik nije svestan mnogih signala na koje odgovara, odredujuci sintaksu i znacenje. S druge strane, nista ne ukazuje na to da on nesvesno razmatra svaki od ovih signata. U stvari, dva razrnatranja sugerisu da ovi signali nisu takve vrste da bi mogli da se prihvate i razmotre pomocu sekvencijalnog, pa cak ni nekog paralelnog programa.s-" Prvo, postoji Bar-Hillelov argument, koji cemo kasnije detaljno prouciti (Poglavlje 6), po kome postoji beskonacnost mogucih relevantnih signala. Drugo, cak i da postoji ogranicen broj releva:ntnih signala podesnih za rukovanje, oni nam ne bi bili od pomoci, jer u nameri da prograrniramo neki racunar za upotrebu takvih signala u odredivanju znacenja nekog izraza, morali bismo da formalisemo sintaksicke i semanticke kriterijume pornocu striktnih pravila: mada nasa upotreba jezika, iako precizna, nije striktno odredena pravilima. Paskal je vee primetio da perceptivni duh funkcionise "precutno, prirodno, i bez tehnickih pravila." Wittgenstein (Vitgenstajn) je ovako protumacio ovu sposobnost uvidanja u slucaju jezika:
Nismo u mogucnosti da jasno opisemo pojmove koje upotrebljavamo; ne, zbog toga 5tO ne znamo njihovu realnu definiciju, vee zato 5tO za njih ne postoji nikakva realna "definicija". Pretpostaviti da mora da postoji neka definicija bilo bi-slicno pretrpostavci da, kad god se deca igraju loptom, da igraju prema striktnim pravilima.w"
42, Kod serijske obrade program se sastoji od niza operacija, a svaka zavisi od rezultata prethodnih operacija, Nekoliko takvih nizova izracunavanja simultano je predstavljeno u paralelnoj obradi. Paralelna obrada moze da se simulira pomocu nekog serijskog programa, ali ostaje vazna logicka razlika da u serijskom programu svaki korak zavisi od prethodnih, dok su u paralelnom programu operacije u svakom nizu nezavisne od operacija u bilo kojem drugom nizu. 43. Ludwig Wittgenstein, The Blue and Brown Books (Oxford, Eng.: Basil Blackwell, 1960), str. 25. Ucesnici RAND simposijuma 0 .Racunari i moe shvatanja" sugerisu psiholosku osnovu i preimudstvo karaktera

sTA RAcUNARI

NE MOGU,

65

Ljudi upotrebljavaju prirodan jezik u situacijama u kojima tete nekim ciljevima. Ovi ekstralingvisticki ciljevi, koji sami ne treba da budu precizno ustanovljeni, pruzaju neke signale koji redukuju dvosmislenost izraza onoliko koliko je neophodno za dati zadatak. Fraza kao "ostani kraj mene" moze da znaci bilo sta od "pribi se uz mene" do "ostani na rastojanju od jedne milje", u zavisnosti od cinjenice. cia li se fraza odnosi na decaka u nekoj grupi, ili na kolegu astronauta koji istrazuje mesec. Njeno znacenje nikad nije nedvosmisleno u svim mogucim situacijama, alise ono moze uvek uciniti dovoljno nedvosmislenim u bilo kojoj posebnoj situaciji kako bi se postigao naumljeni rezultat. Nasa sposobnost koriscenja globalnog konteksta da dovoljno redukujemo dvosmislenost, a da ne moramo da formalizujerno (sto znaci, da eIiminiserno svaku dvosmislenost), otkriva jednu drugu fundamentalnu formu ljudske "abrade informacija", koja pretpostavlja onu prvu. Marginalna svest uzima u obzir signale u kontekstu i verovatno neka gramatioka rasclanjavanja i znacenja koja bi morala cia budu eksplicitno iskazana u masinskom izlazu. Onda nam nas smisao za situaciju dozvoljava da iskljucimo vecinu ovih mogucnosti bez eksplicitnog razrnatranja. Mi cemo nazvati sposobnost suzavanja spektra rnogucih znacenja U onoj meri u ikojo] situacija zahteva "tolerancijom dvosrnislenosti" . Posto covekova upotreba i razumevanje recenice na prirodnom jeziku zahtevaju implicitno poznavanje recenice u zavisnosti od kontekstualne upotrebe, jedini dobar nacin da se napravi racunar koji
prirodnih jezika koji nije u skladu sa pravilima. "Bitno je da je jezik kombinatorni repertoar sa neograniceno mogucim kombinacijama cija znacenja mogu da se izvedu iz nekog konacnog skupa .pravila' koji diktiraju znacenje komponenata. (Takozvana .pravila' uce se kao nizovi odziva i sarno su delimicno podlozna forrnalizaciji.)" (M. Kochen , D. M. MacKay, M. E. Maron, M. Scriven, i L. Uhr, Computers and Comprehension, The RAND Corporation, RM-4Q65-PR (april 1964), str. 12.)

66

HUBERT

L. DREYFUS

bi mogao da razurne i prevodi neki prirodan jezik, kaosto je Turing posumnjao, sastoji se u tome da se on programira da uci 0 svetu. Bar-Hillel primeouje: "Ne verujem da ce masine, ciji irn programi ne omogucavaju da uce, u najslozenijern smislu ove reci, ikada biti sposobne da konzistentno daju prevode visokog kvaliteta."44 Kada ponekad entuzijaste vestacke inteligencije priznaju teskoce s kojima se suocava sadasnja tehnika, pribegavanje ucenju je omiljena panacea. Na primer, Seymour Papert iz M. 1. T.nedavno je tvrdio kako niko ne rnoze da ocekuje od masina .da se ponasaju kao odrasli ljudi, osim ako se prvo nauce, a ono sto je potrebno to je masina sa detinjom sposobnoscu za ucenje, Medutim, ovakav potez, kao sto cemo videti, sarno izbegava problem. . U oblasti ucenja jezika jedini interesantan i uspesan programie Feigenbaumov EPAM (Elementarni opazalac i pamtitelj ). EPAM simulira ucenje vezivanja besmislenih slogova, koje Feigenbaum zove uprosceni slucaj verbalnog ucenja." Medutim, interesantan podatak 0 ucenju besmislenih slogova sastoji se u tome sto to uopste nije slucaj ucenja [ezika. Uciti da se asociraju besmisleni slogovi, u stvari je ucenje slicno Pavlovljevom uslovnom refleksu. Eksperimentator moze da prikazuje "DAX", pa onda "JIR", Ili moze da upali crveno a potom zeleno svetlo: pod uslovom da su takva dva dogadaja dovoljno cesto asocirana, svako ce nauciti da anticipira dmgi alan para. U takvorn eksperimentu podrazumeva se da je subjekt u potpunosti pasivan, U izvesnom smislu on stvarno riista i ne uci, vee se s njim nesto radi. Da li je taj subjekt ddiot, dete ili odrastao covek, u idealnom slucaju je potpuno svejedno ako se radi 0 ucenju besmislenih slogova. Ebbinghaus (Ebinghauz), je krajem devet44. Bar-Hillel,

op, cit., str.

IDS, 106, citirano

u belcsci

2 gore. Beha-

45. Edward Feigenbaum, "The Simulation vior," u Computers and Thought, str. 298.

of Verbal

Learning

sTA RACUNARI NE MOGU

67

naestog veka, preporucio ovakav nacm uslovljavanja sarno da bi eliminisao bilo kakvu upotrebu grupe reci sa znacenjem iii pozivanje na kontekst prethodno naucenih asocijacija. Nije cudno sto se protokol subjekta i masinski grafiJk skoro potpuno poklapaju u ovoj oblasti. Ali, to je sumnjiv trijurnf: jedini uspesan primer kognitivne simulacije simulira proces koji ne obuhvata poimanje, pa tako i nije istinski kognitivan. Ono sto je sadrzano u ucenju jezika mnogo je komplikovanije i misterioznije od uslovljenog refleksa koji je sadrzan u ucenju asociranja besmislenih slogova. Da bismo nekoga naucili znacenju neke nove reci, ponekad mozemo da pokazemo predmet koji ta rec dmenuje. Avgustin u svojim Ispovestima i Turing u svom clanku 0 masinskoj inteligenciji pretpostavljaju da je ovo nacin na ikoji deca uce jezik. Ali, Wittgenstein istice cinjenicu da, ako jednostavno pokazemo sto i kazemo .arirk", dete nece znati da li se ta rec odnosi na boju, velicinu, oblik stola, na vrstu predmeta ili na pravo ime tog predmeta. Ako dete vee koristi jezik, mozemo da kazemo da ukazujemo na boju; ali ako ono jos ne koristi jezik, kako cemo se onda uopste pomaci s mesta? Wittgenstein nudi resenje prema kome dete mora da bude uvuceno u "obIik zivota" u kome ono deli bar neke ciljeve i interese sa svojim uciteljern, tako da uzajamna aktivnost pomaze ogranicenju moguce referencije reci koje se upotrebljavaju. Dakle, cemu bi mogla da se nauci masina? Ovo je ocigledno ono sto se dovodi u pitanje u jednoj od nekoliko ozbiljnih prirnedbi na rad u oblasti vestacke inteligencije, koje je izneo jedan od aktivnih radnika u toj oblasti. A. L.Samuel (A. L. Semujuel), koji je napisao proslavljeni program za igru dama, izneo je argument da masine ne mogu da budu inteligentne zato sto su u stanju da rade sarno ono sto im se naredi. Minsky odbacuje ovu zamerku sa napomenom da mogu da nas iznenade sposobnosti

68

HUBERT L. DREYFUS

nasih masina." Ali, Samuel je svakako svestan ove cinjenice posto ga je pobedio njegov sopstveni program u igri dama. Verovatno on misli na nesto drugo; na to da masini mora da se zada program kojirn rnoze da pobedi u drukcijem smislu nego sto se dec a uce da igraju igru dama. Ako je ovo njegova odbrana, njemu je vee odgovorio Michael Scriven. Scriven tvrdi da "kon:s1muktor ugraduje nove strategije u racunar ... u istom metaforicnorn smislu u ikome mi ugradujemo u naslll decu sve ono sto 'Dna postizu III kasnijem zivotU."47 Pa ipak, Samuel me treba da dopusti da ga kinje ni filasofi niti rijegove kolege. Podaci se zaista ugraduju u masinu, ali se to cini na nacin koji se sustinski razlikuje od nacina na koji se deca uce, Videli smo da ucenje jezika ndje i, kao sto cerno videti u Poglavlju 6, ne moze da bude precizno definisano. Nasi pokusaji da nekoga ucirno znacenju moraju da budu oslobodeni dvosmislenosti i asimilovani ucescem zajednickog konteksta. Wittgenstein razmatra ovo pitanje na sledeci nacin:
Moze Ii neko da bude covekov ucitelj u ovome? Svakako. S vremena na vreme daje mu pravi nagovestaj ... U tome su ucenje i poducavanje slicni ... Ono sto se tu stice nije neka tehnika: uce se ispravni sudovi. Isto tako, postoje pravila, ali ona ne cine sistem, pa samo ljudi s iskustvom mogu ispravno da ih primene. Drukcija su pravila racu-

nanja.v"

Upravo ta sposobnost uocavanja poente u odredenom kontekstu, jeste istinsko ucenje: posto deca mogu i moraju da prave ovakav skok, ona mogu da nas iznenade i iznenaduju nas necim sustinski novim.
46. Marvin Minsky, "Steps Toward Artificial Intelligence," u Computers and Thought, str. 447. 47. Michael Scriven, Primary Philosophy (New York: McGraw,Hill, 1960),str. 186. 48. Wittgenstein, Philosophical Investigations (Oxford, Eng.: Basil Blackwell, 1953) str. 227. Wittgenstein ovde govori 0 tome kako mi ucimo da sudimo 0 nekom izrazu osecanja, ali njegovo gtediste je opstije.

STA

RACUNARI

NE

MOGU

69

Prethodna razmatranja 0 sustinskoj ulozi svesnosti ikonteksta i tolerancije dvosmislenosti u upotrebi prirodnog jezilka trebalo hi da ukazu zibog cega je, posle uspeha mehanickog recuika, napredak naisao na zastoj u oblasti prevodenja. Posto, kao sto smo videli, sposobnost da se uci jezik pretpostavlja istu onu slozenu kombinaciju ljudskih oblika "abrade informacija" koja je potrebna da bi se razumeo neki jezik, tesko je uvideti na koji natin bi poziv na ucenje mogao da se iskoristi kako bi se premostili problemi s kojima mora da se sukobi ovo podrucje,
RAZLIKOVANJE BITNOG OD NEBITNOG I PRETRAzIVANJA NA OSNOVU POKUsAJA-I-GREsKE

Kod resavanja problema srecu se dye funkcije rnisli: jedna, elementarna i zasebna, objasnjava uzrok ranog napretka na tom polju; druga, kompleksnija i ikoja trazi pronicljivost, pokazala se nesavladivom za programe koji rade korak po ikorak, ikao sto je Simonov razresilac opsteg problema. Kod prostih problema moguce je primeniti prost postupak jednostavnog izdvajanja svih mogucih kornbinacija doik se ne nabasa na odgovor. Ovakvo pretrazivanje na osnovu pokusaja-i-greske drugi je primer grube tehnike, kao sto je prebrojavanje u sahu. Ali, bas kao sto je to slucaj i u igranju igara, ubrzo se mogucnosti ispuste iz ruku. U resavanju problema potreban je sdstematski nacin za skracenje lavirinta pretrazivanja kako bi raspolozivo vreme moglo da se utrosi na ispitivanje alternativa koje obecavaju. Ovo je situacija u kojoj se ljudi oslanjaju na pronicljivost, a programeri zapadaju u teskoce. Ako se neki problem postavi u prostom i u potpunosti odredenom obliku, sa ciljem i pocetkom i specificnoodredenim operacijama ikako dospeti od jednog do drugog, (drugim recima, kada imamo ono sto Simon zove "jednostavni formalni problem"),

70

HUBERT

L.

DREYFUS

onda Simonov razresilac opsteg problema, probajuci mnoge mogucnosti, moze da priblizava cilj i pocetak jedno drugome sve dok se ne resi problem. Ovo bi bio uspesan primer analize sredstva-ciljevi. Ali, cak i u ovakvom jednostavnom slucaju javljaju se mnoge teskoce. Poredenjem masinskog otiska jednog resenja GPS 'sa kopijom covekovog verbalnog izvestaja u resavanju istog problema, otkrivaju se koraci u masinskom otisku (eksplicitno pretrazivanje) koji se ne pojavljuju u covekovom protokolu, A Simoo ad nas trazi da usvojimo metodoloski sumnjivo objasnjenje ovih nepostojecih koraka u covekovom protokolu da su se "svakako dogodile mnoge stvari koje se odnose na zadatak, a koje subjekt nije komentarisao (ili ih nije bio svestan) ",49 pa Calki mnogo proizvoljniju pretpostavku da su ove dopunske operacije iste elementarne vrste kao i one verbalizovane. U stvari, izvesni detalji Newellovog i Simonovog clanka, "GPS:Program koji simulira ljudsku misao", nagovestavaju da ove dopunske operacije nisu uopste slicne programiranim operacijama. U jednom od Simonovih eksperirnenata, subjektima su dati problemi iz formalne logike i lista pravila za transformaciju sirnbolickih iskaza, pa su hili zamoljeni da verbalizuju svoj pokusaj resavanja problema. Nisu vazni detalji pravila: ono sto je vazno to je da subjekt na nekom mestu zapise u protokolu da primenjuje pravilo (A·B~A) i pravilo (A·B~B) nakonjunkciju (- Rv - P)·(RvQ). Newell i Simon komentarisu:
Subjekt je upotrebio obe forme pravila 8, bar Mo se tice njegovog komentara GPS, s druge strane, prihvata ciklus razmatranja za svaku formu. Moguce je da je subjekt sledio program prikriveno i jednostavno podneo izvestaj o dva rezultata ujedno.w

Moguce je, medutim, da je subjekt shvatio konjunkciju kao simetricnu u odnosu na transformaci49. Allen Newell i H. A. Simon, "GPS: A Program That Simulates Human Thought," u Computers and Thought, str. 288. 50. Ibid., str. 289.

sTA RAcUNARI

NE MOGU

71

ju koja se obavlja pomocu pravila, i tako je, u stvari, odjednom primetio abe forme pravila. Cak i Newell i Simon priznaju da bi im bilo draze da GPS primenjuje obe forme pravila u istom ciklusu. Jedino bi u tom slucaju njihov program pruzio jednu psiholosku teoriju 0 fazama kroz koje je prolazio subjekt. Oni su se, ipak, rnudro uzdrzali od pokusaja da napisu program koji hi mogao da razlikuje slucajeve, kada je odjednom pogodno primeniti obe forme pravila, od slucajeva kada to nije pogodno. Takav program, daleko od otklanjanja gornjeg odstupanja, zahtevao hi dalju obradu 0 kojoj subjekt nista ne govori, <time hi se uvecala nesaglasnost izmedu programa i protokola. U nemogucnosti da eliminisu nesaglasnost, a bez zelje da pokusaju da shvate njen znacaj, Newell i Simon odbacuju nesaglasnost kao "primer paralelne obrade.l"!" Dugo odstupanje, koje su zapazili Newell i Simon, ipak ne dozvoljava ta:kvo izbegavanje. Na izvesnom mestu u protokolu moze da se procita: " ... Trebalo je da upotrebim pravilo 6 na levoj strani jednacine, Upotrebi 6, ali sarno na levoj strani." Simon primecuje:
Ovde imamo izrazito udaljavanje od putanje kojom ide GPS. I subjekt i GPS su pronasli pravilo 6 kao podesno pravilo za promenu zna:kova. Na ovom mestu GPS jednostavno primenjuje pravilo na teku6i izraz; dok se subjekt vraca unazad i koriguje prethodnu primenu. U programu nista ne postoji sto bi ovome odgovaralo. Najdirekanlje objasnjenje je da subjekt smatra prirnenu pravila 6 u inverznom smeru, kao ponistenje prethodne primene pravila 6.52

Ovo je zaista najdirektnije objasnjenje, mada se ne bi reklo da Newell i Simon smatraju da je ovo udaljavanje od putanje, koje ne moze da se objasni
51. Ibid., str. 290. Proizvoljna priroda ovog objasnjenja ad hoc evidentna je iz konteksta. Osim toga, kada je upitan 0 ovom gledistu na svom predavanju 1968 na Masacusets institutu za tehnologiju, Simon je odgovorio kako ne veruje da paralelna obrada igra neku ulogu u kognitivnim procesima, i ne seca se da je ikada smatrao da igra. 52. Ibid., str. 291.

72

HUBERT

L.

DREYFUS

pomocu paralelne obrade, isto toliko sterno za njihovu teoriju koliko su bila odstupanja u kretanjima planeta za Ptolomejev sis tern. Ovde se odvija neka druga forma misljenja koja se razlikuje od pretrazivanja. Newell i Simon uocavaju problem: "Jasno je da to implicira mehanizam (rnozda citav niz rnehanizama) koji ne postoji u Gp,s_U,"53 ali kao i drevni astronomi, oni pokusavaju da spasu svoju teoriju dodavanjem nekoliko epiciklusa, Oni i dalje pretpostavljaju bez ikakvog dokaza, da je ovaj mehanizam nesto razradenija tehnika pretrazivanja koja bi mogla da se obuhvati ako bi se GPS snabdeo "jednim malim kontinuiranim pogledom unazad na njegove protekle akcije."54 Oni ne shvataju da ih njihova pretpostavka, po kojoj je inteligentno ponasanje uvek rezultat primene heuristickih pravila, obavezuje na neprihvatljivo glediste prema korne odluka njihovog subjekta da se vraca unazad mora da bude rezultat jedne veoma selektivne procedure kontrolisanja. U protivnom, na svakoj fazi bi trebalo da se kontrolisu svi protekli koraci, stobi beznadezno opteretilo program. Mnogo bi naucniji pristup bio da se ispitaju dalje implikacije pet protivrecnosti, zabelezenih u clanku, kako bi se utvrdilo da li se mozda ne radi o nekom drukcijern obliku "obrade informacija", Na primer, gestalt-psiholog Max Wertheimer (Maks Verthajmer) istice u svom klasicnorn delu Produktivno mislienje, da resavanje problema na osnovu pokusaja-i-greske iskljucuje najvazniji aspekt ponasanja u resavanju problema, nairne, poimanje sustinske strukture problema koje on zove .arvidanje"." U ovoj operaciji se napusta povrsinska struktura i sagledava se osnovni problem - Wertheimer to zove "dublja struktura" - koji omogucava da se orga53. I bid., str. 292. 54. Ibid .• str. 292. 55. Max Wertheimer, Bros .. 1945). str. 202

Productive

Thinking

(New

York:

Harper

&

STA RAcUNARI

NE MOGU

73

nizuju nuzne faze za resenje. Ova gestalt-koncepcija moze da izgleda antiteticka u odnosu na operacionalne pojmove koje zahteva vestacka inteligencija, ali i Minsky priznaje tu istu potrebu, sarno na drukciji nacin:
Sposobnost da se resi neki tezak problem zavisi od sposobnosti da se taj problem podeli iIi transforrnise u problem tezine nizeg reda. A da bi se ovo ucinilo bez potpunog oslanjanja na srecu, potrebno je izvesno razumevanje situacije, Covek mora da bude u rnogucnosti da dedukuje iIi nasluti dovoljno posledica postavljenog problema kako bi mogao da sastavi jednostavnije modele neke problemske situacije. Modeli moraju da poseduju dovoljno strukture kako bi se pruzila mogucnost da se nade nacin da se njihova resenja prosire na prvobitni problem.v

Posto je neophodno uvidanje za resavanje slozenih problema i posto nikada nije bilo programirano ono sto je Minsky zahtevao, necemo se iznenaditi kad pronaderno da je u delu Newella i Simona ovo prestruktuiranje problema krisom uvedeno od strane samih programera. U Procesima kreativnog misIjenja Newell, Shaw i Simon uvode .Jreuristike planiranja" da bi objasnili karakteristike protokola kome nedostaju jednostavne analize na bazi sredstva-ciljevi,
Izumeli smo jedan program. " da bismo opisali kako neki nasi subjekti resavaju O. K. Mooreove (0. K. Mur) logicke probleme i rnozda cemo najlakse pokazati sta je obuhvaceno planiranjem ako opiserno program. Na cisto pragrnatickoj osnovi, dvanaest operator a, koji su usvojeni u ovom sistemu logike, rnogu da se podele u dve klase koje cemo zvati "bitni" i "nebitni" opera tori. Bitni operatori su oni koji, kada se primene na neki izraz, izazivaju "velike" promene u njegovoj pojavi - na primer, promena od lIP v P" na "P". Nebitni opera tori su oni koji unose "male" promene na primer, promena od lIP v Q" na "Q v P". Kao sto smo rekli, razlika je cisto pragmaticka. Od dvanaest operatora u ovom kalkulusu, osam smo klasifikovali u bitne, a cetiri u nebitne operatore ...
56. Marvin Minsky, "Descriptive Languages and u Semantic Iniortnation Processing, str. 421, citirano Problem Solving," u belesci 12 gore.

74

HUBERT

L.

DREYFUS

Dalje, mozemo da uzmemo jedan izraz i apstrahujemo iz njega ona svojstva koja se odnose sarno na bitne promene. Naprimer, mozemo da apstrahujemo iz "P v Q" izraz (PQ) u kome se kao irelevantan posmatra poredak simbola, Ocigledno, ako su nebitne operacije primenjene na apstrahovane izraze, izrazi ostaju nepromenjeni, dok bi od bitnih operacija moglo da se ocekuje da ih izrnene ... Sada mozemo da uspostavimokorespondenciju izmedu nasih originalnih izi aza i operatora, s jedne strane, i apstrahovanih izraza i bitnih operatora, s druge strane. Prema originalnorn problemu uransfornuisanja a u b rnozemo da konstruiserno nov problem transformisanja a' u b', gde su a' i b' izrnzi dobijeni pornocu apstrahovanja a i b. Pretpostavimo da smo resili taj novi problem dobivsi niz izraza, a' c' d' ... b', Sada mozerno da izvrsimo transfermaciju .unazad u originalni prostor problema i postavimo nove probleme transformisanja a u c, cud, i tako dalje. Na taj nacin, resenje problema u prostoru planiranja daje plan za resavanje originalnog problema.s?

Nije potreban niJkakav komentar. Treba jedino primetiti da stvarni opis programa pocinje u drugom pasusu. Klasifikovanje operatora u bitne i nebitne, funkcija koju Wertheimer zove "pronalazenje dublje strukture" ili "uvidanje", programeri uvode pre nego sto pocinie stvarno programiranje. Preko ove majstorije cutke su presli Miller {Miler), Galanter (Gelenter) i Pribram (Praibram) u knjizi Planovi i struktura ponasan]a koja predstavlja psiholosku teoriju, pod uticajem Newellovog, Shawovog i Sirnonovog dela. Autori pocinju citiranjem Polyaa (Polia), koji je potpuno svestan neophodne uloge koju igra uvidanje u resavanju problema:
U svom popularnom tekstu, Kako je ... faze u heunistickom procesu:

to resiti, Polya razliku-

- Prvo, morarno da razumemo problem. Moramo jasno da znamo koji su podaci, koji su uslovi nametnuti i koja je to nepoznata stvar za kojom se traga.
57. Newell, Shaw, i Simon, The Processes of Creative Thinking, RAND Corporation, P-1320 (16. septembar 1958), str. 43-44. The

STA RAcUNARI NE MOGU

75

- Drugo, moramo da smislimo neki plan koji ce voditi do resenja i povezivati podatke sa nepoznatim.v

Potom Miller i saradnici umanjuju vaznost I faze i pros to odlucuju da ne vode brigu 0 njoj.
Ocigledno, druga je faza veoma-kriticna. Prva faza je ono sto smo opisali u Poglavlju 12, kao konstrukciju jasne slike sjtuacije s namerom da se utvrdi neki test za resavanje problema; ona je, naravno, neophodna, ali u diskusiji o dobro definisanim problemima pretpostavljamo da je to vee izvrseno.»

Ipak, citava psiholoska teorija 0 resavanju problema nece mnogo vredeti ako ne postoji nacin cia se uvede faza broj jedan u model za racunar. Zbog toga ne iznenaduje 'sto deset strana kasnije, posle usvajanja Simonove analize sredstva-ciljevi, nalazimo da se Miller i saradnici sa olaksanjem pozivaju na Simonov "metod planiranja"?", po svoj prilici na isti onaj pasus 0 kome smo bas diskutovali:
Jedan drugi, veoma opsti sistem heuristika koji upotrebljavaju Newell, Shaw i Simon, sastoji se u izostavljanju izvesnih detaljaproblema. Ovo obicno uproscava zadatak, a uprosceni problem moze da se resi pomocu nekog poznatog plana. Plan koji se koristi za resavanje jednostavnog problema upotrebljava se onda kao strategija za resavanje originalnog, ikomplikovanog problema. Na primer, pri resavanju neikog problema u racunu stavova, masina moie da odluci da se ne obazire na ratlike izmedu logickih. veznika i poretka simbola ... 61

Ali, kaosto smo videli, rnje masina ta koja odlucuje, nego su to sami Newell, Shaw i Simon. Ovde je potpuno pogresno govoriti 0 heuristikama posto niko nije uspeo da formulise pravila ikoja bi rukovodila ovim preliminarnim izoororn, ili makar pokazivala cia u ovoj fazi, gde se trazi uvidanje, lju58. George Miller, Eugene Galanter, i Karl H. Pribram, Plans and the Structure of Behavior (New York: Holt, Rinehart and Winston 1960), sir. 179-180. 59. Ibid., str. 180. 60. Ibid., str. 191. 61. Ibid., sir. 190. (Moj kurziv).

76

HUBERT

L.

DREYFUS

di slede pravila. Tako smo ostali bez ijedne racunarske teorije 0 fundamentalnoj prvoj fazi u celokupnom resavanju problema: pravljenje razlike izrnedu bitnog i nebitnog. Sarno oni sa uverenjem slicnim Millerovom mogli su da ne uocecinjenicu na osnovu koje Simonov "metod planiranja", sa svojom prethodnom obradom materijala, pre postavlja problem za sirnuliranje na racunaru nego sto donosi resenje. Ova ljudska sposobnost razlikovanja bitnog od nebitnog u nekom konkretnom zadatku objasnjava odstupanje izmedu protokola subjekata koji res avaju problem i GPS postupka. Vee smo sugerisali da subjekt primenjuje obe forme rpravila 8 zajedno, zato sto shvata, jos u pocetnorn stanju, cia su obe strane konjunkcije funkcionalno ekvivalentne. Isto tako, posto je shvatio bitnu funkciju pravila 6, subjekt moze da uoci kako ponovna primena pravila jednostavno neutralise prethodnu. Kao sto Wertheimer zapaza:
Proces (struktuiranja nekog problema) ne obuhvata u sebi samo date delove i njihove transformacije. On deluje u konjunkciji sa materijalom koji de strukturalno relevant an, ali je izabran iz ranijeg iskustva ... 62

Posto je igranje igara oblik resavanja mroblerna, mogli bismo da ocekujerno da cemo pronaci isti proces u igranju saha i, zaista, to i cinimo, Da navedemo Hearsta:
De Groot je zakljucio riz svoje studije da razlike u jacini igre daleko manje zavise od moci izracunavanja nego od .umesnostl u koncipiranju problema". Izgleda da su velemajstori superiorniji od rnajstora pre u izdvajanju veoma vatnih odlika pozicije, nego u razmatranju ukupnog broja poteza. Hz izvesno iznenadenje de GrO'O't je pronasao da velemajstori ne ispituju veci bro i mogucnosti odredenog poteza od nize rangiranih strucnjaka ili rnajstora (u proseku od dva do cetiri prva poteza po poziciji) , niti gledaju daleko unapred (obicno ne vise od sest do sedam ipoteza unapred za svaki pO'tez). Velernajstor je mekako u stanju da odmah "sagleda" srz problema, dok strucnjak ili slabiji
62. Wertheimer, op. cit., str. 195, citirano u belesci 55 gore.

sTA

RACUNARI

NE

MOGU

77

igrac to cini 'sa teskocom ili ga uopste ne uocava, iako i on analizira is to toliko alternativa i gleda is to toliko poteza unapred kao i velemajstor.w

Godine 1961, kao sto smo videli, Minsky je vee bio svestan ovih problema. Ali njegova jedina nada je bila da ce se pronaci program planiranja koji bi koristio u veeoj meri istu vrstu heuristickog pretrazivanja na jednom visem nivou:
Kada sepozivamo na koriscenje "rasudivanja", ne nameravamo da sugerisemo da se odustane od igre prizivanjem neke inteligentne podrutine. Program koji rukovodi pretrazivanjem bice jos jedan heuristicki program. Skoro je izvesno da ce on bi,ti pretezno sastavljen od istih vrsta objekata i procesa od kojih ce se sastojati programi u dornenu

subjekta.s-

Ali takav bi program planiranja i sam zahtevao razlikovanje bitnih od nebitnih operatora. Ako sam programer u nekoj fazi ne uvede ovu razliku, bice sateran u beskonacnu regresiju programa planiranja, od kojih ce svaki zahtevati program viseg reda radi struktuiranja rdavo struktuiranih podataka. Na ovom mestu, na prelasku sa lake na tesku formu "obrade inforrnacija", Minsky pravi tipican korak ka llcenju.
Problem sastavljanja upotrebljivih dedukcija iz nekog sireg skupa iskaza (na primer, 0 relevantnosti razlicitih metoda u odnosu na razlicite vrste problema) pokrece novi problem pretrazivanja. Logicko istrazivanje mora da se ogranici na podatke koji ce verovatno biti relevantrri za tekuci problem. Teske da bi ova funkcija selekcije u potpunosti mogla da se ugradi u samom pocetku. Ona mora da se razvija zajedno sa ostalim podacima koji se akumuliraju iskustvom.w

Ali do sada niko nije cak ni pokusao da sugerise kako bi masina mogla da obavlja ovu oneraci iu selekcije, iIi kako bi mogla da se prograrnira da
63. Hearst, op. cit., str. 32, citirano u belesci 36 gore. 64. Minsky, "Descriptive Languages and Problem Solving," uSe· mantic Information Processing, str, 420, citirano u belesci 12 gore. 65. Ibid., str. 123.

78

HUBERT

L.

DREYFUS

nauci da je obavlja, posto je to jedan od uslova za ucenje iz proteklog dskustva. Feigenbaum, u svojoj nedavnoj oceni obavljenog rada od pojave dela Racunari i misao, primecuje ociti nedostatak programa za ucenje:
Oblast VI jos uvek veoma slabo vlada proble.mom masinskog ucenja u resavarrju problema. Zadugo je gotovo jedino vredno bilo navesti Samuelovcuveni program za igru dama i njegov sistem ucenja. U jednom trenutku se pojavilo veliko Interesovanje za shemu koju su preporucili Newell, Shaw i Simon za ucenje u GPS, ali ta shema nikad nije bila realizovana, Cudno je sto smo i danas suoceni s istom
situacijorn.w

Ovaj nedostatak napretka zacuduje sarno one, kao sto je Feigenbaum, koji ne shvataju mogucnost razlikovanja bitnog od nebitnog kao ljudske forme "obrade informacija", koja je nuzna za ucenje i resavanje problema, ali ipak nedostupna rnehanickim tehnikama pretrazivanja koje mogu da funkcionisu tek kada se ustanovi ova razlika. To je bas ona funkcija inteligencije koja se odupire daljem napretku na polju resavanja problema. Stavise, iluzija je misliti da se problem planiranja moze izolovano resavati: da su bitne/nebitne operacije date kao blokovi koje sarno treba sortirati. Lako je biti hipnotisan suvise uoroscenim i ad hoc slucajevima - kao sto je logicki problem - i poceti misliti da su neke oneracije same po sebi bitne ili nebitne. To onda izgleda kao da mozemo da ih pronademo zato sto one vee kao takve postoje, tako da samo treba da otkrijemo neko heuristickonravilo da bismo ih sortirali. Ali u normalnim situacijama (a cesto calk i u logici) ne mogu se lako naci bitne operacije, jer one ne postoje nezavisno od pragmatickog konteksta. , U svetlosti n iihovog iskrenog i neizbeznoz nribegavania nrethodno i obradi materliala. izzleda da ne posto ii osnova za Newellovo, Shawovo i Simonovo
66. Edward Feigenbaum "Artificial Intelligence: Themes in the Second Decade," IFIP Congress 1968. Supplement, str. J-15.

sTA

RA(;UNARI

NE

MOGU

79

tvrdenje da ponasanje, koje se neodredeno oznacava kao bistrina ili pronicljivost u ljudskom resavanju problema i stvarno je sarno rezultat razborite primene izvesnih heuristika, vodi suzavanju pretrazivanja kod nalazenja resenja. Njihov rad sa GPS, naprotiv, pokazuje da svako pretrazivanje, ako nije usmereno prethodnim struktuiranjem problema, predstavlja najobionije Jutanje. Ironijom slucaja, istrazivanje u kognitivnoj simulaciji predstavlja idealan primer takozvanog inteligentnog ponasanja koje se odvija kao i bespomocni GPS.Ovde se mogu sresti ona petljanja i Iknparenja koja su karakterdsticna za fasciniranost povrsinskom strukturom - neku vrstu penjanja na drvo, a sa ocima vee ria mesecu. Mozda je to bas tako zbog toga sto ovo polje ne pruza nijedan primer uvidanja da su neki ljudi u kognitivnoj simulaciji zamenili operacije GPS-a za inteligentno ponasanje.
JASNO GRUPISANJE PREMA LISTAMA OBELEZJA

Racunar mora cia raspoznaje sve oblike preko jedne Iiste specificnih orta. Ovo izaziva probleme eksponencijalnog rasta koje SIll ljudi sposobni da izbegnu postupajuci na sasvim drukciji nacin. Stoga moze sirmiljranje raspoznavanja calk i prostih obloiJka zahtevati da se pribegne svakoj od fundamentalnih fermi Ijudske "obrade informacija", 0 Ikoj:ima se ovde dosad diskutovalo. A1ko.su I\.l ovirn prostim slucajevima naucnici i bili sposobni da ucine neki napredak 'sa mehanickim tehnikama. slozend oblici, kaosto SI\.l umetnicki stilovi i Ijudsko lice, pokaeuju toliko malo slicnosti da je neophodna kombinacija uvidanja, rnarginalne svesti ,i tolerancije dvosmislenosti. koja je ievan dornasaja digitalnih rnasina. Nije onda nikakvo 6udosto je rad na raspoznavanju oblika doziveo jedan zakasneli start, ali i vrlo ranu stagnaciju, U Poglavlju 1 zapazidi smo da slabost sadasnjih program a raspoznavanjaoblika (sa mogucim izuzet-

80

HUBERT

L.

DREYFUS

kom Uhr-Vosslcrovog programa, ciji operatori posto raspoznaju sarno pet slova - jos nisu dovoljno testirani) lezi u tornesto oni riisu u moguonosti da odrede sopstvene operatore za selekciju, Medutim, sada cemo videti :kako je ovaj riacin predstavljanja problema zasnovan na pretpostavkama koje skrivajru dublja i teza sporna pitanja, Uvidanje. Pnvi nagovestaj da se covekovo raspoznavanje obli'ka radikalno razlikuje od mehamidkog raspoznavanja uocen je u ljudskoj (i animalnoj ) toleranciji prema promenama 'll orijentaciji i velicini, stepenirna nepotpunosti i izoblicenju, 'kao i .kolicini srnetnji. Jedan rani pristup sastojao se U pokusajuda se oblbk morrnalizuje, a zatirn da 'se uporeduje sa nizom sablona, da bi se videlo koji rnu odgovara. S druge strane, cini se da ljudsko raspoznavanje jednostavno ne obraca pazriju na prornene u velicin! i orijentaciji, kao i na prekide u slici, i tako dadje. Mada lzvesne .konstante opazanja postizu neku normalizaciju (prividna velicina i sjaj me variraju onoiiko IkoIiko iznose odgovarajuce prornene u signalu ikoji dospeva do mreznjace ) izgleda ocigiedno da nije potrebno u potpuncsti normalizovati i izgladiti obliik, posto mozemo da ga opazimo kao iskosen, nepotpun, veEk, mali, i tako dalje, tim ga raspoznamo. Savremeniji programi, umesto norrnalizacije oblika, tragaju za mocnirn operatorima koji .izdvajaju razlike, a ostaju neosetljivi prema izoblicenju i sumovirna. Medutirn, kada ljudi raspoznaju obleke, izgleda Ida ne ikoriJste ni ova vestacka pomagala. U onicnspecijadnim slucajevirna, gde [judi mogu da artukulisu svoje sdgnale, ispostavlja ,se da oni nisu rnocni opera tori koji nnkdjuouju neke zitke oblike a iskljucuju sum, vee su pre jedan niz idealnih crta koje sesamo aproksirniraju u korskretmirn prihlkama raspoznatih oblika. Iskrivljeni obiici se ne raspoznaju po tomesto potpadaju pod neki neodredeniji i dngeniozniji skup oblilka vee po tome 5tO poseduju iste jednostavne obinke, ikao i neiskrivljeoe figure, zajed-

sTA RAcUNARI NE MOGU

81

no s izvesndrn wlucajnim dodacirna iIi propustima. Na slican naCin,s'l1<mIse ne testira niti se iskljuouje: on se zanemaruje :kao nebitan.v?" Ovde jos jednom zapazamo ljudsku sposobnost izdvajanja bitnog od nebitnog. Marginalna svest. Da hi se odredilo koji je od nizova vee analiziranih orbliika najsljcrriji datom oblilou, istrazivaci su predlozi:l,i cia se analizira dati oblik u odnosu na odredeni skup odlika pomocu stabla odlu6irvanja; ili kao U Selfridgeovom Pandaemoniurn programu, ikombinowanjem verovatnoca '0 prisutnosti svakog od niza oblika. I jedan i drugi metod nekrdtiokd usvajaju pretpostavku da oovek, kao i neki mehanioki raspoznavalac oblika, mora da klasifikuje I~>valki oblik pornocu specificne liste odlika, Prema Selfridgeu i Neisseru, ocigledno je cia je "covek koji apstrahuje meki ohMrkiz jednog !kompleksa nadrazaja u sustiail klasifjkovao moguce ulaze."68 Earl Hunt (Ed Hant ) rpravi istu pretpostavkn u svorn pregledar rada na raspoenavanju oblika: "Raspoznavauje oblika, kao i ucenje pojmova, obuhvata i ucenje 0 pravdlu Iklasifikacije."69 Ako je oblik jos i komplikovan i dovoljno slican drugim oblicima, tako da su potrebna mnoga obelezja za razlikovanje, onda se javlja problem eksponencijalnog rasta. Pretpostavka da svaki raspoznavalac olbHka, covek iIi masina, radi na principu analize obeleeje-po-obelezje, dovodi do zakljucka da verovatmo postoje dzvesna krucijalna obelezja - sarno ih treba pronaci iIi programirati masinu da ih
67. Bez obzira kakvu obradu informacija ljudski mozak koristi za odabiranje oblika, u tom cinu mu bez sumnje pomaze organizacija ljudskih receptora. Ali cak i ako bi organizacija ulaza u perceptivne uocljivosti (figura i osnova) mogla da se ugradi u receptore digitalne masine, takvi selektivni receptori sveli bi se na uvodenje jedne faze analogne obrade, koju moraju da izbegavaju istraziveci vestacke inteligencije.
68.

Machine,"

Oliver G. Selfridge i Ulric Neisser, u Computers and Thought, str. 238.

"Pattern

Recognition by

69. Earl Hunt, Computer Simulation: Artificial Intelligence Studies and their Relevance to Psychology (Brown and Faber, 1968), str. 145.

82

HUBERT

L. DREYFUS

sama pronade - koja bi ucinila obradu izvodljivom. Covek je doveden u polozaj da traga za nekom vrstom opazajne heuristike "mocnih operatora" koje, do sada, mko jos nije bio u stanju da pronade, I kao sto sahovski majstori nisu sposobni da pruze programeru heuristicke precice kojirna se, po pretpostavci, ani koriste, Selfridge i Neisser beleze, u slucaju raspoznavanja obliJka, da je "veomaeesto osnova klasifikacije nepoznata calk i (analizatoru )." Ipak, Selfridge i Neisser prctpostavljaju, kao i Newell i Simon, da se lavirint nesvesno ispituje - u ovom slucaju da se pretrazuje lista obelezja. Tako su oni dosli do zaJkljruaka da je "OIna (ta osnova klasifikacije) suvise slozena da bi se eksplicitno specifikovala."?? Ali teskoce u pretrazivanju jedne takve liste ponovo ukazuju na to da, bar za ljude, nisu sva moguca relevantna obelezja uzeta serijski ili paralelno i iskoriscena za donosenje neke vrste odluke, vee da se mnoga obelezja, presudna za razlikovanje, nikad ne uzimaju eksplicitno, vee obavljaju svoj posao ostajuci na rubu svesti. Dok u sahu pocinjemo sa globalnirn smislom za situacije i pribegavamo prebrojavanju sarno u krajnjoj anaIizi, u percepciji nam ni ie potrebno nikakyo pozivanje na bilo koja eksplicitna obelezja, Mi normalno raspoznajemo da je neki nredmet slican ostaIim predmetima, a da nismo svesni da ie on primer za neki tip iii da je clan neke klase definisane oreko specificnih obelezja, Kao sto Aron Gurwitsch CAron Garvie) kaze u svojoj analizi razlike izmedu opazajne i no imovne svesti:
Opazeni predmeti nam se pojavl iuju sa generickim determinacijama , " Ali - i to je odlucujuce mesto - ooaziti predmet odredene vrste uopste niie isto sto i shvatiti tai predmet kao da je predstavnik ili poseban slucai nekog
tipa."
70. Selfridge i Neisser , "Pattern Recognition by Machine," n Comput ers and Thought, str. 238. 71. Aron Gurwitsch, "On the Conceptual Consciousness," u The Modeling of Mind. str. 203.

STA

RA(;UNARI

NE

MOGU

83

Naravno, ponekad mozemo eksplicitno da izrazirno obelezja koja sluze za potrebe definicije:
Prvi korak irJconstitulsanju pojmovne svesti sastoji se u ostvarivanju disocijacije u okviru opazenog predmeta u njegovoj tipicnosti. Genericka obelezja, koja su do tada bila imanentna i inherentna u opazenoj stvari, oslobadaju se i odvajaju od nje. Kad se jednom ucine eksplicitnim, ova obelezja rnogu i da se .izmere ... kao posledica ovog razdvajanja, genericko postaje opste. Posmatrano iz ovog ugla ono se suprotstavlja opazenoj stvari od koje je upravo odvojeno i koja se, sada, pretvorila u neki primer, u poseban slucaj .. , (Tako signali ) mogu da 6e pojme i da postanu teme (specificna svojstva kojih smo svesni) ... dok su ranije samo doprinosild konstituisamju druge teme (oblika) u okviru koje su igrali sarno jednu nemu ulogu."

Ovo pomeranje sa opazajne na pojmovnu svest (sa perceptivnog na matematicki duhovni okvir, da upotrebimo Paskalov izraz) nije nuzno i neko poboljsanje. Neke zrtve afazije, koje su proucavali Gelb (Gelb) i Goldstein (Goldstajn), izgubile su moe zaculno .raspoznavanje. Za pacijenta citavo raspoznavanje postaje pitanje klasifikacije, Pacijent mora da se pridrzava kontrolnih lista i procedura, kao i digitalni racunar pretrazivanja. Neki od takvih bolesnika mogu da raspoznaju sarno figuru, kao sto je trougao, registrujuci njegova obelezja, sto znaci, brojeci njegove strane, a potom razrnisljajuci: "Trougao ima tri strane. Dakle. ovo [e trougao."?" Takvo po imovno rasnoznavanje zahteva mnogo vremena i nije mudro; zrtve takvih mozdanih oovreda sasvirn su nesposobne da se snadu u svakodnevnom zivotu. Ocizledno, u rasnoznavaniu oblika. obicno ie stetno prelazenje saimplicitnog onazajnog gruoisan ia na eksplicitnu pojmovnu klasifikaciju - cak i u nekoi krajnjoj fazi, kao u sahu. Cinjenica da niie potrebno da konceptualizujemo iIi tematizujemo
72. Ibid., str. 204-205. Maurice Merleau-Ponty, Phenomenology Routledge & Kegan Paul. 1962), str. 128 ff.
73.

of Perception

(London:

84

HUBERT

L.

DREYFUS

obelezja zajednicka nekolicini slucajeva iste strukture da bismo raspoznali tustrukturu, u stvari, istice razliku izmedu ljudskog i masinskog raspoznavanja, koje se jedino odvija na eksplicitnom nivou pripadnosti nekoj klasi. Redukcija dvosmislenosti u zavisnosti od .konteksta. U slucajevima do sada razmotrenim, obelezja ikoja definisu pripadnost nekoj klasi, iako u opstern slucaju suvise brojna da bi mogla da se koriste u raspoznavanju, u principu su uvek mogla da se ucine eksplicitnim. U nekim slucajevima, medutim, takva eksplikacija nije cak ni moguca, Da bismo shvatili ovo glediste, prvo moramo da se rpozabavimo idejom koju dele kako oni tradicionalni filosofi tako i oni koji rade na vestackoj inteligenciji, prema kojoj raspoznavanje oblika uvek moze da se shvati ikao jedna vrsta klasffikacije, U ovu prenagljenu generalizaciju strpane su zajedno tri razlicite vrste raspoznavanja oblika, od kojih nijedna nema one karakteristike koje zahtevaju filosofi i digitalni racunari. Prvo, postoji raspoznavanje koje Gurwitsch naziva generickim. Primer za takvo raspoznavanje bilo bi raspoznavanje izvesnog predmeta, kao sto je olovka. Kao sto je Gurwitsch istakao, ovaj oblik raspoznavanja, iako nije eksplicitan, podesan je za eksplikaciju pomo6u skupa karakteristika. Ali one preko cega prelazi Gurwitsch u svom rprikazu je to sto nam u ovoj formi raspoznavanja sluze nase namere da izdvojimo karakteristike koje su znacajne, a medu ovim, i one koje su presudne. Na primer, kada je uveden instrument za pisanje sa kuglicom na kraju, kraj je nazvan vrh (ne siljak) , a instrument hemijska olovka (ne olovka), po svoj prilici zato sto je presudno za one koji je koriste da trag, koji ovaj instrument napravi, ne moze da se izbrise. Mozemo da zakljucimo da je pravljenje neizbrisivog traga odredbeni kriterijum za postojanje

STA

RACUNARI

NE

MOGU

85

pera, dok imati vrh znaci sarno ono sto Wittgenstein zove simp tom -" ... neki fenomen 0 kome nas uci iskustvo da jedan ild drugi nacin koincidira sa fenomenom koji je nas odredbeni kriterijum." Mozemo cak da pokusamo da uvedemo ovu distinkciju izmedu simptoma i kriterijuma u nas program. Ali, Wittgensteinovo sustinsko glediste 0 razlikovanju simptoma i kriterijuma pociva na tome sto distinkcija nije utvrdena jednom za svagda, vee se menja sapromenama u nasim namerama i saznanju:
U praksi, ako vas neko upita, koji je fenomen odredbeni kriterijum, a koji je simptom, u vecini slucajeva ne biste bili u rnogucnosti da odgovorite na ovo pitanje, izuzev sto biste doneli proizvoljnu odluku ad hoc. Mozda bi bilo prakticno definisati jednu rec uzimajuci jedan fenomen kao odredbeni kriterijum, ali cemo se lako ubediti u to da rec rnozemo definisati i pomocu onoga sto smo u prvoj upotrebi smatrali simptomom. Lekari ce upotrebiti nazive bolesti, a da nikad ne odluce lkodi ce se fenorneni ubrajati u kriterijurne, a .koji u simrptome; a ovaj nedostatak jasnosti ne mora da bude ozbiljan nedostatak.t-

Zaista, to je jedan od nacina na koji nasi pojmovi sticu otvorenost vaznu za ljudsko raspoznavanje oblika, prilagodljivost koja nedostaje racunaru koji koristi fiksirani skup bitnih karakteristika. Druga vrsta raspoznavanja oblika je raspoznavanje slicnosti, U ovoj vrsti raspoznavanja, kao u "sazimanju"i5'" znacenja reci ili recenica,' kontekst igra odlucnu ulogu. Kontekst naprosto rnoze da nas odvede do zapazanja onih slicnosti koje, zatim, mozemo da raspoznamo izolovano - kao u slucaju dvosmislenih figura, kakva je Wittgensteinova patka-zec, figura koja je slicna patki kada je okruzena slikama patki, i zecu kad je okruzena slikama ze74. Wittgenstein,

The Blue and Brown Books,

str.

25.

75. Naravno, to sarno izgleda kao "usredsredivanje" iii "razJasnJavanje" onorne ko prilazi problernu sa tacke glcdista racunara. Kasnije cerno videti da je za Ijudsko bice situacija struktuirana u terrninirna rnedusobno zavisnih znacenja, tako da ostala moguca znacenja neke reci iii tvrdnje nikada ne rnogu da se eliminisu. Ona se jednostavno ne pojavljuju.

86

HUBERT

L. DREYFUS

ceva - ili rnoze da nas navede da usredsredimo paznju na izvesne aspekte oblika, kao u Pudovkinovom cuvenom eksperirnentu:
Jednog dana je Pudovkin snimio Mosdzukina u gro planu sa potpuno bezizraznim licem i :projektovao ga pokazujuci prvo, ciniju supe, zatirn mladu zenu koja lezi mrtva u kovcegu, i na kraju, dete koje se igra s mecom. Prvo sto se moglo zapaziti bilo je da Mosdzukin gleda ciniju, mladu zenu i dete, a drugo, da an zarnisljeno posmatra ciniju da nasi izraz tuge kada gleda zenu i da se smeska na dete. Publika je bila zapanjena raznovrsnoscu njegovog izraza, mada je sva tri puta upotrebljen isti snimak koji je, aka
nista drugo, upadljivo bio neizrazajan."

Ovde, na jedan upecatljiv nacin, znacenje konteksta odreduje koji se izraz vidi na lieu u situaciji u kojoj nijedna erta liea projektovanog na platnu, ne objasnjava ove razlike. Neko bi mozda mogao da kaze da izrazajno lice, ono koje posmatraci misle da su videli, poseduje izvesne erte, kao sto su tuzne oci ili srecan osmeh, koje navode posmatraca da raspozna izraz. Medutim, izraz ljudskih ociju, na primer, moze u toj meri da zavisi od izraza eelog lica da se uopste ne bi mogao raspoznati ako se posmatra kroz neki prorez. Stavise, izvestan izraz ociju moze da istakne neku krivinu nosa koja se ne bi primetila da je taj nos na nekom drugom lieu; nos, zauzvrat, moze da naglasi izvesnu vijugavost osrneha .koji rnoze da utice na izgled ociju. Kao sto Wittgenstein primecuje: "Covekova usta se smeju sarno na covecijem lieu."77 U takvim slucajevima erte, nuzne za raspoznavanje slicnosti (oci koje igraju, podsmesljiv osmeh ): ne mogu, cak i kada su tematizovane, da budu izolovane i definisane na neutralan i kontekstualno slobodan nacin. Stavise,. kao i u slucaju lingvistickog otklanjanja dvosmislenosti, kon.tekst - u ovom slucaju eelo lice - ne sarno sto odreduje karakteristike bitne za raspoznavanje, vee
76. Citirano u Merleau-Ponty, Sense and Non-Sense, (Evanston. Northwestern University Press, 1964), str. 54. 77. Wittgenstein, Philosophical Investigations, str. 583. Ill.:

STA RACUNARI NE MO.GU

87

je pornocu njih i sam reciprocno definisan. Izraz nije izveden. iz erta; jednostavno, on je organizacija ociju, ustiju, i tako dalje, bas kao sto je melodija sacinjena od istih onih nota kojima ona daje njihove posebne vrednosti. U ovoj vrsti slicnosti, pojam raspoznavanja oblika pomocu izolovanih erta nema nikakvog smisla. U drugom slucaju slicnosti, predmeti koje prepoznajemo kao predmete koji pripadaju zajedno, uopste ne moraju da imaju bilo kakve zajednicke crte - cak ni one koje zavise od konteksta. U studiji 0 prirodnom jeziku Wittgenstein se usmerio na istrazivanje ovog tipa neklasifikatorskog raspoznavanja:
Posmatramo komplikovanu mrezu slicnosti koje se preklapaju i ukrstaju: ponekad opste slicnosti, a ponekad slicnosti detalja. Mislim da ne postoji bolji izraz za karakterizaciju ovih slienosti oct izraza "familija slicnosti": jer razlicite slicnosti menu clanovima neke familije: stas, izgled, boja ociju, nacin hoda, temperament i tako dalje, preklapaju se i ukrstaju na isti nacin ... Prosirujerno nas pojam ... kao sto u prediva upredarno vlaknopc vlakno."

Familijarna slicnost se razlikuje od pripadnosti klasi na nekoliko vaznih nacina: klase mogu da se definisu uz pomoc crta cak ako nemaju nijedan clan, dok se familija slicnosti raspoznaje samo preko stvarnih ili imaginarnih primera.P" Sem toga, dok se pripadnost nekoj klasi svodi na sve ili nista,S01' familija slicnosti dozvoljava neki spektar
78. Wittgenstein, Philosophical Investigations, str. 32. 79. Posto tipicnost , za razliku od klasifikacije, zavisi od poredenja sa specificnim slucajevima, takva shcnost mora da bude sasvim konkretna. Tako mozemo da govorimo 0 tipicnom Indijancu, ali ne i 0 tipicnorn coveku. 80. L. A. Zadeh je ucinio intcresantan pokusaj da prevazide ovaj karakter sve-ili-nista pripa.<inostinekoj klasi. (Vidi , na primer, "Fuzzy Sets." Information and Control, Vol. 8, No.3 /jun 1965/.) Ali Zadehovo delo, mada interesantno, jos uvek definise klase pomocu specificnih oblika, jednostavno dozvoljavajuci da se clanovi klase definisu pomocu st epena clanstva u klasi. "Magloviti skup jc klasa objekata sa kontinuumom stepeni clanstva" (str. 338). Osim toga, po Zadehu, maglovitost je po sebi

88

HUBERT

L. DREYFUS

koji se proteze od tipicnog do atipicnog. Na primer, neki atipican clan familije moze da se prepozna tako sto ce se smestiti u niz liea koje vode od tipicnog do atipicnog clana. Slicno ovome, izvesni pojmovi kao ljubak, upadljiv i grub, ne mogu da se definisu pomocu nuznih i dovoljnih uslova, nego sarno izlaganjem nekog tipicnog slucaja. Posto se ova vrsta raspoznavanja nekog clana "familije" ne postize pomocu liste crta, vee posmatranjem konkretnog slucaja, u okvirima njegove bliskosti nekom para digmaticnom (tipicnom) slucaju, takvo nam raspoznavanje nudi drugu vrstu otvorenosti i fleksibilnosti. Na kraju, Wittgenstein ide cak i dalje sugerisuci da u nekim vrstama raspoznavanja mozda ne postoje nikakve zajednicke erte, cak ni one koje se preklapaju. On nejasno nastavlja svoje opazanje:
... Ako neko zeli da kaze: .Postoji nesto zajednicko u svirn ovirn konstrukcijarna - nairne, disjunkcija svih zajedniekih svojstava" - ja bih odgovorio: Sada se vi samo Igrate ,re6irna. Moglo bi, isto tako, da se ikaze: "Nesto se provlaci kroz celo predivo - naime, neprekidno preklapanje ovih vlakana."81

Mozda ovde Wittgenstein sugerise neku trecu vrstu raspoznavanja koju on ne odvaja jasno od slicnosti, ali koju mozemo da nazovemo raspoznavanjem nalicnosti. . Na osnovu ove interpretaeije ne treba shvatiti da Wittgenstein tvrdi da raspoznavanje nosi u sebi toliko mnogo preklapajucih crta, vee da ne moze da se koristi takva nespretna disjunkcija. Konzistentniji nacin razumevanja njegove analize sastojao bi se u zakljucku da svaka od erta koje on pominje u diskusiji 0 familijarnoj slicnosti stas, boja ociju, hod i tako dalje - nije identicna kodbilo
maglovit pojam. Pod maglovitoscu Zadeh, bez raz!ike, spaja pet razlicitih problema raspoznavanja oblika: nejasnost granice, zavisnost od konteksta, zavisnost od svrhe, zavisnost od subjektivne procene i familijarnu slicnost. Tako, nikad nije sasvim jasno koji problem, ako neki postoj i.vresava formalizacija maglovitosti. 81. Wittgenstein, Philosophical Investigations, str. 32. _

STA RACUNARI NE MOGI)

89

koja dva clana familije, vee se sastoji od mreze ukrstajucih slicnosti. Drzeci se analogije, to hi znacilo da je svako vlakno sacinjeno od vlakana. Tako nije potrebno da bilo koja dva dana neke familije imaju rna kakve identicne karakteristike kako bi delili familijarnu slicnost, Slicnost je krajnji pojam u Wittgensteinovoj analizi i on ne-rnoze da se redukuje - kao sto zahteva masinsko misljenje na listu Hi disjunkciju .identicnih, determinisanih karakterlstika.w Oni koji su sposobni da raspoznaju pripadnost nekoj .familiji" ne moraju da budu u stanju da navedu nijednu stvarno slicnu ertu zajednicku cak i dvama clanovima,niti postoji bilo kakav razlog za pretpostavku da takve erte uopste postoje. Zaista, forrnalizovanje familijarnih slicnosti pomocu stvarno slicnih erta eliminisalo bi jednu vrstu otvorenosti prema novim slucajevima, sto je veoma bitna karakteristika ove forme raspoznavanja. Bez obzira kakva se konstruise lista disjunktivnih erta, uvek moze da se izume no vi clan .familije" cije su erte slicne ertama datihclanova, a da nisu stvarno slicne bilo kojoj erti bilo koga clana i, koje bi u nekoj situaciji mogle da se raspoznaju kao da spadaju .medu ostale. Ovaj varljivi, ali ipak, veoma uobicajeni oblik raspoznavanja koristi se jednom narocitorn kombinaeijom triju oblika "obrade informacija", 0 kojima smo do .sada diskutovali: margimalne svesti, uvidanja i zavisnosui ad konteksta, Pre svega, proces je implicitan. On koristi informaeiju koja, figurativno govoreci, ostaje na rubu svesti. Da bismo sagledali ulogu uvidanja najpre moramo da izdvojimo genericko ad tipi6nog, mada Gurwitseh uzajamno koristi ova dva termina. Kao sto to Gurwitschdefinise, raspoznavanje generickog zavisi ad implieitnih signala koji uvek mogu da se ucine eksplicitnim. Ras82. Ovu analizu je do detalja izveo Renford Bambrough, "Universals and Family Rasemblances," u Wittgenstein: The Philosophical Investigations (New York: Anchor, 1966).

90

HUBERT

L.

DREYFUS

poznavanje tipicnog, u smislu u kome smo koristili ovaj termin, zavisi od slicnosti koje ne mogu da se tematizuju. Stoga, raspoznavanje tipicnog, za raz1iku od raspoznavanja generickog, zahteva sagledavanje paradigme sa svih strana. Paradigmatican slucaj sluzi svojoj funkciji u onoj meri u kojoj je najjasnija manifestacija onogsto (sustinski ) cini sve clanove clanovima neke date grupe. Konacno, raspoznavanje preko bliskosti paradigmi forma je kontekstualne zavisnosti. Wittgenstein naznacava da "jasno predstavljanje proizvodi bas ono razumevanje koje se sastoji u zapazanju veznika.t'< Sledeci Wittgensteina, kornbinaciju marginalne svesti, uvidanja i odredivanja konteksta nazvali smo "jasno grupisanje". Ova forma ljudske "obrade informacija" isto je toliko vazna koliko i tri fundamentalne forme obrade informacija, iz kojih je ona izvedena. Rezime. Ljudi su sposobni da raspoznaju oblike pod sledecim uslovima, nabrojanim po stepenu tezine:
1. Oblik moze da bude izopacen, nekompletan, defermisan i pracen smetnjama; . 2. Crte, koje se traze za raspoznavanje, mogu da budu "tako fine i brojne" da, cak ako mogu i da se formalizuju, pretrazivanje razgranate Iiste takvih erta vrlo brzo postaje neizvodljivo kada se dodaju novi obliei za razlikovanje; 3. Crte mogu da zavise oct spoljnjeg i unutrasnjeg konteksta i stoga se ne mogu specifikovati nezavisno od konteksta; 4. Uopste ne moraju da postoje zajednicke crte, vee "komplikovana mreza preklapajucih slicnosti" sposobna da asimiluje sve nove i nove varijacije.

Svaki sistem koji maze da se izjednaci sa ljudskirn sposobnostima mora biti u stanju:
1. da razlikuje bitne od nebitnih karakteristika svakog datog oblika; 2. da upotrebljava signale koji ostaju na rubu svesti;
83. Ibid .. str. 49.

sTA RA(;UNARI NE MOGU.

91

3. da uzima u obzir kontekst; 4. da opaza pojedinacno kao tipicno, tj, da ga postavIja prema paradigrnaticnom slucaju,

Posto raspoznavanje oblika, cak i umerene slozenosti, moze da zahteva ove cetiri forme ljudske "obrade inforrnacija", rad na raspoznavanju oblika nije otisao dalje od globalnog raspoznavanja prostih alfanumerickih oblika, kao sto su tipografski znaci i postanski brojevi. Sem toga, opste je priznato da dalji napredak u igranju igara, prevodenju jezika i resavanju problema ceka na neki proboj u istrazivanju raspoznavanja oblika. ZAKLJU(:AK Sada bi mogao da bude jasan osnovni problem s kojim se suocavaju svi koji pokusavaju da koriste racunare u simulaciji ljudskog inteligentnog ponasanja: alternative rnoraju da budu eksplicitne. U igranju igara eksponencijalno umnozavanje alternativnih putanja zahteva ogranicavanje putanja koje mogu da se proslede; u komplikovanim igrama, kao sto je sah, programi ne mogu da odaberu najpovoljnije putanje. U resavanju problema sustina nije sarno u tome kako usmeriti neko selektivno pretrazivanje eksplicitnih alternativa, vee kako da se struktuira problem da bi otpoceo proces pretrazivanja. U jezickorn prevodenju nisu cak jasni ni elementi kojima treba manipulisati zbog sustastvene dvosmislenosti prirodnog jezika; uraspoznavanju oblika sve tri teskoce su medusobno nerazmrsivo isprepletane u istoj meri kao i cinjenica cia su slicnost i tipicnost, izgleda, nesvodljive karakteristike percepoije. Ove su teskoce dovele do zastoja u prvih pet godina rada na kognitivnoj simulaciji. Nije se ispunilo nijedno od Simonovih predvidanja, Neuspeh kod prva dva predvidanja, 0 tome sta mogu da urade masine u sahu i matematici,

92

HUBERT L. DREYFUS

ucinio je bespredmetnim njegovo trece predvidanje, koje se odnosi na psiholosku teoriju ljudskog ponasanja. I pored sve zudnje i lakovernosti psihologa, za poslednjih deset godina vecina psiholoskih teorija nije preuzela formu racunarskih programa. Umesto trijumfa, imamo ovakvu opstu sliku: uspeh sa prostim rnehanickim oblicima obrade informacija, velike nade, a zatim neuspeh kada se naide na slozenije oblike ponasanja. Simonova predvidanja predstavljaju josjedan primer fenomena koji Bar-Hillel zove .zabluda uspesnog prvog koraka".84* Ipak, sam Simon nije izvukao takve trezvene zakljucke, U svom poslednjem predvidanju, napravljenom 1965. godine, Simon tvrdi da ce .Jcroz dvadeset godina masine biti sposobne da rade sve ono sto je i covek u stanju da radi."85 U II delu cerno se posvetiti razlozima za ovako nepokolebljiv optimizam, ali prvo moramo da razmotrimo rad u oblasti VI koji je zapocet tamo gde je otkazao rad u oblasti kognitivne simulacije.

84. Alvin Tofflerovo dele Future Shock daje izvrsnu ilustraciju ove greske na prvom koraku. (Vidi belesku 2 Poglavlja 2.) 85. Herbert Simon, The Shape Of Automation for Men and Management (New York: Harper & Row, 1965), str. 96.

II FAZA (1962 -

1967)

SEMANTI(:KA

OBRADA INFORMACIJA

Da bismo u perspektivi sagledali I fazu i stekli predstavu 0 onome sta se ocekivalo i sta je postignuto u II fazi, korisno je poceti citiranjem Minskyevog kratkog prikaza istorije rada na masinskoj inteligenciji:
Ranih 1950. godina, posto su racunari za opstu namenu postali pristupacni sirokim naucnim krugovima, kibernetika se podelila ... u tri glavna pravca: prvi je bio nastavljanje traganja za jednostavnim, osnovnim prinaipima. Ovo se docnije transforrnisalo u trazenje necega sto bismo mogli da nazovemo minimalnim samoorganizujucirn sistemima. Paradigma za ovaj pristup bila bi pronalazenje velike zbirke generalno slicnih kornponenata koje bi se, kada se rasporede u vrlo slabo specifikovanu strukturu i smeste u podesnu okolinu, eventualno ponasale na .adaptivan" nacin. Bilo je nade da ce eventuafno.mceligeetno ponasanje proisteci iz evolucije takvog jednog sistema.'

Posto oni koji jos uvek zastupaju ovaj kurs, ponekad nazivan kibernetskim, nisu dali nikakve interesantne rezultate - mada je njihov zastupnik Frank Rosenblatt (Frenk Roznblat) izneo neka najfantasticnija obecanja i tvrdnje-" - 0 njima se ovde nece raspravljati.
1. Marvin Minsky, ured., Semantic Information Processing (Cambridge, Mass.: M. I. T. Press, 1969),str. 6, 7. 2. Na primer, sledeci izvestaj u casopisu Chicago Tribune od 7. juna 1963: "Jute je strucnjak iz oblasti masina, sa Kornel univerziteta, najavio razvoj masine koja moze da saslusa neku konverzaciju

94

HUBERT L. DREYFUS

Drugi vazan pravac bio je pokusaj da se naprave upotrebljivi modeli ljudskog ponasanja ... sto je zahtevalo da se ponasanje rnasina izjednaci s ponasanjem ljudi ... 3 Knjiga Racunari i misao, u redakciji E. Feigenbauma i J. Feldrnana, koji su svoj diplornski rad objavili u okviru Kar nedzijeve grupe, pruza pravu sliku stanja stvari krajem 1961. godine.'

To je istrazivanje u kognitivnoj simulaciji koJIm su rukovodili Newell i Simon, a koje smo izlozili kritici u Poglavlju 1. Minsky na slican nacin kritikuje ovaj rad u clanku napisanom u vreme kada se I faza primicala kraju:
Metodi koji su sasvim dobro delovali kod lakih problema, nisu se ravnomerno prosirili i na one teske, Dalji ce naprei da otkuca beleske slicno sekretarici nekog ureda. Ocekuje se da ce uredaj biti gotov do jeseni (sic). Frank Rosenblatt, direktor za istrazivanje kognitivnih sistema sa Kernel univerziteta, rekao je da ce masina biti najveci uredaj .koji misli' do danas izgraden. Rosenblatt je ovo izjavio na skupu povodom masina koje uce, u Institutu za tehnologiju na Severozapadnom univerzitetu." U svojoj maternatickoj studiji, Percept rons (Cambridge, Massachusetts: M. 1. T. Press, 1969),Minsky i Papert su dosli do manje optimisticke procene rada na perceptronu: "Perceptroni su dobili sirok publicitet kao masine za .raspoznavanje oblika ' iii masine koje uce i 0 njima kao takvirna bilo je diskusije u velikom broju knjiga, clanaka u casoplsima, i opseznim .izvestajima'. Veliki dec ovih spisa... bez ikakve je naucne vrednosti ... (str. 4.) .Rosenblattove sheme su se brzo ukorenile, i uskoro je nastalo oko stotinak grupa, velikih i malih, koje su eksperimentisale sa modelom iii kao .masinorn koja uci' ili u vidu ,adaptivnih' iii .samoorganizujucih ' mreza iii sistema ,automatske kontrole.' Rezultati ovih stotinak projekata i eksperimenata u opstern smislu su bili nezadovoljavajuci, a objasnjenja nelogicna. Masine obicno sasvim dobro rade na veoma prostim problemirna, ali dolazi do pogorsanja onda kada im se dodele tez! zadaci" (str. 9). U svetlosti ovih prakticnih teskoca i teorijskih ogranicenja koje Minsky i Papert demonstriraju, entuzijazam u pogledu buducnosti perceptrona izvrsna je ilustracija greske na prvom koraku. (Vidi belesku 84, gore.) Tipicna za ovu pogresnu ekstrapolaciju jeste Tofflerova tvrdnja (Future Shock, str. 186) da "Eksperimenti ... Franka Rosenblatta i ostalih, demonstriraju kako rnasine mogu da uce na svojim greskama, da poboljsavaju svoje performanse. i da u nekim ogranicenim vrstama ucenja preticu studente." Toffler ne pruza nikakvu indikaciju 0 ozbiljnosti ovih ogranicenja,

3. Minsky, Semantic 4. Ibid., str. 8.

Information

Processing,

sir. 7.

STA

RACUNARI

NE

MOGU

95
nove ideje, .jer su se isprecili neki na nasem neposrednom putu."

dak traziti da se ostvare veoma temeljni problemi

Tako Minsky tumaci stagnaciju koju smo uocili. Istovremeno on i njegova grupa na M. 1. T. pobrinuli su se za nove ideje i njihovo ostvarenje.
Treci pristup, onaj koji zovemo vestacka inteligencija, predstavljao je pokusaj da se izgrade inteligentne masine bez ikakvog predubedenja da sistem mora biti jednostavan, bioloski iIi slican coveku, Onikoji su krenuli ovirn putem smatrali su da sarnoorganizujuci sistemi ne pruzaju nikakvu nadu iii da SU, mozda, preuranjeni. Cak i kad bi jednostavnost pocetnog organizovanja predstavljala krajnji cilj, bilo bi potrebno da se prethodno stekne iskustvo sa inteligentnirn masinarna (zasnovanim, ako je nuzno, na ad hoc mehanizmima) da bi se eventualno mogle projektovati ekonomicnije sheme."

Sada cemo preci na ovaj treci i najnoviji pristup, odnosno, na rezultate 0 kojima se govori u Minskyevoj knjizi Semanticka obrada informacija, da bismo videli sta je stvarno ostvareno. Minsky je jednom napomenuo da hi se u oceni programa iznetih u ovoj knjizi moglo da postavi pet pitanja:
1. Zasto su izabrani bas ovi problemi? 2. Kako rade ovi prograrni?

3. Koja su njihova ogranicenja? 4. Sta programi stvarno postizu? 5. Kako se mogu prosiriti na sire dome.ne nadleznosti?

Ako, sledeci ovaj metod, analiziramo programe koje Minsky predstavlja kao najbolji rad od 1962. godine, pronaci cemo da za razliku od rada obavljenog pre 1961. godine, koji je mogao da ostavi utisak inteligencije simuliranjem prostih, mehanickih aspekata inteligentnog ponasanja, sadasnji pristup karakterisu ad hoc resenja mudro izabranili problema koji prui.aju. iluziiu slozene intelektualne aktivnosi. U stvari, problemi koji su zaustavili rad u 1961. go5. 6. Minsky, Minsky, "Descriptive Languages and Problem Solving",
II

Se-

mantic Information

Processing, str. 419. Semantic Information

Processing,

str. 7-8.

96

HUBERT

L. DREYFUS

dini, ostali su nereseni. Isto tako cemo ponovo konstatovati da sarno nepokolebljiva vera omogucava istrazivacima, kao sto je Minsky, da ovakvu situaciju smatraju ohrabrujucom. Pogledajmo detaljno programe.

I. ANALIZA PROGRAMA ZA SEMANTI(:KU OBRADU INFORMACIJA

ANALIZA PROGRAMA KOJI "RAZUME ENGLESKI"BOBROWOV STUDENT

Od pet programa za semanticku obradu informacija prikupljenih u Minskyevoj knjizi, STUDENT - program Daniela Bobrowa (Denijel Bobrov) za resavanje problema algebre reci - istice se kao najuspesniji, To je, kaze Ram Minsky, .xlernonstracija par excellence moci upotrebe znacenja za resavanje lingvistickih problema."? Zaista, Minsky veliki deo svog clanka u casopisu Scientific American posvecuje Bobrowom programu i ide toliko daleko da kaze kako "program razume engleski.l'" Posto se ovaj program predstavlja kao najbolji, pocecemo s njegovom analizom i to detaljno u odnosu na pet pitanja koje je sugerisao Minsky. Prvo: Zasto je izabran bas ovaj problem? Sam nam Bobrow kaze:
U konstruisanju sistema za pitanja i odgovore mnogi problemi se znatno uproste ako se ogranici kontekst problema.t

Sem toga:
7. Ibid., str. 5.
8. Minsky, "Artificial Intelligence", No.3 (septembar 1966), str. 257.

Scientific

American,

Vol. 215,

9. Daniel G. Bobrow, "Natural Language Input for a Computer Problem Solving System", u Semantic Information Processing, str. 135.

STA

RACUNARI

NE

MOGU

97

Postoji nekoliko razloga zasto smo izabrali kontekst algebarskih problema reci u kojima treba da se razvijaju tehnike koje bi osposobile racunarski sistem za resavanje problema za koji bi mogao da primi ulaz izrazen prirodnirn jezikom, Prvo, znamo dobar tip strukture podataka u kome mozerno da primetimo inforrnacije potrebne za odgovore na pitanja u ovom kontekstu, naime, algebarske jednacine.w

Vazno je zapaziti da je problem bio izabran zato sto ga je restriktivni kontekst cinio laksim, Puni znacaj ove restrikcije bite nam jasan tek kada odgovorimo na naredna pitanja. Kako radi program?

Program jednostavno rastavlja recenice problemske price u jedinice na osnovu nagovestaja kao sto su reci "puta", "od", "jednako", itd; izjednacava ove recenicke delove sa x i y; i pokusava da postavi simultane jednacine. Ako ove jednacine ne mogu da se rese, pozivaju se u pomoc dalja pravila za rastavljanje recenica u druge jedinice i pokusava se iznova. Cela shema deluje sarno zato sto postoji odredeno ogranicenje, ikoje nije prisutno u razumevanju obicnog razgovora, da delovi recenice, kadase predstave pomocu promenljivih, moraju da sacine resive jednacine. Kao sto kaze Minsky: " .... neke moguce sintaksicke dvosmislenosti na ulazu razresavaju se na osnovu algebarske konzistentnosti ... "11 Izbor algebarskih problema ima jos jedno preimucstvo:
Dvosmislenosti ne nastaju u prirodnom jeziku samo zbog raznolikosti strukturalnog grupisanja reci, vee isto tako, zbog raznolikosti znacenja koja se rnogu pripisati svakoj pojedinacnoj reci, U programu STUDENT jako semanticko ogranicenje (da recenice izrazavajuialgebarske relacije izrnedu oznacenih entiteta) manje ili vise drzi situaciju pod kcntrolom.v
10. Ibid., str. 137. 11. Minsky, Semantic 12. Ibid., str. 20. Information Processing, str. 18.