”Dumnezeu și Golemul”, de Norbert Wiener
Editura Humanitas, București, 2019
Traducere de Tudor Călin Zarojanu
Scrierile lui Norbert Wiener și știința ciberneticii au avut o recepție furtunoasă încă de la începuturile prezenței lor în atenția publicului. Savantul american de origine evreiască, descendent al lui Maimonides – filosoful, medicul și enciclopedistul Renașterii timpurii -, era croit parcă după tiparul ilustrului său strămoș. Era matematician, dar și filosof de formație. Contribuise la eforturile de război ale Statelor Unite în timpul primului și al celui de-al doilea război mondial, dar se alăturase imediat după Hiroshima grupului de oameni de știință care trimiteau avertismente publice în legătură cu pericolele abisale ale invențiilor și avansurilor tehnologice accelerate de conflictele politice globale. Luările sale pacifiste de poziții au reprezentat puncte de discordie cu ceilalți întemeietori ai ciberneticii și mai ales cu John von Neumann, imediat după cel de-al doilea război mondial. Deși a fost un susținător al colaborării între blocurile politice în perioada Războiului Rece, scrierile sale nu au fost bine primite nici în Uniunea Sovietică și alte țări comuniste, cibernetica fiind aspru criticată și combătută ca ‘știință burgheză’ în anii ’50. Nu prea era loc în sistemul de gândire dominat de ‘socialismul științific’ pentru încă o teorie unificatoare, care explica fenomene din domenii atât de diferite de la balistica rachetelor la macroeconomie, trecând prin microchimia organismelor sau evoluția speciilor cu ajutorul unui set minim de concepte de bază – comunicare, control, auto-perfecționare sau auto-învățare. Chiar și în perioada studiilor mele, în anii ’70, se vorbea puțin despre cibernetică în Politehnica bucureșteană, până și atunci când erau predate teoria sistemelor sau automatizările. Paradoxal, se infiintase o secție de cibernetică economică în cadrul Academiei de Științe Economice, exact in domeniul științelor economice, domeniu despre care Wiener fusese sceptic in legătură cu aplicabilitatea principiilor ciberneticii.
Editura Humanitas oferă acum cititorilor români eseul ‘Dumnezeu și Golemul’, în traducerea excelentă a lui Tudor Călin Zarojanu. Publicată în 1964, anul morții lui Wiener, această lucrare a căpătat un statut de testament intelectual. În ea, matematicianul și omul de știință Wiener folosea uneltele filosofului și talentul său de eseist pentru a oferi publicului larg o sinteză a descoperirilor la care contribuise în ultimele două decenii și pentru a explica relevanța acestora în dezbaterile filosofice care preocupau intelectualitatea vremii, dar și în actualitatea politică și viața socială a perioadei. Subtitlul este oarecum derutant: ‘Comentariu asupra câtorva probleme în care cibernetica intră în contradicție cu religia’. În fapt, nu este vorba despre o contradicție în idei, ci mai degrabă despre o încălcare a frontierelor existente la data apariției cărții dintre metodele științifice și matematice de cunoaștere a universului și cele specifice înțelegerii sufletului uman, considerate apanajul religiei. Pentru filosoful Wiener, dreptul la erezie este garantat cercetătorului științific și gânditorului care are curajul să depășească limitele acceptate:
‘Această expunere oferă cheia scopului meu în cartea de față. Doresc să analizez anumite situații care au fost discutate în cărțile religioase și au o dimensiune religioasă, dar care sunt în analogie strânsă cu alte situații, care țin de știință și, in particular, de noua știință a ciberneticii, adică știința comunicării și controlului, fie la mașini, fie la organisme vii. În acest sens, îmi propun să mă folosesc de analogiile limitate ale situațiilor din cibernetică pentru a clarifica puțin situațiile religioase.’ (pag. 14)
Ceea ce frapează în ‘Dumnezeu și Golemul’ este actualitatea ideilor expuse și a dezbaterilor propuse de Norbert Wiener. Cartea lui își găsește locul astăzi nu numai în rafturile rezervate cărților de filosofie (cu sub-ramura filosofiei științei), ci și în cele rezervate actualității, ceea ce americanii numesc genul ‘curent affairs’. Singurele deosebiri, nu prea multe și la nivel de detaliu însă, cu lucrări similare contemporane, sunt cele de terminologie. Un exemplu ar fi faptul că Wiener evită să folosească termenul ‘robot’ (deși citează cartea ‘R.U.R.’ a lui Karel Čapek) și preferă termenul mai generic de ‘mașină’.
Problema pe care o atacă frontal Norbert Wiener este cea a relației dintre Creator și Creațiile sale, tema Cărții lui Iov sau a ‘Paradisului Pierdut’ al lui John Milton. Este aceasta relație o relație între egali, sau măcar între forțe care pot concura între ele în unele aspecte? Iată o întrebare care în anumite momente ale istoriei a fost asociată ereziilor. Ea este cu atât mai tulburătoare, cu cât pentru Wiener, Creatorul este și Dumnezeu în relația cu creația sa, Omul, dar și Omul în relația cu creația sa, Mașina. Pot Creatorii și Creațiile lor fi angrenați într-un joc în care Creația va avea vreodată șansa să-l învingă pe Creator? Aplicând terminologia și principii din teoria jocurilor și cibernetică (după ce le explică pe scurt), savantul american răspunde afirmativ, dar cu două condiții: Creația să aibă capacitatea de a învăța (‘self-learning’ în terminologia modernă a Inteligenței Artificiale) și ca jocul să aibă criterii imuabile și deterministe de a decide învingătorul. Poate fi însă existența umană modelată că un joc in care criteriile de succes sunt clare și imuabile?
Wiener propune trei puncte de vedere existente în cibernetică, care pot fi aplicate problemelor umane în general (‘problemelor religioase’): unul se referă la mașinile care învață, menționate mai sus; al doilea întrebării dacă mașinile sunt capabile de auto-reproducere; în fine, dacă gradul de coordonare dintre om și mașină poate fi menținut sub control. Capacitatea lui de prevedere este excepțională. Să luăm că exemplu discuția despre posibilitatea ca mașinile să creeze alte mașini ‘după chipul și asemănarea lor’. Ne aflăm in anul 1964, și Norbert Wiener propune conceptele ‘imaginilor picturale’ și cel al ‘imaginilor operative’ care ar putea fi create de mașini. Avea să mai treacă aproape jumătate de secol până când să apară conceptul și aparatura de printare 3D.
‘Căci ideea că presupusa creare a omului și animalelor de către Dumnezeu, zămislirea ființelor vii potrivit speciilor lor, și posibila reproducere a mașinilor aparțin aceluiași tip de fenomen este o idee tulburătoare din punct de vedere emoțional, așa cum au fost tulburătoare speculațiile lui Darwin asupra evoluției și a descendenței omului.’ (pag. 43)
Wiener a făcut parte din categoria savanților conștienți de pericolele fetișizării progresului tehnologic. Asociindu-le într-o comparație care a devenit citat fără sursă cu magia sau chiar cu vrăjitoria practicate de-a lungul veacurilor, el nu ezită să amintească parabola ucenicului vrăjitor, și avertizează asupra pericolelor aservirii ideologice a tehnologiilor avansate unor factori dogmatici, fie ei ‘din lumea mea, cu sloganele ei de liberă inițiativa, motivată de progresul economic‘, fie dintr-o ‘lume diferită de a noastră, unde sloganurile sunt dictatura proletariatului, a marxismului și a comunismului’. Tehnologia iesita de sub control este principalul pericol care pândește relația viitoare dintre Om și Mașină. Problema este sincronizarea scopurilor, și nu întotdeauna este clar dacă Creatorul Om știe exact să-și definească scopurile și să aleagă între cele pe terment scurt și cele pe termen lung (o alta parabolă, cea a celor 200 de lire).
‘Un mecanism care urmărește un scop nu va urmări neapărat scopurile noastre, decât dacă îl proiectăm pentru acel scop și, în proiectarea lui, prevedem toți pașii procesului pentru care îl construim, în loc să exersăm o tentativă de previziune care merge până la un anumit punct și poate fi continuată de acolo, pe măsură ce apar alte dificultăți. Sancțiunile pentru erorile de prognoză, așa mari cum sunt acum, vor deveni enorme pe măsură ce automatizarea își intră complet în rol.’ (pag. 55)
Mi-ar fi plăcut să asist la un dialog dintre Wiener și Asimov, în care savantul să comenteze cele trei legi ale roboticii. Sunt mari șanse că Wiener le-a cunoscut, în orice caz ele fuseseră formulate pentru prima dată într-o povestire a lui Asimov publicată în 1942, și inclusă în volumul ‘I, Robot’ care apăruse în 1950 și devenise un best-seller. Acestea stabilesc o prioritate a deciziilor pe care Mașinile le pot lua, și ghidează sistemul de învățare al acestora, furnizând un fel de sistem de referință moral pentru Creații în raport cu Creatorii lor.
Creatorul trebuie să rămână întotdeauna la comandă. Într-un paragraf care conține o altă prevedere a unei tehnologii care avea să aștepte încă o jumătate de secol până la punerea în aplicare, Wiener scrie:
‘Nu mi-ar plăcea deloc să fac prima probă a unui automobil condus prin dispozitive de feedback fotoelectric, exceptând cazul în care există o manetă prin care să pot prelua controlul dacă mă trezesc întrând intr-un copac.’ (pag. 55)
Concluziile eseului lui Norbert Wiener conțin mai mult avertismente decât asigurări optimiste. Fiecare dintre progresele majore ale științei și realizările tehnologice derivate din acestea – automatizarea și robotica, energia nucleară, progresele medicinei care pot prelungi teoretic la nesfârșit durata vieții umane – poartă în ele pericole pe măsură avantajelor potențiale, mai ales in condițiile definirii vagi a scopurilor progresului și aservirii unor sisteme de referință rigide, dogmatice:
‘Nu atât felul rigidității este cel mai nociv, cât rigiditatea în sine, oricare ar fi ea.’ (pag. 69)
‘… viitorul nu oferă prea multă speranță pentru cei care se așteaptă ca noii noștri sclavi mecanici să ne asigure o lume în care nu mai trebuie să gândim. Ei ne vor putea ajuta, dar cu prețul unor cerințe de cea mai mare importanță privind onestitatea și inteligența noastră. Lumea viitorului va fi o luptă din ce în ce mai acerbă împotriva limitărilor inteligenței umane, și nu un hamac confortabil în care să ne putem întinde pentru a fi slujiți de sclavi roboți.’ (pag. 59)
‘ Să dăm omului ce e al omului și computerului ce e al computerului. Aceasta pare să fie politica cea mai inteligentă atunci când folosim omul și calculatorul în sarcini comune.’ (pag. 61)
Acum ca și acum 65 de ani, diviziunea muncii dintre om și mașină, dintre sarcinile asumate de roboții inteligenți și cele rămase ca responsabilitate exclusivă pentru operatorii umani, rămâne cheia interacției dintre aceștia. Alegând să folosească metafora Creatorului pentru descrierea omului ca inventator al speciei roboților dotați cu inteligență artificială și auto-perfecționare, Norbert Wiener trimite în această ultimă carte a sa un avertisment peste timp Creatorului. Bagheta magică trebuie să rămână in mâinile vrăjitorului.
