„Arme matematice de distrugere”, de Cathy O’Neil
Editura Nemira, Colecția Anticipația, 2017
Traducere din engleză de Adriana și Radu Cimponeriu
Titlul original, „Weapons of Math Destruction”, n-ar însemna mai nimic fără quasi-omofonia dintre „math” (mathematics) și „mass”. Cu alte cuvinte ni se sugerează sintagma „Arme de distrugere în masă” (care știm bine ce sunt), însă cu trimitere directă la matematică (care nu prea știm ce este). Cert lucru, engleza își permite ambiguități la care alte limbi doar visează! În lipsa acestora, traducătorii au găsit o formulă care nu ne lasă libertatea de alegere. Aflăm astfel că personajul principal (colectiv) sunt aceste AMD-uri (ah, mania asta a americanilor de a transcrie totul în acronime!), de fapt niște algoritmi de calcul care se amestecă în viețile noastre și ni le conduc după bunul lor plac. Am citit cartea cu senzația clară că ilustrează baza de date pe care și-a construit Harari înspăimântătorul lui „Homo Deus” și m-am îngrozit: va să zică asta ne așteaptă!
Totul a pornit de la întâlnirea dintre studiile de piață și puterea tot mai mare a calculatoarelor moderne. La început a fost simplu: o armată de operatori ieșea pe stradă și punea întrebări conform unor chestionare axate pe temă. O altă armată centraliza răspunsurile și, apoi, cineva priceput trăgea concluzia: cumpărătorii sunt interesați de cutare caracteristici ale unui produs! În funcție de asta se luau deciziile. Odată cu folosirea intensivă a calculatoarelor, întrebările deveneau mai detaliate: din ce medii provin potențialii cumpărători, ce sex, rasă, avere, studii, religie sau orientări politice au, iar rezultatul era controlabil: deciziile aparțineau unor oameni (mă rog, specialiști, dar tot oameni, până la un punct), așa încât ele, deciziile, depindeau până la urmă de viziunea lor despre lume: idei mai mult sau mai puțin preconcepute despre ceilalți. Mare lucru nu s-a schimbat, a căpătat doar o altă amploare.
Apariția rețelelor de socializare a aruncat însă nevinovatele studii de piață într-o altă zonă. Pe Facebook, Twitter, WhatsApp, tot mai mulți oameni își spun unul altuia păsurile și oferă din plin informații despre ei: de la preferințe gastronomice la date biometrice. Cam tot ce ne privește se găsește acolo, nici nu mai e nevoie de operatori umani. În paralel s-au dezvoltat motoarele de căutare, precum Google, care selectează practic instantaneu informația dorită. Dorită de cine? De oricine! Noi, utilizatorii de rând, o căutăm și suntem mulțumiți că o găsim ușor, dar însuși faptul că am căutat-o pe aceea anume ne este adăugat la dosar și ne trasează profilul. Și astfel, toate acestea puse cap la cap au creat monstrul numit „Big Data”, un ansamblu de informații atât de uriaș (se măsoară în multipli de petabiți, adică de câte 250 biți!) încât nimeni nu-i poate vedea capătul. Pe care nici nu-l are, căci interconexiunile dintre informații se multiplică la nesfârșit. Nimeni, aici, înseamnă chiar nimeni! Nici un om, adică, motiv pentru care ne simțim oarecum în siguranță. Noi și intimitatea noastră. Și, de fapt, pe cine ar interesa ce mănânc eu la micul dejun? Iată că îl interesează, printre alții, pe cel care vrea să-mi vândă cereale, normal. Dar cum poate producătorul de cereale pentru micul dejun să-mi afle obiceiurile alimentare când am spus că nimeni nu poate ajunge la aceste informații? Nici chiar eu? Am spus nimeni, nu nimic! Pentru că negustorul cu pricina folosește algoritmi specializați și extrem de complecși, care le găsesc. Iar de la un timp le și fabrică! Acestea sunt temutele AMD-uri.
Cathy O’Neil este matematician. Probabil un matematician bun, nu mă pricep. Ca om însă, este ceva mai specială. În loc să-și vadă de cariera ei universitară promițător începută, a renunțat la ea și s-a apucat să bântuie prin tot felul de job-uri în finanțe (fonduri de garantare) sau în comerțul electronic, împreună cu care a străbătut marea criză financiară din 2008. Apoi a trecut la militantism în cadrul lui Occupy Wall Street ori al Grupului Alternativ Bancar, și și-a deschis un blog axat pe subiect. Toate astea în paralel cu funcția de mamă a trei copii. Ce-o frământa atât de mult încât să-i alunge somnul? AMD-urile, desigur, după ce a descoperit că departe de a fi simple programe de căutare, acestea începuseră să aibă personalitate proprie. În sensul că, odată intrat în atenția lor, omul obișnuit este automat anexat unor categorii din care nu mai poate să iasă. Fără ca respectivul să știe de ce i se întâmplă ce i se întâmplă.
Ce sunt totuși AMD-urile? Pentru că n-aveau nume, le-a găsit autoarea unul. Pe acesta: Arme Matematice de Distrugere. De fapt sunt algoritmi specializați în sortarea informațiilor privind fiecare un anumit domeniu: cereri de împrumut, CV-uri. Ele fac „liste scurte” ordonate după criteriile specificate de programatori. Adio subiectivism uman, adio prejudecăți, tot umane, obiectivitatea este absolută! Plus viteza de operare, de neatins altfel. Nu-i de mirare că au fost bine primite, atât de beneficiari cât și de public. Ca după aceea, după recepție, să înceapă să apară deranjul: „Criza a demonstrat foarte clar faptul că matematica, odinioară refugiul meu, a fost nu doar profund implicată în problemele lumii, ci a și alimentat multe dintre ele. Criza locuințelor, prăbușirea instituțiilor financiare importante, creșterea șomajului – toate au fost ajutate și susținute de matematicieni înarmați cu formule magice. Mai mult, datorită puterilor sale extraordinare, pe care le-am iubit atât, matematica a reușit să se combine cu tehnologia și împreună au amplificat haosul și nenorocirea, adăugând eficiență și anvergură sistemelor pe care acum le recunosc drept eronate.”
De ce eronate? Tot autoarea ne-o spune: „Aplicațiile potențate de matematică și care pun în mișcare economia digitală se bazează pe alegeri făcute de ființe umane imperfecte… Multe modele au inclus prejudecăți umane, neînțelegere și părtinire în sistemele software ce ne gestionează tot mai mult viața. Asemenea zeilor, respectivele modele sunt opace, modul lor de lucru este invizibil.” Deci tot n-am scăpat de subiectivism, doar că de-acum și-a pierdut și umanitatea. Să ne ferească sfântul de subiectivismul mașinilor, mai ales atunci când tind să ne optimizeze viețile! Se folosesc pentru asta de modele, care nu sunt altceva decât reprezentarea abstractă a unor procese. Ele funcționează bine doar dacă, precum legile fizicii, sunt expresia unui număr foarte mare de informații extrase din realitate. Or așa ceva se întâmplă extrem de rar, cel mai adesea informațiile introduse sunt puține și, mai ales, părtinitoare. Ce șansă poate să aibă cineva în fața judecătorului, dacă acesta citește din auditul său că provine dintr-un mediu infracțional, cu probabilitate mare de recidivă? Dacă a intrat în bucluc, AMD-ul care se ocupă de soarta lui îl ajută să se înfunde și mai rău. Nu se mai judecă fapta, care ar putea foarte bine să nici nu existe, ci persoana: „Noi știm ce poamă ești! Nu contează că astăzi ai furat un ou căci mâine sigur vei fura un bou, și pentru asta te condamnăm preventiv!” Și tot așa. Să ne imaginăm cazul acesta super multiplicat, folosind informații selectate și procesate de mașini și asupra corectitudinii cărora nimeni nu poate intreveni (și nici nu încearcă s-o facă), și vom avea o palidă imagine a ceea ce se petrece cu adevărat. De fapt nu modelele în sine sunt de vină, ci apetența tot mai larg răspândită de a le urma întocmai în ciuda faptului că, afară de matematicieni, nimeni nu are nici cea mai vagă idee despre felul în care funcționează.
Din acest motiv, autoarea explică pe larg și cu numeroase exemple concrete cum se petrec lucrurile. Cum algoritmii adaugă pe șest informație peste informație despre tine, de ajungi să nu te mai recunoști. Cum o profesoară eminentă, îndrăgită de copii, se trezește pusă pe liber pentru rezultate nesatisfăcătoare pentru că AMD-ul care se ocupă de ea a comparat-o aiurea cu te miri ce belferi care s-au gândit din timp cum să facă să le iasă bine CV-ul. Cum nu pot obține credit exact cei care ar avea mai mare nevoie de el. Cum clasamentele de excelență în învățământ introduse pentru colegii se manifestă în buclă, înrăutățind și mai mult situația celor mai slab clasate inițial. Simțind elementul factice din aceste clasamente, administratorii de colegii au trecut la contraatac prin raportări la fel de îndepărtate de spiritul excelenței. Inutil de precizat la ce duce asta.
Un alt domeniu unde AMD-urile falsifică la greu realitatea este cel al publicității online. Veți spune că publicitatea online este doar enervantă atunci când peste clipul pe care-l urmărești și exact în punctul culminant, începe să se scurgă insidios te miri ce reclamă la adidași. Pe care cu greu o poți închide, întrucît și „x”-ul i se mișcă. Sau când, în același punct, este întrerupt de o invitație la un tărg auto care n-are nici măcar buton de închidere. Însă cum aceste inserții sunt cele care-ți permit să urmărești gratuit clipul preferat, le accepți ca pe un rău necesar. Însă indiferent ce vei spune te vei înșela în toate cazurile, pentru că publicitatea online nu e una la grămadă, ci personalizată, care te lovește când ți-e lumea mai dragă: „Când vine vorba de AMD-uri, reclamele agresive definesc practic genul. Ele îi localizează, la o scară enormă, pe cei mai disperați dintre noi. În educație, ele promit ceea ce este de obicei un drum fals spre prosperitate. Operațiunile lor creează bucle de feedback imense și abjecte și lasă clienții îngropați sub munți de datorii. Victimele rareori înțeleg cum au fost aleși sau cum au ajuns recrutorii să știe atâtea despre ei.” La fel se petrec lucrurile în asigurări (inclusiv cele de sănătate), finanțe, credit, sistemul de angajări, comerț, planificare la toate nivelurile. În lupta politică. Aici însă ar fi de făcut o precizare: există în SUA sisteme federale de reglementare pe care politicienii le alimentează periodic cu legi. Dar, cel mai ades, ei propun legile nu chiar din dorința de mai bine, ci din speranța că acțiunea lor le va aduce voturi. Și tot așa.
Concluzia? „Dacă ne retragem din fața modelelor matematice și le tratăm ca pe o forță neutră și inconturnabilă, asemenea vremii sau mareelor, abdicăm de la responsabilitatea pe care o avem iar rezultatul sunt AMD-urile, cele care ne tratează ca pe niște piese de mașini hrănindu-se cu nedreptăți. Să ne unim pentru a le supraveghea, îmblânzi și dezarma. Matematica merită mai mult decât să fie o armă de distrugere, și democrația la fel.” Iar faptul că o astfel de carte a putut să fie scrisă și să apară este un semn că încă nu este totul pierdut.
