Am încheiat articolul precedent despre “prostia politică”, așa cum ați remarcat unii dintre voi, într-o notă pesimistă, spunând că, în timp ce politica transformă prostia într-un spectacol, tehnologia o echipează pentru a deveni o unealtă de manipulare precisă și extinsă. Timpul irosit pe platforme precum TikTok, unde algoritmii ne livrează iluzii croite pe măsura noastră, este departe de a fi progresul pe care ni-l imaginam, unii dintre noi, pentru specia noastră. Pornind de la această constatare, în acest articol, voi aprofunda subiectul, având ca sursă de inspirație, așa cum v-am obișnuit, cartea lui Cezary Pietrasik, „Homo Idioticus”, capitolul „Technological Stupidity”.
Pietrasik deschide capitolul cu un paradox: pe de o parte, am ajuns să avem puteri aproape divine, precum editarea genetică, la preț de gumă de mestecat; pe de altă parte, ne demonstrăm o stupiditate surprinzătoare în modul în care folosim și înțelegem tehnologia. Motivul? Creierul nostru, un produs a milioane de ani de evoluție, este încă “optimizat pentru savana africană”, nu pentru jungla de siliciu și fibră optică în care trăim. Această nepotrivire fundamentală stă la baza multor decizii iraționale pe care le luăm.
Paradoxul invențiilor ignorate…
Una dintre cele mai fascinante idei pe care le subliniază Pietrasik este “orbirea tehnologică”, capacitatea noastră de a avea o invenție remarcabilă în fața ochilor și de a o ignora complet. Exemplul aztecilor este emblematic: deși au inventat roata, au folosit-o exclusiv la jucării. O civilizație capabilă să construiască orașe mai mari decât Londra sau Parisul acelor vremuri nu a văzut potențialul practic al uneia dintre cele mai transformatoare invenții ale umanității. La fel, grecii și romanii antici, deși cunoșteau principiile aburului (Heron din Alexandria a inventat eolipila, un prototip de motor cu aburi în secolul I d.Hr.), această descoperire a fost considerată doar o curiozitate și nu a fost aplicată în mod practic pentru transport.
Primele proiecte de Inteligență Artificială au fost considerate experimentale și lipsite de utilitate practică, iar primele aplicații de IoT (senzori conectați la net) păreau inutile pentru uz casnic sau industrial, fiind folosite doar pentru monitorizare simplă.
Ce ne spune asta? Că evoluția nu este o certitudine și nu urmează o cale dreaptă. Chiar și atunci când deținem răspunsul, riscăm să nu-l aplicăm, fie pentru că suntem prizonierii obiceiurilor, fie pentru că ne lipsește imaginația de a-i vedea potențialul. Acest lucru rezonează profund cu activitatea mea de consultant de securitate. De nenumărate ori am văzut organizații care dețin tehnologiile necesare pentru a se proteja (sisteme de detecție a intruziunilor, soluții de criptare avansate), dar nu le folosesc corect din inerție, complexitate sau pur și simplu pentru că “așa s-a făcut mereu”. O vulnerabilitate cunoscută, dar necorectată, este echivalentul modern al roții folosite ca jucărie, un potențial imens, irosit din stupiditate.
Încredere oarbă sau scepticism paralizant…
Relația noastră cu tehnologia este una a extremelor, lipsită de nuanțe. Pietrasik ne arată cele două fețe ale monedei. Pe de o parte, avem neâncrederea costisitoare: marina americană a ignorat ani la rând invenția radarului, o tehnologie care, implementată la timp, ar fi putut schimba soarta atacului de la Pearl Harbor. Scepticismul lor a costat mii de vieți. Ignorarea riscurilor cibernetice din partea organizațiilor și tratarea superficială a securității IT au permis hackerilor să acționeze nestingheriți. Conform raportului Verizon, în 83% dintre cazuri atacatorii au profitat de deficiențe minore ce puteau fi ușor prevenite, multe companii considerând securitatea drept un „produs” gata de folosit, nu o procesualitate activă. Scepticismul față de noile riscuri digitale e contrabalansat de o lipsă de conștientizare: sistemele bancare automate au fost păcălite de documente false create cu ajutorul tehnologiei deepfake, deoarece experții au subestimat rapiditatea cu care tehnologia poate fi folosită în scopuri frauduloase.
Pe de altă parte, avem încrederea absurdă, aproape comică dacă n-ar fi periculoasă: faimosul caz al turiștilor japonezi care au intrat cu mașina direct în ocean pentru că “așa le-a spus GPS-ul”. Au urmat o instrucțiune digitală în detrimentul realității vizibile din spatele parbrizului. Râdem, dar câți dintre noi nu am urmat orbește Waze-ul pe străduțe imposibile doar pentru că promitea să ne salveze 2 minute?
Cercetări recente au analizat 158 de cazuri internaționale de accidente grave și mortale provocate de urmarea fără discernământ a indicațiilor Google Maps, Waze sau Apple Maps; 57% au fost accidente rutiere, 16% cazuri în care șoferii au ajuns la adrese greșite, iar în 28% incidentele au avut urmări fatale. Așa-numita „moarte prin GPS” rezultă din renunțarea la gândirea critică în favoarea credinței absolute în tehnologie. Printre exemple, șoferi care au intrat pe drumuri interzise, pe contrasens sau au ajuns blocați în zone izolate, deși realitatea evidentă le arăta altceva.
Un accident mortal în China, cu un automobil Xiaomi fără șofer, a ridicat mari semne de întrebare privind încrederea excesivă în sistemele automate, șoferul nu a reacționat timp de minute întregi, bazându-se pe faptul că automobilul „știa ce face”, și a intervenit abia când era prea târziu. Încrederea automatizată a dus direct la tragedie, deși avertizările sistemului erau clare.
Această dualitate este un coșmar din perspectiva securității. Atacatorii moderni exact pe asta mizează. Oamenii fie ignoră avertismentele de securitate (actualizări, parole complexe), considerându-le o bătaie de cap inutilă, fie cad pradă atacurilor de phishing pentru că au o încredere oarbă într-un email care pare oficial și le promite ceva urgent sau avantajos. Lipsa unui echilibru rațional între vigilență și încredere este o vulnerabilitate fundamentală pe care tehnologia nu o rezolvă, ci, dimpotrivă, adesea o amplifică.
Iluzia cunoașterii și paradoxul abstinenței…
Credem că stăpânim lumea din jurul nostru, dar majoritatea dintre noi nu putem explica în detaliu cum funcționează un fermoar, darămite un microprocesor sau rețeaua electrică de care depindem. Această “iluzie a cunoașterii”, cum o numește Pietrasik, ne face aroganți și neglijenți. Ne bazăm pe tehnologie în mod excesiv, pentru cele mai banale sarcini, de la a verifica dacă afară e întuneric cu o aplicație, până la a ne lăsa gândirea critică pe mâna algoritmilor de pe rețelele sociale. Externalizăm funcții cognitive esențiale și, încet-încet, ne atrofiăm capacitatea de a judeca independent.
Poate cel mai șocant exemplu al impactului social este legat de viața noastră intimă. Pietrasik corelează lansarea iPhone-ului, a Facebook-ului și a site-urilor pornografice gratuite cu o creștere dramatică a procentului de tineri sub 35 de ani care nu au avut relații sexuale în ultimul an. Tehnologia, promițând conectare și interacțiune fără precedent, a ajuns să faciliteze o izolare convenabilă și să înlocuiască interacțiunile umane reale, cu toate riscurile și recompensele lor, cu satisfacții facile, digitale și lipsite de substanță.
Puterea de a ne autodistruge…riscul suprem…
Tehnologia ne-a oferit puterea de a ne anihila ca specie. Pietrasik aduce în discuție analiza lui Toby Ord, cercetător la Future of Humanity Institute din Oxford (The Precipice: Existential Risk and the Future of Humanity) care estimează că riscul unei extincții cauzate de om în următorii 100 de ani este de 1 la 6, depășind cu mult orice risc natural, precum impactul cu un asteroid. Principalele amenințări? Războiul nuclear, pandemiile create în laborator și, mai presus de toate, o inteligență artificială nealiniată cu interesele umane.
Din perspectiva mea, acesta este cel mai mare “incident de securitate” posibil. Dezvoltăm sisteme din ce în ce mai puternice, cu o viteză exponențială, fără a avea maturitatea, etica sau mecanismele de control pentru a le gestiona. La fel cum o companie poate da faliment din cauza unui sistem IT prost securizat, civilizația noastră se joacă cu focul, construind unelte care ne-ar putea depăși capacitatea de a le stăpâni. Pericolul nu este o IA malefică, așa cum vedem în filmele SF, ci una perfect logică, care, în urmărirea unui obiectiv (ex: eradicarea unei boli), ar putea ajunge la concluzia că umanitatea este o variabilă problematică ce trebuie eliminată.
Așadar, tehnologia acționează ca un accelerator. Poate accelera progresul, dar, după cum vedem, accelerează cu aceeași vigoare și prostia noastră inerentă. Ne oferă soluții la probleme pe care tot ea le-a creat, într-un ciclu care pare să ne afunde și mai mult în dependență și iraționalitate.
Această tendință de a aloca resurse imense în direcții greșite, fie că vorbim de dezvoltarea de arme apocaliptice sau de algoritmi care ne irosesc timpul și ne polarizează, ne conduce direct către următorul pilon al stupidității umane. Cum se face că, deși avem un potențial tehnologic uriaș, ajungem să luăm decizii economice dezastruoase, care subminează națiuni întregi? În următorul articol al acestei serii, voi prezenta cum prostia noastră economică, alimentată de aceleași slăbiciuni psihologice, ne sabotează sistematic bunăstarea și viitorul.
Dacă tehnologia ne-a arătat că putem fi proști la viteză digitală, economia ne demonstrează că putem monetiza această prostie la scară industrială. Și da, sunt conștient de ironia că scriu asta, folosind tehnologie pe care nu o înțeleg pe deplin, pentru cititori care probabil au 15 tab-uri deschise în browser în acest moment.
Dar hei, măcar suntem proști împreună, și asta, într-un fel ciudat, e aproape reconfortant.