Inteligența artificială a intrat în tot mai multe dintre instrumentele digitale pe care le folosim. O întâlnim în motoarele de căutare, în aplicațiile de e-mail, în editoarele de documente, în platformele de comunicare și în serviciile pe care le folosim la locul de muncă. Uneori ne economisește timp, ne ajută să înțelegem informații complicate sau preia sarcini repetitive. Alteori, însă, apare fără să fi cerut-o și fără să fie clar ce date folosește, unde le trimite sau cum o putem opri.
De aici apare întrebarea pe care mi-am pus-o: când a devenit inteligența artificială o funcție pe care trebuie să o refuzăm, în loc să fie una pe care alegem să o activăm?
Punctul de plecare al acestui articol este analiza publicată de JR Raphael în Computerworld, „The next killer AI feature? No AI at all”. Autorul sugerează că absența AI sau posibilitatea de a o dezactiva ar putea deveni, paradoxal, o experiență premium pentru care utilizatorii vor fi dispuși să plătească. Articolul a fost publicat la 9 iulie 2026. (Computerworld)
Am considerat că ideea merită dezvoltată pentru că eu nu cred că adevărata alegere este între „AI peste tot” și „fără AI”. Eu cred că discuția ar trebui să fie despre control: cine decide când este folosită tehnologia, ce face cu datele noastre și cât de ușor putem reveni la o experiență normală?Sunt de acord că AI poate fi extrem de utilă, dar utilitatea sa nu justifică automat prezența ei în orice produs și în orice activitate. Viitorul digital ar trebui construit și în jurul utilizatorilor care pot spune clar: „Da, aici mă ajută” sau „Nu, aici prefer să decid eu”.
De la entuziasmul pentru AI la oboseala provocată de AI
Primul contact cu inteligența artificială generativă a venit, pentru mulți dintre noi, cu o doză firească de entuziasm. Dintr-odată, puteam să rezumăm un document lung, să traducem un text, să generăm idei sau să analizăm informații într-un timp mult mai scurt, iar aceste beneficii sunt reale. Ar fi greșit să le ignorăm doar pentru că tehnologia nu este perfectă. Totuși, entuziasmul începe să se transforme în oboseală atunci când AI apare în tot mai multe aplicații, indiferent dacă avem, sau nu, nevoie de ea.
Oboseala apare și din micile schimbări care se acumulează: interfețele devin mai încărcate cu opțiuni bazate pe AI, în unele motoare de căutare răspunsurile generate sunt afișate înaintea surselor originale, iar funcțiile activate automat încearcă să intervină chiar și în activități pe care le puteam realiza foarte bine fără ajutor. Datele din raportul Stanford AI Index 2026 surprind această relație complicată. La nivel global, ponderea respondenților care considerau că produsele și serviciile AI aduc mai multe beneficii decât dezavantaje a crescut de la 55% în 2024 la 59% în 2025. În același timp, 52% declarau că aceste produse îi fac să se simtă neliniștiți. (Stanford HAI) Cu alte cuvinte, putem aprecia utilitatea AI și, simultan, să fim preocupați de modul în care este introdusă în viața noastră.
Cred că aici se află o distincție importantă. Oboseala față de AI nu înseamnă neapărat respingerea tehnologiei. De multe ori, consider că este o reacție la utilizarea ei excesivă, la lipsa explicațiilor și, mai ales, la sentimentul că nu mai avem o alegere reală. Pe mine, de exemplu, nu mă deranjează întotdeauna că AI există, dar mă deranjează când este activată fără acordul meu. Tocmai de aceea, întrebarea la care am căutat răspuns nu este cum eliminăm AI din produsele digitale, ci cum o facem controlabilă.
Adevărata funcție premium: AI reversibilă
Poate că adevărata funcție premium nu este eliminarea completă a inteligenței artificiale, ci posibilitatea de a o controla. O funcție AI bine proiectată ar trebui să poată fi activată, limitată, verificată și dezactivată fără ca aplicația să devină inutilizabilă. Cu alte cuvinte, AI ar trebui să fie reversibilă.
Prin „AI reversibilă” eu înțeleg o inteligență artificială a cărei intervenție poate fi controlată, verificată și anulată de utilizator. Acesta este un concept pe care îl propun în acest articol pentru a descrie o relație mai echilibrată între oameni și instrumentele automatizate, iar un produs digital ar putea oferi, de exemplu, trei niveluri clare de utilizare.
- Fără AI – În acest nivel, aplicația funcționează fără AI, folosind doar funcțiile sale obișnuite. Utilizatorul nu primește rezumate, sugestii sau rezultate generate automat, iar conținutul său nu este analizat printr-o funcție AI suplimentară.
- AI asistată – În acest nivel, AI intervine numai la cererea utilizatorului. Poate rezuma un document, propune o formulare, traduce un text sau analiza anumite informații, dar nu acționează până când nu primește o comandă clară.
- AI automatizată – În acest nivel, AI poate executa anumite activități în mod automat, dar numai în limite stabilite în prealabil. Utilizatorul trebuie să poată verifica ce a făcut sistemul, să corecteze rezultatul și să anuleze acțiunea.
Consider că această diferențiere este foarte importantă. Una este ca un instrument să îți propună o variantă de text și alta este să trimită automat mesajul, să modifice un document sau să ia o decizie în numele tău. În practică, unele produse ne oferă astăzi doar două variante: acceptăm funcția AI așa cum a fost configurată sau încercăm să o evităm. Uneori nici măcar nu este clar dacă dezactivarea unui buton oprește și prelucrarea datelor care se desfășoară în spatele acestuia. Un produs cu adevărat orientat către utilizator ar trebui să răspundă simplu la câteva întrebări:
- Ce face AI?
- Ce date folosește?
- Poate acționa fără confirmare?
- Pot verifica rezultatul?
- Pot anula acțiunea?
- Pot reveni la versiunea anterioară?
- Produsul continuă să funcționeze dacă dezactivez AI?
Tehnologia devine cu adevărat utilă nu atunci când face cât mai multe lucruri în locul nostru, ci atunci când ne lasă să alegem ce dorim să îi delegăm.
Unde AI ajută cu adevărat și unde devine doar zgomot
Inteligența artificială își dovedește cel mai bine utilitatea atunci când răspunde unei nevoi concrete. Ne poate ajuta să rezumăm un document lung, să comparăm informații, să traducem un text, să identificăm tipare într-un volum mare de date sau să pregătim o primă variantă a unui material. În astfel de situații, beneficiul este ușor de observat: economisim timp, reducem munca repetitivă și ne putem concentra asupra activităților care necesită experiență, judecată și asumarea unei decizii.
AI poate avea un rol important și în accesibilitate. Poate transforma vorbirea în text, poate descrie imagini, poate simplifica anumite informații sau adapta conținutul pentru persoane cu nevoi diferite. În securitate cibernetică, poate sprijini analiza alertelor și identificarea unor comportamente neobișnuite, iar în educație, poate explica aceeași noțiune în mai multe moduri, în funcție de nivelul persoanei care învață.
Problemele apar atunci când AI este adăugată doar pentru că tehnologia este la modă, nu pentru că utilizatorul are nevoie de ea. O sugestie automată care întrerupe permanent activitatea, un rezumat care înlocuiește sursa originală sau o funcție care reformulează un mesaj simplu pot produce mai multă confuzie decât valoare. Riscul crește atunci când instrumentul:
- prelucrează informații confidențiale;
- oferă răspunsuri fără surse;
- generează informații care par credibile, dar sunt greșite;
- acționează fără confirmare;
- influențează decizii care afectează oamenii;
- este dificil de verificat sau de oprit.
O eroare într-o propunere de titlu poate fi corectată ușor. O eroare într-o evaluare profesională, într-o recomandare medicală, într-o analiză juridică sau într-o decizie privind o persoană poate avea consecințe mult mai serioase, de aceea, înainte de a folosi AI, merită să răspundem la aceste trei întrebări:
- Ce problemă concretă rezolvă?
- Ce date trebuie să îi oferim?
- Ce se întâmplă dacă rezultatul este greșit?
AI nu ar trebui evaluată după cât de spectaculoasă pare, ci după valoarea reală pe care o aduce și după riscul pe care ni-l cere să îl acceptăm.
Prețul invizibil al comodității: datele și confidențialitatea
Comoditatea oferită de inteligența artificială are, uneori, un preț pe care nu îl vedem imediat. Pentru a primi un rezumat, o analiză sau o recomandare, introducem în sistem texte, documente și întrebări. Acestea pot conține date personale, informații despre colegi, clienți sau membri ai familiei, precum și detalii confidențiale despre activitatea profesională. Ce se întâmplă mai departe depinde de serviciul folosit, de versiunea acestuia, de contract și de setările aplicate.
Datele pot fi prelucrate în infrastructura unui furnizor extern, pot fi păstrate pentru o anumită perioadă sau pot fi utilizate pentru monitorizarea și îmbunătățirea serviciului. În cazul sistemelor bazate pe cloud, prelucrarea poate implica și transferuri de date în afara Spațiului Economic European. Condițiile diferă de la un furnizor la altul și trebuie verificate înainte de utilizarea serviciului.
Orientările revizuite ale Autorității Europene pentru Protecția Datelor, publicate la 28 octombrie 2025, sunt adresate instituțiilor, organismelor, oficiilor și agențiilor Uniunii Europene. Ele oferă însă și altor organizații un reper practic util pentru înțelegerea fluxurilor de date, documentarea utilizărilor AI și evaluarea relațiilor cu furnizorii. (European Data Protection Supervisor)
Nici ideea că un model AI este automat „anonim” nu trebuie acceptată fără verificare. În Avizul 28/2024, Comitetul European pentru Protecția Datelor arată că anonimitatea unui model AI trebuie evaluată de la caz la caz. Pentru ca un model să poată fi considerat anonim, trebuie să fie foarte puțin probabil atât ca persoanele din datele utilizate pentru dezvoltarea sa să poată fi identificate, cât și ca date personale să poată fi extrase din model prin interogare. (Consiliul European al Datelor) Riscurile nu sunt doar tehnice, ele pot ține și de dreptul nostru de a divulga informațiile respective.
Un angajat poate avea acces legitim la un document în cadrul organizației, dar acest lucru nu înseamnă automat că are și dreptul de a-l încărca într-un serviciu AI public. Documentul poate conține date despre clienți, informații comerciale confidențiale sau materiale protejate prin contract. Înainte să introducem un document într-un instrument AI, merită să ne întrebăm:
- Conține informații pe care avem dreptul să le divulgăm?
- Știm cine este furnizorul?
- Știm unde sunt procesate datele?
- Știm cât timp sunt păstrate?
- Putem solicita ștergerea lor?
- Sunt folosite pentru antrenarea sau îmbunătățirea sistemului?
- Cine mai poate avea acces la ele?
- Există o variantă locală sau mai puțin intruzivă?
Uneori, câteva minute economisite nu justifică pierderea controlului asupra unor informații care nu ne aparțin doar nouă. Pentru o analiză mai amplă a riscurilor mai puțin vizibile ale sistemelor AI, poate fi consultat și ghidul „Artificial Intelligence Risks: The Invisible Dangers Guide”, publicat anterior pe acest website. (Ion Iordache)
AI Act și GDPR: ce drepturi avem?
Când vorbim despre controlul asupra inteligenței artificiale, AI Act și GDPR sunt adesea menționate împreună. Cele două regulamente se completează, dar nu fac același lucru. Regulamentul (UE) 2024/1689 privind inteligența artificială, cunoscut drept AI Act, stabilește în principal reguli pentru dezvoltarea, introducerea pe piață și utilizarea sistemelor AI, în funcție de riscurile acestora. GDPR se aplică atunci când sunt prelucrate date cu caracter personal, indiferent dacă prelucrarea implică sau nu inteligență artificială.
Ce aduce AI Act – AI Act stabilește reguli diferențiate în funcție de nivelul de risc, iar anumite utilizări ale inteligenței artificiale sunt interzise. Sistemele considerate cu risc ridicat trebuie să respecte cerințe suplimentare, iar anumite aplicații sunt supuse unor obligații de transparență. Pentru sistemele cu risc minim sau inexistent, regulamentul nu introduce același nivel de obligații. (Strategia Digitală a Europei)
Regulamentul nu tratează în același mod un instrument care propune un titlu pentru un articol și un sistem folosit pentru recrutare, creditare, educație, biometrie sau infrastructuri critice. Pentru utilizatorul obișnuit, transparența este una dintre cele mai vizibile schimbări și, de exemplu, în anumite situații, oamenii trebuie informați că interacționează cu un sistem AI. Articolul 50 prevede și obligații privind marcarea într-un format detectabil a anumitor materiale generate sau manipulate artificial, precum și obligații de informare privind conținutul de tip deepfake și anumite texte publicate pentru informarea publicului.
Obligațiile de transparență prevăzute de articolul 50 se aplică, în principiu, de la 2 august 2026. Regulamentul de simplificare căruia Consiliul Uniunii Europene i-a acordat aprobarea finală la 29 iunie 2026 stabilește, pentru anumite soluții tehnice de transparență implementate de furnizori, termenul de 2 decembrie 2026. La data actualizării acestui articol, Consiliul anunțase că actul urma să fie publicat în Jurnalul Oficial al Uniunii Europene și să intre în vigoare în a treia zi de la publicare. (Strategia Digitală a Europei) AI Act a intrat în vigoare la 1 august 2024, iar aplicarea sa este etapizată:
- practicile AI interzise și obligațiile privind alfabetizarea în domeniul AI se aplică din 2 februarie 2025;
- normele de guvernanță și obligațiile pentru modelele AI de uz general se aplică din 2 august 2025;
- obligațiile de transparență prevăzute de articolul 50 se aplică, în principiu, din 2 august 2026. (Strategia Digitală a Europei)
În forma aprobată de Consiliu la 29 iunie 2026, termenele maxime pentru aplicarea cerințelor referitoare la sistemele AI cu risc ridicat sunt:
- 2 decembrie 2027 pentru sistemele independente cu risc ridicat, inclusiv cele din domeniile prevăzute în anexa III;
- 2 august 2028 pentru sistemele AI cu risc ridicat integrate în anumite produse reglementate. (Consiliul European)
ATENȚIE! Aceste date trebuie reverificate, deoarece normele europene, standardele și documentele de implementare continuă să evolueze.
Ce ne oferă GDPR – Atunci când sunt prelucrate date personale, GDPR conferă persoanelor, în condițiile stabilite de regulament, drepturi precum:
- dreptul la informare;
- dreptul de acces;
- dreptul la rectificare;
- dreptul la ștergere;
- dreptul la restricționarea prelucrării;
- dreptul la portabilitatea datelor;
- dreptul la opoziție.
Modul în care aceste drepturi pot fi exercitate depinde de scopul prelucrării, temeiul juridic utilizat și celelalte condiții prevăzute de regulament.
Un drept important privește anumite decizii luate exclusiv prin mijloace automate. Articolul 22 din GDPR se aplică atunci când decizia este luată fără o intervenție umană reală și produce efecte juridice sau afectează persoana într-un mod comparabil de important. Pot intra în această categorie, în funcție de context, refuzarea unui credit, respingerea automată a unei candidaturi sau limitarea accesului unei persoane la un serviciu, dar există și excepții. (Consiliul European al Datelor)
O asemenea decizie poate fi permisă, de exemplu, dacă este necesară pentru încheierea sau executarea unui contract, este autorizată prin dreptul Uniunii Europene ori prin dreptul național aplicabil sau se bazează pe consimțământul explicit al persoanei. În cazurile prevăzute de regulament trebuie instituite măsuri adecvate de protecție. Acestea pot include posibilitatea persoanei de a solicita intervenția unui om, de a-și exprima punctul de vedere și de a contesta decizia.
Ce nu trebuie să presupunem – Nici AI Act, nici GDPR nu stabilesc un drept universal de a dezactiva orice funcție AI din orice produs digital. Nu orice recomandare generată automat reprezintă o decizie în sensul articolului 22 din GDPR. Nu orice utilizare a AI presupune prelucrarea datelor personale. Nu orice interacțiune cu un chatbot generează automat un drept la intervenție umană. Prin urmare, ideea de „AI la alegere” pe care o propun în acest articol merge dincolo de cerința juridică minimă. Este un principiu de proiectare și de bună guvernanță: utilizatorul ar trebui să știe când intervine AI, să poată înțelege consecințele și, acolo unde este posibil, să aibă o alternativă reală.
Șase principii pentru o AI la alegere
În domeniul protecției datelor este cunoscut principiul „privacy by design”. În formularea juridică a GDPR, vorbim despre protecția datelor începând cu momentul conceperii și în mod implicit. Ideea este foarte simplă: garanțiile necesare nu trebuie adăugate la final, după ce produsul este deja construit, ci integrate încă din etapa de proiectare.
Acest principiu este prevăzut de articolul 25 din GDPR și detaliat în Orientările 4/2019 ale Comitetului European pentru Protecția Datelor. (Consiliul European al Datelor)
Eu cred că avem nevoie de o abordare asemănătoare și pentru inteligența artificială și o putem numi „AI by choice” (AI prin alegere), care este un principiu pe care îl propun în acest articol. Ideea este ca inteligența artificială să nu fie introdusă automat în orice activitate, ci să fie proiectată astfel încât utilizatorul să poată decide în mod real dacă, atunci când și în ce limite dorește să o folosească. Pentru ca utilizatorul să beneficieze de un control real, AI ar trebui să îndeplinească șase condiții.
- AI trebuie să fie vizibilă – Utilizatorul trebuie să știe când interacționează cu un sistem AI și când un rezultat a fost generat, modificat sau recomandat de acesta. AI nu ar trebui să acționeze în mod ascuns, iar utilizatorul nu ar trebui să fie obligat să studieze pagini întregi de condiții contractuale pentru a afla că o funcție aparent obișnuită utilizează inteligența artificială.
- AI trebuie să fie opțională – Funcțiile care nu sunt esențiale pentru serviciu ar trebui să poată fi activate sau dezactivate fără ca produsul să devină inutilizabil. Alegerea nu este reală atunci când refuzarea AI înseamnă pierderea accesului la funcțiile de bază ale produsului.
- Controlul trebuie să fie granular – Utilizatorul nu ar trebui să primească o singură opțiune pentru toate funcțiile AI. Poate că vrem să folosim AI pentru traducere, dar nu pentru analiza e-mailurilor. Poate acceptăm un rezumat, dar nu dorim ca sistemul să răspundă automat în numele nostru, sau poate folosim generarea de text, dar refuzăm personalizarea bazată pe istoricul activității.
- AI trebuie să fie reversibilă – Rezultatele importante trebuie să poată fi verificate, corectate și anulate. Cu cât consecințele unei acțiuni sunt mai serioase, cu atât controlul uman trebuie să fie mai puternic. O acțiune automată fără mecanism de anulare transformă o simplă eroare într-o posibilă consecință permanentă.
- Utilizarea trebuie să fie proporțională – Nu putem trata în același mod o sugestie pentru un titlu și o decizie care afectează angajarea, creditarea, educația sau accesul unei persoane la un serviciu. Nivelul de control, documentare și supraveghere trebuie să crească odată cu nivelul riscului.
- Responsabilitatea trebuie să rămână identificabilă – În spatele oricărui sistem trebuie să existe o persoană sau o organizație care își asumă responsabilitatea pentru modul în care acesta este utilizat. Expresia „a decis algoritmul” nu poate înlocui răspunderea umană și organizațională. „AI by choice” nu înseamnă mai puțină inovație. Înseamnă o inovație care respectă autonomia utilizatorului și care nu confundă automatizarea cu dispariția responsabilității.
Recomandări pentru utilizatorii individuali
Nu cred că este nevoie să renunțăm la instrumentele AI pentru a ne proteja datele și autonomia. Este suficient să le folosim mai atent și să nu tratăm orice funcție automată ca fiind, în mod implicit, sigură sau necesară.
- Verificați setările după actualizările importante – Unele funcții AI pot fi activate automat sau pot apărea în locuri noi după actualizarea unei aplicații. O scurtă verificare a opțiunilor de confidențialitate, personalizare și utilizare a datelor poate preveni activarea unor funcții nedorite.
- Nu introduceți informații sensibile în instrumente neaprobate – Evitați introducerea parolelor, informațiilor medicale, documentelor confidențiale, datelor despre clienți sau informațiilor care aparțin altor persoane în servicii publice pentru care nu ați verificat condițiile de utilizare. Faptul că serviciul este popular sau ușor de folosit nu înseamnă că este potrivit pentru orice tip de informație.
- Verificați dacă datele sunt folosite pentru îmbunătățirea modelelor – Atunci când furnizorul oferă această opțiune, verificați dacă informațiile introduse pot fi folosite pentru antrenarea sau îmbunătățirea sistemului. Decideți conștient dacă acceptați această utilizare și dezactivați-o atunci când nu este necesară.
- Verificați rezultatele generate – AI poate formula foarte convingător informații greșite, incomplete sau depășite. Pentru subiectele importante, sursa originală rămâne mai valoroasă decât răspunsul automat. Verificați în special datele, citatele, prevederile legale, recomandările profesionale și informațiile care pot influența o decizie.
- Dezactivați funcțiile care nu aduc un beneficiu real – Faptul că o aplicație poate genera, analiza sau recomanda ceva nu înseamnă că trebuie să îi delegăm acea activitate. Mai multă automatizare nu înseamnă automat o experiență mai bună.
- Cereți explicații când o decizie vă afectează – Atunci când o decizie automată vă afectează semnificativ, întrebați cine a luat decizia, ce informații au fost folosite și cum poate fi verificată sau contestată. Nu orice proces automat oferă un drept juridic la intervenție umană, dar întrebarea rămâne legitimă.
- Folosiți o regulă simplă – Dacă nu putem explica ce date folosește sistemul, unde sunt trimise și cum putem corecta rezultatul, nu ar trebui să îi încredințăm o decizie importantă.
Recomandări pentru organizații
La nivelul unei organizații, utilizarea responsabilă a inteligenței artificiale nu poate depinde doar de atenția fiecărui angajat. Este nevoie de reguli clare, responsabilități și mecanisme prin care utilizările AI să poată fi identificate, evaluate și, atunci când este necesar, oprite.
Începeți cu un inventar al utilizărilor AI – Înainte să elaboreze o politică, organizația trebuie să știe ce instrumente sunt deja folosite. Inventarul nu ar trebui să cuprindă doar aplicațiile achiziționate oficial, ci și serviciile publice la care angajații apelează din proprie inițiativă. Utilizarea acestor servicii în afara proceselor aprobate este uneori descrisă prin expresia „shadow AI”. Pentru fiecare utilizare ar trebui stabilit:
- cine folosește instrumentul;
- pentru ce activitate este folosit;
- ce tipuri de date sunt introduse;
- cine furnizează serviciul;
- unde sunt prelucrate datele;
- dacă rezultatele influențează decizii;
- dacă sistemul poate acționa fără confirmare umană;
- cine răspunde pentru verificarea rezultatului.
Un instrument public folosit pentru redactarea unui mesaj obișnuit nu prezintă același risc ca un sistem conectat la bazele de date ale organizației sau utilizat pentru evaluarea angajaților.
Clasificați utilizările în funcție de risc – O soluție simplă este împărțirea utilizărilor în trei categorii:
- utilizări permise;
- utilizări permise în anumite condiții;
- utilizări interzise.
Clasificarea ar trebui să țină cont de sensibilitatea datelor, impactul asupra persoanelor, nivelul de autonomie acordat sistemului și consecințele unei eventuale erori. Cu cât o utilizare este mai greu de verificat sau de anulat, cu atât controlul trebuie să fie mai strict.
NIST AI Risk Management Framework este un cadru voluntar destinat integrării criteriilor de încredere în proiectarea, dezvoltarea, utilizarea și evaluarea produselor și sistemelor AI. Cele patru funcții ale cadrului sunt Govern, Map, Measure și Manage: guvernare, înțelegerea contextului, măsurarea riscurilor și gestionarea lor. (NIST) NIST a publicat și un profil dedicat inteligenței artificiale generative, care descrie riscuri și acțiuni specifice acestui tip de tehnologie. (NIST) Pentru aprofundarea acestei abordări poate fi consultat și materialul „AI Risk Management: A Practical Guide to Preparing for AI Act Compliance”. (Ion Iordache)
Păstrați o alternativă umană – Pentru procesele importante ar trebui să existe o variantă care nu depinde exclusiv de AI. Aceasta poate însemna:
- o procedură manuală;
- un canal prin care o persoană poate cere explicații;
- posibilitatea de contestare;
- o verificare înainte de executarea unei acțiuni;
- un mecanism prin care automatizarea poate fi oprită.
Alternativa umană nu este necesară doar pentru situațiile în care sistemul greșește. Ea contribuie și la continuitatea activității atunci când serviciul nu este disponibil, se modifică fără avertizare sau nu mai poate fi utilizat în condițiile acceptate inițial.
Evaluați furnizorii, nu doar funcționalitățile – O demonstrație impresionantă nu este suficientă pentru alegerea unui furnizor. Organizația trebuie să înțeleagă:
- unde sunt prelucrate datele;
- cât timp sunt păstrate;
- dacă sunt folosite pentru îmbunătățirea modelelor;
- ce subcontractanți sunt implicați;
- ce măsuri de securitate sunt aplicate;
- cum sunt gestionate incidentele;
- cum pot fi șterse sau recuperate datele.
Evaluarea ar trebui să acopere și:
- controlul accesului;
- jurnalizarea activităților;
- notificarea incidentelor;
- modificarea condițiilor contractuale;
- drepturile de audit;
- disponibilitatea serviciului;
- posibilitatea de a exporta informațiile;
- riscul de dependență față de furnizor.
Pentru sistemele importante trebuie analizat și ce se întâmplă dacă organizația decide să schimbe furnizorul.
Stabiliți reguli pe care oamenii le pot înțelege – O politică internă nu ar trebui să fie doar un document juridic pe care nimeni nu îl citește. Angajații trebuie să știe concret:
- ce instrumente pot folosi;
- ce informații nu pot introduce;
- pentru ce activități este necesară aprobarea;
- când este obligatorie verificarea umană;
- cine răspunde pentru rezultat;
- cui trebuie să raporteze o eroare sau un incident.
O regulă pe care oamenii nu o înțeleg este greu de aplicat, indiferent cât de bine este redactată juridic.
Pregătiți oamenii în funcție de rol și risc – Articolul 4 din AI Act, aplicabil din 2 februarie 2025, solicită furnizorilor și entităților care utilizează sisteme AI să ia măsuri pentru asigurarea unui nivel suficient de alfabetizare în domeniul AI pentru personalul și celelalte persoane care folosesc sistemele în numele lor. Nivelul de pregătire trebuie stabilit ținând cont de cunoștințele tehnice, experiența, educația, instruirea și contextul în care sunt utilizate sistemele. (Strategia Digitală a Europei) Aceasta înseamnă că un utilizator ocazional, un specialist IT și un manager care aprobă utilizarea unui sistem nu au nevoie de aceeași instruire.
Alfabetizarea AI nu înseamnă neapărat obținerea unui anumit certificat și nici organizarea aceluiași curs pentru toți angajații. Comisia Europeană precizează că nu există o cerință unică privind formatul instruirii și că măsurile trebuie adaptate rolului, sistemului și riscurilor. Organizațiile pot păstra evidențe interne ale activităților de instruire și orientare. (Strategia Digitală a Europei) Oamenii trebuie să înțeleagă:
- ce poate face instrumentul;
- ce nu poate garanta;
- ce riscuri produce;
- cum se verifică rezultatele;
- când trebuie oprită automatizarea;
- când este necesară escaladarea către un specialist.
Construiți un sistem de guvernanță, nu doar o listă de interdicții – O organizație responsabilă nu încearcă să interzică orice utilizare a AI. Creează limite suficient de clare pentru ca oamenii să poată beneficia de tehnologie fără să transfere către aceasta și responsabilitatea pentru propriile decizii.
Pentru organizațiile care doresc să transforme aceste reguli într-un sistem de management verificabil, articolul „De la standard la certificare: implementarea SR ISO/IEC 42001:2024” explică legătura dintre guvernanța AI, evaluarea impactului și certificare. (Ion Iordache)
Va deveni controlul asupra AI un serviciu premium?
Întrebarea formulată de JR Raphael este provocatoare tocmai pentru că răstoarnă promisiunea obișnuită a industriei tehnologice. Ni se spune că mai multă inteligență artificială înseamnă un produs mai bun, dar dacă, la un moment dat, experiența considerată premium va fi cea în care AI poate fi oprită, limitată sau folosită numai la cerere?
Articolul din Computerworld prezintă exemple de servicii și reacții ale utilizatorilor care sugerează existența unei cereri pentru produse digitale mai simple, în care AI este absentă sau opțională. (Computerworld) Un asemenea scenariu este plauzibil, iar unii utilizatori ar putea fi dispuși să plătească pentru:
- o interfață mai simplă;
- mai puține intervenții automate;
- procesarea locală a datelor;
- excluderea conținutului din procesele de antrenare;
- control granular asupra funcțiilor;
- o experiență fără rezultate generate automat.
Organizațiile ar putea plăti, la rândul lor, pentru:
- controale administrative mai clare;
- păstrarea datelor într-un anumit spațiu geografic;
- jurnale de activitate;
- garanții contractuale;
- integrarea cu propriile sisteme de securitate;
- posibilitatea de a dezactiva selectiv funcțiile AI.
Din punctul meu de vedere, totuși, aici apare o problemă de echitate. Transparența, protecția datelor și posibilitatea de a refuza funcțiile neesențiale nu ar trebui să devină privilegii rezervate celor care își permit un abonament mai scump. Utilizatorul nu ar trebui să plătească suplimentar doar pentru a afla ce face sistemul cu datele sale sau pentru a păstra accesul la funcția de bază a produsului. Este firesc ca furnizorii să taxeze funcții avansate, capacitate suplimentară, procesare dedicată sau garanții contractuale pentru mediul profesional, dar consider că este mai greu de acceptat ca posibilitatea de a limita o prelucrare inutilă sau de a păstra o experiență fără intervenții automate să fie tratată ca un lux. Nu cred că absența completă a AI va deveni neapărat produsul premium, ci mai probabil, adevărata diferențiere comercială va fi controlul:
- cine poate decide ce funcții sunt active;
- ce date folosesc;
- unde sunt prelucrate;
- câtă autonomie primesc;
- cât de ușor pot fi oprite.
Întrebarea este dacă acest control va fi inclus în produs sau va fi vândut separat.
Perspectiva mea: tehnologia poate sprijini decizia, nu înlocui responsabilitatea
În activitatea mea profesională, la intersecția dintre securitate, managementul riscului, protecția datelor și pregătirea oamenilor, am întâlnit de multe ori aceeași situație: o tehnologie este adoptată înainte ca organizația să stabilească regulile după care va fi folosită. Entuziasmul este ușor de înțeles deoarece un instrument promite rezultate mai rapide, costuri mai mici și mai puțină muncă repetitivă, dar întrebările importante apar însă atunci când trecem de la promisiuni la evaluarea concretă a instrumentului:
- Ce risc reduce?
- Ce riscuri noi introduce?
- Ce date folosește?
- Cine verifică rezultatele?
- Cine aprobă utilizarea?
- Cine răspunde atunci când sistemul greșește?
În securitate, nu considerăm o măsură bună doar pentru că este modernă. O evaluăm în funcție de context, proporționalitate și consecințe. Analizăm ce problemă rezolvă, ce vulnerabilități introduce și cum funcționează atunci când apar situații neprevăzute. Același principiu ar trebui aplicat și inteligenței artificiale. Un sistem poate sprijini analiza și decizia, dar nu ar trebui să devină o scuză pentru dispariția responsabilității umane. Cred că organizațiile care vor folosi bine AI nu vor fi neapărat cele care o introduc primele în fiecare proces, ci vor fi cele care știu:
- unde aduce tehnologia valoare;
- unde trebuie limitată;
- unde este necesară verificarea;
- unde decizia trebuie să rămână la o persoană identificabilă.
La fel de importantă este pregătirea oamenilor pentru că nu este suficient să le oferim acces la un instrument și să presupunem că îl vor folosi corect. Ei trebuie să înțeleagă ce poate face, ce nu poate garanta și când trebuie să se oprească pentru a verifica. Tehnologia nu înlătură responsabilitatea; în multe cazuri, îi crește importanța.
Un viitor cu AI și alegeri reale
Inteligența artificială poate economisi timp, poate face informațiile mai accesibile și poate sprijini activități care înainte necesitau un efort considerabil. Nu avem nevoie de o reacție de respingere și nici de o întoarcere la un trecut fără automatizare; avem însă nevoie de alegeri reale. Utilizatorii ar trebui să știe când intervine AI, ce date folosește și ce se întâmplă cu rezultatele sale. Organizațiile ar trebui să poată decide unde este permisă, cine o supraveghează și ce alternativă există atunci când sistemul nu funcționează sau nu este potrivit pentru o anumită activitate. Înainte de a adopta o funcție AI, rămân esențiale trei întrebări:
- Ce problemă rezolvă?
- Ce date îi oferim?
- Ce se întâmplă dacă greșește?
Dacă răspunsurile sunt clare, tehnologia poate deveni un instrument valoros; dacă nu sunt, noutatea nu este un motiv suficient pentru a o folosi. Poate că următoarea mare inovație nu va fi un sistem care face tot mai multe lucruri în locul nostru. sau poate va fi un produs care ne explică ce face, ne cere acordul înainte să acționeze și acceptă fără obstacole răspunsul „nu”. Aceasta este, în esență, ideea de „AI by choice”: nu mai puțină inteligență artificială, ci mai multă transparență, responsabilitate și libertate de decizie.
Notă de transparență și metodologie
Acest articol a fost elaborat printr-o colaborare hibridă om–inteligență artificială, pornind de la articolul „The next killer AI feature? No AI at all”, publicat de JR Raphael în Computerworld și menționat transparent ca sursă de inspirație. În procesul de documentare și creație au fost utilizate următoarele instrumente:
- ChatGPT (OpenAI): pentru dezvoltarea structurii articolului, redactarea asistată, analiza critică a argumentelor, identificarea repetițiilor și verificarea preliminară a informațiilor și surselor bibliografice;
- ChatGPT Images (OpenAI): pentru generarea imaginii principale pe baza indicațiilor și specificațiilor formulate de mine.
Informațiile juridice și tehnice au fost verificate prin consultarea surselor indicate în articol, cu prioritate a documentelor oficiale publicate de Uniunea Europeană, Comitetul European pentru Protecția Datelor, Autoritatea Europeană pentru Protecția Datelor și NIST. Inteligența artificială a fost utilizată ca instrument de documentare, analiză și redactare asistată, nu ca autor autonom. Ideea centrală a articolului, conceptul „AI by choice”, selecția argumentelor, interpretarea surselor, recomandările practice și perspectiva profesională exprimată îmi aparțin. Responsabilitatea pentru forma finală a textului, pentru selecția și acuratețea informațiilor, pentru verificarea surselor, pentru calitatea suportului vizual și pentru opiniile și concluziile prezentate îmi aparține în totalitate. Această notă subliniază angajamentul meu pentru o utilizare etică, transparentă și asumată a inteligenței artificiale în cercetare, creație și comunicare profesională.
Surse și lecturi suplimentare
- JR Raphael, „The next killer AI feature? No AI at all”, Computerworld, 9 iulie 2026
- Stanford Institute for Human-Centered AI, „Public Opinion”, AI Index Report 2026
- Regulamentul (UE) 2024/1689 privind inteligența artificială, EUR-Lex
- Comisia Europeană, „AI Act – Regulatory Framework”
- Consiliul Uniunii Europene, aprobarea regulamentului de simplificare a normelor AI, 29 iunie 2026
- Comisia Europeană, „Code of Practice on Transparency of AI-Generated Content”
- Comisia Europeană, „AI Literacy – Questions & Answers”
- Comitetul European pentru Protecția Datelor, Avizul 28/2024 privind modelele AI
- Autoritatea Europeană pentru Protecția Datelor, orientările revizuite privind AI generativă, 28 octombrie 2025
- Comitetul European pentru Protecția Datelor, „Respect individuals’ rights”
- Comitetul European pentru Protecția Datelor, Orientările 4/2019 privind protecția datelor începând cu momentul conceperii și în mod implicit
- NIST, Artificial Intelligence Risk Management Framework
- NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile
Lecturi pe ioniordache.com