În activitatea mea profesională de consultanță de securitate, întâlnesc frecvent persoane care consideră că inteligența artificială „știe” răspunsul sau „consultă” o bază de date așa cum am face noi într-o bibliotecă. Realitatea este mult mai pragmatică și, sincer, fascinantă. AI-ul nu caută adevărul, ci calculează probabilități.
Inspirat de analiza lui Julian Horsey, în articolul său “How AI Models Generate Text : Explained In Simple Terms from Prompt to Reply” am analizat procesul prin care un model de limbaj (LLM) transformă o solicitare într-un răspuns coerent. Pentru a face lucrurile tangibile, vom urmări ce se întâmplă atunci când îi cerem AI-ului ceva specific, folosind un exemplu concret din domeniul evaluarii riscurilor la securitatea fizica, respectiv, tehnica pentru identificarea riscurilor: “Liste de verificare, clasificari si taxonomii” descrisa in standardul IEC 31010:2019. Această tehnică structurată este utilizată pentru identificarea sistematică a riscurilor prin organizarea informațiilor în categorii predefinite, liste standardizate și scheme de clasificare ierarhice.
Promptul exemplu: “Generează o listă de verificare pentru identificarea riscurilor de efracție la un depozit, utilizând tehnica clasificărilor din standardul IEC 31010:2019.”
Modelele de limbaj mari (LLM), Claude, ChatGPT sau Gemini, au capacitatea de a genera text care pare natural si uman. Acest proces, desi complex din punct de vedere tehnic, poate fi inteles prin parcurgerea a cinci etape esentiale.
Etapa 1. Tokenizarea – Descompunerea cererii…
Primul lucru pe care îl face modelul nu este să citească propoziția, ci să o spargă în bucăți digitale. AI-ul nu vede cuvinte, ci secvențe de caractere numite „tokens”. Un token poate fi un cuvânt întreg, o silabă sau chiar un spațiu. Fiecare token primeste un identificator numeric unic. Procesul este similar cu modul în care un bibliotecar cataloghează cărțile: fiecare carte primeste un cod unic care permite identificarea și regăsirea rapidă.
Exemplul concret: Modelul preia promptul despre IEC 31010 și îl fragmentează. „IEC” devine un token, „31010” altul, „risc” altul. Pentru AI, acestea sunt doar numere într-un tabel uriaș. Această etapă este critică deoarece, dacă modelul nu a fost antrenat corect pe terminologia tehnică (de exemplu, dacă sparge greșit acronimul „SSV”), interpretarea ulterioară va fi eronată. El transformă limbajul nostru complex, într-un șir numeric pe care îl poate procesa matematic.
Modelul AI fragmenteaza aceasta solicitare astfel:
2. Integrarea (Vectorizarea) – Context și Semnificație…
Odată tokenizat, textul intră într-un spațiu multidimensional. Aici are loc „înțelegerea”. Fiecare token este transformat într-un vector (o listă de coordonate) o reprezentare matematica a semnificatiei sale. Cuvintele cu semnificații similare sunt plasate aproape unele de altele, în acest spațiu matematic.
Exemplul concret: Aici se face diferența dintre un răspuns generic și unul expert. Modelul plasează vectorul pentru „efracție” în proximitatea vectorilor pentru „perimetru”, „acces neautorizat” și „forțare”. Mai important, asociază „IEC 31010” cu „ISO 31000” și „managementul riscului”, distanțându-l de concepte irelevante. AI-ul înțelege matematic faptul că cerem o structură formală (standard), nu o simplă opinie. Dacă vectorizarea este corectă, el „știe” că tehnica listelor de verificare implică o succesiune logică de întrebări DA/NU sau puncte de control.
Analogia cu taxonomiile IEC 31010: Exact cum standardul clasifică tehnicile de evaluare a riscurilor în categorii ierarhice (identificare, analiză, evaluare), modelul AI organizează cunostințele în clustere semantice interconectate.
3. Mecanismul Transformer – Stabilirea Priorităților…
Mecanismul Transformer reprezintă nucleul modelelor moderne de limbaj. Acestea utilizează un mecanism numit atentie (attention) care analizează relatțile dintre toate cuvintele din text simultan, nu secvential. Mecanismul de atenție îi permite modelului să se concentreze pe relațiile dintre cuvinte, indiferent de distanța lor în propoziție. El decide ce cuvinte sunt cele mai importante pentru a genera răspunsul corect.
Imaginati-vă ca citiți un document complex: nu procesați cuvânt cu cuvânt, ci ochii dvs. sar între secțiuni relevante. Transformerul face exact acest lucru … dar matematic.
Exemplul concret: Când modelul procesează promptul, mecanismul de atenție îi spune să pondereze masiv termenii „depozit” și „efracție”. De ce? Pentru ca lista generată să nu includă elemente de cybersecurity sau safety (protecția muncii), ci să rămână strict pe security (securitate fizică). De asemenea, „atenția” leagă termenul „IEC 31010” de structura răspunsului. AI-ul se uită în urmă la toți termenii anteriori pentru a se asigura că viitoarea predicție rămâne fidelă contextului de risc fizic.
Cand proceseaza solicitarea privind lista de verificare pentru riscuri de efractie la depozit, mecanismul de atentie identifica care cuvinte sunt cele mai relevante:
Analogie cu practica securitatii: Un evaluator de risc la securitatea fizică experimentat face acelasi lucru cand analizeaza un obiectiv: conecteaza mental amplasamentul cu tipul de amenintare si standardul aplicabil.
4. Predicția – Calcularea Probabilităților…
Aici dispare magia și rămâne statistica pură. Modelul nu „scrie” creativ, ci prezice următorul cel mai probabil token din secvență, bazându-se pe miliardele de texte pe care a fost antrenat. El calculează probabilitatea ca un anumit cuvânt să urmeze după contextul creat anterior.
Exemplul concret: După ce a generat titlul „Listă de verificare conform IEC 31010”, modelul trebuie să genereze primul punct. Analizează probabilitățile: după „verificarea”, ce urmează?
- „vremii” (probabilitate 0.001%)
- „stocurilor” (probabilitate 15% – context de depozit, dar nu de securitate)
- „perimetrului” (probabilitate 85% – context puternic de securitate fizică)
Modelul va alege „perimetrului” sau „gardului”, construind fraza: 1. Integritatea perimetrului. Procesul se repetă pentru fiecare cuvânt, construind taxonomia riscurilor pas cu pas, bazându-se pe tiparele statistice din manualele de securitate pe care le-a „citit” în timpul antrenamentului.
Să presupunem că modelul a generat deja: “Puncte de verificare pentru securitatea perimetrului” și trebuie să decidă urmatorul cuvant:
Notă! Probabilitățile sunt bazate pe modele statistice, nu pe verificarea faptelor. De aceea, modelele AI pot genera uneori informații inexacte, un fenomen numit “halucinație”. În domeniul securitatii, validarea umană rămâne esențială.
5. Eșantionarea – Decodarea și generarea răspunsului final…
Ultima etapă transformă vectorii și probabilitățile înapoi în text lizibil pentru noi. Aici intervin setările de „temperatură” (care controlează cât de predictibil sau creativ să fie modelul). Pentru standarde tehnice, cazul nostru, vrem o temperatură scăzută (precizie maximă).
- Temperatura: Valorile scăzute fac modelul mai predictibil, orientându-l spre alegerea cuvintelor cu cea mai mare probabilitate de apariție. Valorile ridicate introduc mai multă variabilitate, permițând răspunsuri mai creative sau mai diverse.
- Top-p (eșantionare nucleu): Acest parametru restrânge opțiunile de selecție la un grup de cuvinte a căror sumă cumulată a probabilităților atinge un anumit prag, menținând astfel un echilibru între varietate și coerență.
Exemplul concret: Rezultatul final apare pe ecran: o listă structurată, clasificând riscurile în Amenințări Externe (efracție prin perimetru), Vulnerabilități Interne (control acces deficitar) și Riscuri Operaționale. Deși pare că un consultant a redactat lista, este de fapt o reconstrucție statistică a modului în care standardul IEC 31010 este aplicat, de obicei în documentele tehnice.
Implicații…
Întelegerea modului în care modelele AI genereaza text ne permite să le utilizam mai eficient și să evaluam corect, rezultatele obținute:
- Tokenizarea ne învață să structurăm solicitările eficient, evitând formulări inutil de complexe.
- Integrarea explică de ce modelul întelege relațiile semantice dintre concepte precum: riscuri, amenințări și măsuri de protecție.
- Mecanismul Transformer demonstrează cum modelul analizează contextul complet pentru răspunsuri coerente.
- Predicția ne avertizează că răspunsurile sunt bazate pe modele statistice, iar validarea umană rămâne esențială.
- Esantionarea ne oferă control asupra echilibrului între precizie și creativitate.
Pentru consultanții de securitate si evaluatorii de risc la securitatea fizică, care lucrează cu standarde precum IEC 31010, această întelegere le permite utilizarea eficientă a AI-ului ca instrument de asistență în dezvoltarea listelor de verificare, taxonomiilor de riscuri și a oricerei tehnici de evaluare a riscului, menținând întotdeauna validarea profesională a rezultatelor generate. AI-ul este un asistent puternic, dar responsabilitatea conformității cu standardul IEC rămâne, indiscutabil, la noi.
Despre acest material:
Acest articol reprezintă o adaptare originală în limba română a conceptelor prezentate de Julian Horsey în articolul “How AI Models Generate Text: Explained In Simple Terms from Prompt to Reply“ publicat pe Geeky Gadgets. Conținutul a fost complet rescris și adaptat pentru audiența de profesioniști în securitate, cu exemple practice relevante din domeniul evaluării riscurilor la securitatea fizică, conform IEC 31010:2019, utilizând și modelele de limbaj mari (LLM), Claude și Gemini.
Referinte:
- Horsey, J. (2026). How AI Models Generate Text. Geeky Gadgets.
- IEC 31010:2019 Risk management – Risk assessment techniques
- LearnThatStack. (2026). AI Text Generation Explained [Video]. YouTube