Inteligența artificială a devenit parte din viața noastră – de la chatbot-urile cu care interacționăm când căutăm suport online, până la recomandările Netflix sau deciziile automate de pe platformele de social media. Dar, odată cu beneficiile, AI-ul aduce și riscuri: de la decizii discriminatorii și lipsă de transparență, la utilizări abuzive în supraveghere sau manipulare informațională.
AI Act, primul regulament major la nivel global dedicat inteligenței artificiale, este răspunsul Uniunii Europene la această nouă realitate. Este legea care își propune să creeze un cadru sigur și etic pentru dezvoltarea și utilizarea sistemelor AI, având la bază protecția utilizatorilor.
Dar cum te afectează concret această lege? Și ce schimbări vei observa ca simplu utilizator al tehnologiilor AI? Hai să descoperim împreună!
Înainte de a înțelege de ce AI Act este important pentru tine, haide să vedem ce tipuri de inteligență artificială folosim în viața de zi cu zi:
- AI vizibil – AI-ul cu care interacționezi direct
Este tipul de AI pe care îl recunoști ușor, pentru că îl „vezi” sau îl „auzi” în mod direct:
- Chatbot-uri – asistenții virtuali care îți răspund pe site-urile de servicii (ex: banca ta sau un magazin online);
- Asistenți vocali – Siri, Alexa sau Google Assistant, care îți oferă informații sau îți controlează dispozitivele inteligente;
- AI în aplicații creative – aplicații care generează texte (ex: ChatGPT), imagini (ex: Midjourney) sau muzică.
Ce trebuie să știi?
AI Act îți garantează că trebuie să știi clar când interacționezi cu un sistem AI și nu cu o persoană reală.
2. AI invizibil – AI-ul din spatele platformelor
Este tipul de AI care funcționează „în spatele cortinei” și care influențează experiența ta digitală fără să îți dai seama:
- Algoritmii de recomandare – care decid ce vezi în feed-ul de social media sau ce filme îți sunt sugerate pe Netflix;
- Sistemele automate de decizie – AI care aprobă sau respinge automat un credit bancar sau o asigurare;
- AI folosit în securitatea cibernetică – sisteme care detectează tentativele de fraudă în plățile tale online.
Ce trebuie să știi?
AI Act impune ca deciziile automate care îți afectează viața (ex: un credit refuzat sau o oportunitate pierdută) să fie explicate și posibil de contestat.
3. AI creativ – AI-ul generativ
Acesta este tipul de AI care „creează” ceva nou:
- AI care generează texte (ex: articole, poezii sau postări pentru social media);
- AI care creează imagini, videoclipuri sau muzică;
- AI care produce deepfake-uri – imagini sau clipuri video false, dar care par autentice.
Ce trebuie să știi?
AI Act vrea să se asigure că deepfake-urile și alte creații AI care pot induce în eroare sunt etichetate clar, iar utilizatorii sunt protejați de riscurile de manipulare.
Acum… ce este AI Act și ce își propune?
AI Act este prima lege din lume care stabilește reguli clare pentru dezvoltarea, comercializarea și utilizarea sistemelor de inteligență artificială în Uniunea Europeană. Scopul său este dublu:
- să stimuleze inovarea și utilizarea AI, dar într-un cadru sigur;
- să protejeze cetățenii împotriva riscurilor aduse de implementarea necontrolată a acestor tehnologii.
AI Act folosește o abordare bazată pe riscuri, împărțind sistemele AI în patru categorii:
- Risc inacceptabil – interzise (ex: AI care manipulează comportamentul sau care folosește recunoașterea facială în spații publice, fără temei legal).
- Risc ridicat – strict reglementate (ex: AI folosit în recrutare, îngrijire medicală, infrastructură critică).
- Risc limitat – obligații de transparență (ex: chatbot-uri sau generatoare de imagini/texte).
Cum te protejează AI Act, ca utilizator?
- Dreptul de a ști când interacționezi cu un AI
Problema: De multe ori nu știi dacă vorbești cu un chatbot sau cu o persoană reală, ceea ce poate duce la confuzie sau chiar manipulare subtilă.
Ce schimbă AI Act: Orice AI cu care interacționezi trebuie să îți spună clar că este un sistem automatizat.
Exemplu: Dacă ceri informații pe site-ul unei bănci și un chatbot îți răspunde, vei fi informat explicit că „acest mesaj a fost generat de un AI”.
2. Dreptul la decizii explicabile și corecte
Problema: AI poate lua decizii automate – de la acordarea unui credit până la recrutare sau trierea unui CV – fără să știi pe baza căror criterii a acționat.Ce schimbă AI Act: Sistemele AI cu risc ridicat vor trebui să respecte standarde stricte:
- să fie explicabile – să îți poată spune pe ce bază a fost luată o decizie automată;
- să fie nediscriminatorii – să nu excludă persoane pe baza genului, vârstei, etniei etc.;
- să poată fi contestate.
Exemplu: Dacă AI-ul unui angajator îți respinge automat aplicația, vei avea dreptul să ceri explicații și să soliciți o revizuire umană a deciziei.
3. Interzicerea AI-ului invaziv
Problema: AI este deja folosit pentru supraveghere biometrică în unele țări sau pentru scoring social, practici care afectează grav libertățile personale.
Ce schimbă AI Act:
Sunt interzise:
- Recunoașterea facială în timp real în spațiile publice (cu excepții limitate – ex: pentru cazuri penale bine justificate);
- AI care manipulează vulnerabilitățile utilizatorilor (ex: AI care profită de vârsta fragilă a copiilor pentru a influența deciziile);
- Sistemele de „scoring social” (cum există în China), prin care cetățenii sunt clasificați în funcție de comportamentele online sau offline.
Exemplu: O autoritate publică nu va putea folosi AI pentru a „nota” cetățenii în funcție de obiceiuri sau activități personale.
4. Control mai mare asupra datelor tale
AI Act va funcționa în tandem cu GDPR, asigurând că datele personale folosite de AI sunt corecte, relevante și proporționale cu scopul.
Exemplu: Dacă folosești un AI pentru generare de conținut sau un asistent personal, va trebui să fii informat cum îți sunt procesate datele și să îți poți retrage consimțământul în orice moment.
AI Act și ChatGPT sau alte AI generative
Un subiect fierbinte este modul în care AI Act afectează AI-ul generativ (ex: ChatGPT, Midjourney, DALL·E).
Aceste tehnologii vor fi obligate să:
- marcheze clar conținutul generat ca fiind creat de un AI (ex: „acest text a fost generat de un AI”);
- implementeze măsuri pentru a preveni utilizarea AI în deepfakes sau dezinformare;
- ofere utilizatorilor posibilitatea de a înțelege cum sunt antrenate modelele AI și ce surse de date sunt folosite.
Exemplu: Un videoclip fals generat de AI cu o persoană publică (deepfake) va trebui să fie etichetat și să existe obligația de a preveni distribuirea lui masivă fără verificare.
Când intră în vigoare AI Act?
Regulamentul a fost aprobat în decembrie 2023, a intrat oficial în vigoare în a doua jumătate a anului 2024, cu aplicare treptată, în funcție de tipul de AI. Din 2 februarie 2025 a intrat în vigoare interzicerea folosirii a 8 tipuri de sisteme de inteligență artificială, în UE, inclusiv în România.
De ce contează pentru tine?
✔ Mai multă transparență – vei ști când AI-ul este folosit în deciziile care te privesc.
✔ Protecție împotriva AI-ului abuziv – limitarea tehnologiilor invazive și a manipulării automate.
✔ Decizii echitabile și revizuibile – mai ales în recrutare, sănătate, educație sau servicii publice.
✔ Siguranță sporită împotriva deepfakes și conținut generat de AI cu potențial de dezinformare.
Ce urmează la CyberPuls?
Vom continua să explicăm AI Act pe înțelesul tuturor și vom explora teme precum:
- Ce înseamnă „AI cu risc ridicat” și cum sunt verificate aceste sisteme;
- Cum afectează AI Act sectorul educației și al sănătății;
- Ce responsabilități au companiile care dezvoltă AI generativ.
Rămâi cu CyberPuls pentru a înțelege cum să folosești AI în mod sigur și responsabil!
CyberPuls #AIAct #AIRegulation #AIethics #SecuritateOnline #AIResponsabil #AIinUE #Digitalio
La fel ca stilul, și siguranța cibernetică se cultivă.
Rămâi aproape pentru a te convinge!
