de Monica Stătescu, partener,
Eduard Maxim, associate, Filip & Company
Începând cu 2 februarie 2025, dispozițiile capitolului I și II ale Regulamentului UE 2024/1689 de stabilire a unor norme armonizate privind inteligența artificială, cunoscut și drept EU AI Act („Actul privind IA”), referitoare la alfabetizarea privind utilizarea inteligentei artificiale („IA”) și interzicerea utilizării sistemelor IA care prezintă riscuri inacceptabile, au intrat în vigoare.
Actul privind IA prevede o abordare etapizată privind intrarea sa în vigoare, diferite părți ale actului fiind aplicabile la 6, 12, 18, 24 și 36 de luni de la adoptarea inițială a actului, pe 1 august 2024. Primul astfel de prag de timp a fost atins la 2 februarie 2025, marcând intrarea în vigoare a Capitolului I („Dispoziții generale”) și Capitolului II („Practici interzise în domeniul IA”) ale Actului privind IA.
Obligații privind alfabetizarea în domeniul IA
Începând cu 2 februarie 2025, furnizorii de sisteme IA (entități care dezvoltă sisteme IA, introduc sisteme IA pe piață sau pun în funcțiune sisteme IA sub propriul nume sau marcă) precum și implementatorii de sisteme IA (entități care folosesc sisteme IA sub autoritatea lor în cursul activităților profesionale) au obligația de a lua măsuri pentru a asigura, în cea mai mare măsură posibilă, un nivel suficient de alfabetizare în domeniul IA al personalului și al altor persoane care se ocupă de operarea și utilizarea sistemelor IA în numele lor. Actul privind IA definește alfabetizarea în domeniul IA ca fiind competențele, cunoștințele și înțelegerea necesare pentru a facilita implementarea sistemelor IA în cunoștință de cauză și conștientizarea oportunităților, riscurilor și prejudiciilor posibile pe care utilizarea IA le presupune.
În prezent, nu sunt prevăzute sancțiuni specifice pentru încălcarea obligațiilor privind alfabetizarea în domeniul IA, însă se poate presupune în mod rezonabil că îndeplinirea sau neîndeplinirea acestor obligații poate fi avută în vedere de către autoritățile competente drept un factor în determinarea sancțiunii corespunzătoare aplicate unui furnizor sau implementator pentru alte încălcări ale Actului privind IA.
Practici interzise în domeniul IA
De asemenea, începând cu 2 februarie 2025, sistemele IA care prezintă riscuri inacceptabile pentru drepturile fundamentale, statul de drept și valorile Uniunii Europene, sunt interzise conform Capitolului 2 al Actului privind IA. Practicile IA interzise sunt următoarele:
- Manipularea și tehnicile înșelătoare: introducerea pe piață, punerea în funcțiune sau utilizarea sistemelor IA care folosesc tehnici subliminale, manipulative sau înșelătoare cu scopul sau efectul de a denatura semnificativ comportamentul uman, afectând capacitatea acestora de a lua o decizie informatizată.
- Exploatarea vulnerabilităților: introducerea pe piață, punerea în funcțiune sau utilizarea sistemelor IA care exploatează vulnerabilitățile persoanelor fizice datorate vârstei, dizabilităților sau condițiilor socio-economice, cu scopul sau efectul de a denatura semnificativ comportamentul acestora într-un mod care provoacă sau este susceptibil să provoace prejudicii semnificative.
- Scor social: introducerea pe piață, punerea în funcțiune sau utilizarea sistemelor IA pentru aplicarea de scoruri sociale (adică evaluarea sau clasificarea persoanelor) pe baza atributelor comportamentale sau personale, cu un punctaj social, conducând la tratament nefavorabil în contexte care nu sunt legate de cele în care au fost colectate datele sau care sunt nejustificate în raport cu comportamentul social sau gravitatea acestuia.
- Evaluarea și predicția riscurilor de infracțiuni ale indivizilor: introducerea pe piață, punerea în funcțiune sau utilizarea sistemelor IA exclusiv pentru profilarea indivizilor în vederea evaluării sau predicției riscului de comportament infracțional.
- Baze de date de recunoaștere facială: introducerea pe piață, punerea în funcțiune sau utilizarea sistemelor IA care creează sau extind baze de date de recunoaștere facială prin extragerea fără scop precis a imaginilor faciale de pe internet sau din înregistrările TVCI (CCTV).
- Recunoașterea emoțiilor la locul de muncă și în educație: introducerea pe piață, punerea în funcțiune sau utilizarea sistemelor IA pentru deducerea emoțiilor în sfera locului de muncă sau de învățământ este interzisă, cu excepția cazurilor justificate din motive medicale sau de siguranță.
- Clasificare biometrică: introducerea pe piață, punerea în funcțiune sau utilizarea sistemelor IA pentru clasificarea indivizilor pe baza datelor biometrice pentru a intui informații sensibile, precum rasa, opiniile politice, religia, apartenența la sindicate sau orientarea sexuală, sunt restricționate.
- Utilizarea de către forțele de ordine a identificării biometrice la distanță, în timp real: utilizarea sistemelor de identificare biometrică de la distanță, în timp real, în spații accesibile publicului, de către forțele de ordine este în mare parte interzisă, cu excepții definite strict.
Sancțiunile pentru nerespectarea interdicțiilor de mai sus nu au intrat încă în vigoare, acestea fiind amânate până la 2 august 2025 conform abordării etapizate a Actului privind IA. După intrarea în vigoare, sancțiunile constă în amenzi administrative de până la cea mai mare dintre valorile următoare: 35.000.000 EUR sau 7% din cifra de afaceri anuală totală la nivel mondial a entității în culpă.
Vi se aplică cele de mai sus?
Domeniul de aplicare a Actului privind IA este cuprinzător, acoperind o gamă largă de activități și părți interesate din domeniul IA. Se aplică furnizorilor care introduc pe piața UE sisteme sau modele IA, indiferent de țara lor de origine, precum și utilizatorilor de sisteme IA din UE și chiar entităților stabilite în țări terțe care utilizează IA ale căror rezultate sunt utilizate în UE.
Fabricanții de produse care introduc pe piață sau pun în funcțiune un sistem de IA împreună cu produsul lor sunt, de asemenea, supuși cerințelor Actului privind IA. Mai mult, Actul privind IA se aplică și persoanelor afectate care sunt situate în UE.
