În timp ce utilizarea tehnologiilor inteligente de tip IA și IoT capătă amploare, reglementările la nivel europen și global încercă să țină pasul pentru a maximiza pentru oameni beneficiile sistemelor de inteligență artificială și a preveni potențialele riscuri. Europa, prin reglementări complexe și accelerate, încearcă să își asigure locul într-o lume digitală în care inovația tehnologică vine proponderent de pe alte continente.
Anul 2023 vine cu o serie de reglementări privind implementarea sistemelor de IA cu mecanisme de securitate eficiente, cu respectarea drepturile fundamentale, aspecte intens dezbătute după cursa sistemelor de IA generative demarată de ChatGPT1.
Prezentat de Comisia Europeană în aprilie 2021, Regulamentul privind Inteligența Artificială2 a generat discuții ample la nivelul societății civile, a politicienilor și a comunității de afaceri despre cum își propune să protejeze drepturile fundamentale, despre delimitările oarecum teoretice ale tipurilor de riscuri și despre implementarea sinuoasă ce va urma adoptării.
Regulamentul privind Inteligența Artificială urmează procedura legislativă ordinară, care constă în adoptarea în comun a actelor legislative de către Parlamentul European și Consiliul Uniunii Europene, în general, la propunerea Comisiei Europene. În decembrie 2022 Consiliul Uniunii Europene a adoptat poziția comună („abordarea generală”)3, prin care a continuat abordarea bazată pe riscuri propusă de Comisie, asupra căreia a intervenit cu o serie de modificări.
Principalele puncte asupra cărora a intervenit Consiliul:
1. Restrângerea definiției sistemelor de IA, astfel încât să fie diferențiate de sistemele software și de abordările de programare mai simple .
Pentru a fi calificat drept IA, sistemul ar trebui să fie capabil: (1) să funcționeze cu elemente de autonomie; (2) să primească date automat și/sau de la factorul uman; (3) să deducă cum să atingă o serie de obiective folosind învățarea automată și/sau logica și cunoașterea și (4) să producă rezultate de tip conținut (sisteme de IA generative), previziuni, recomandări sau decizii, influențând mediul cu care interacționează.
2. Interdicția de evaluare a comportamentului social al persoanelor fizice a fost extinsă și pentru actori privați, nu doar pentru autoritățile publice. Interdicția de utilizare a Sistemelor de IA care exploatează oricare dintre vulnerabilitățile unui anumit grup de persoane a fost extinsă astfel încât să protejeze și persoanele vulnerabile din cauza a unei situații sociale sau economice specifice (cum ar fi persoanele care trăiesc în sărăcie extremă, minoritățile etnice sau religioase).
3. Au fost adăugate dispoziții noi cu privire la Sistemele de IA de uz general, cele concepute să îndeplinească funcții general aplicabile, care pot fi utilizate autonom sau ca parte componentă a unor sisteme de IA cu grad ridicat de risc. Comisia va adopta un act de aplicare în termen de un an de la adoptarea Actului privind IA.
4. A fost introdusă exceptarea de la clasificarea ca Sistem de AI cu grad de risc ridicat atunci când rezultatul sistemului este pur accesoriu, i.e. nu este susceptibil să genereze un risc semnificativ pentru sănătate, siguranță sau drepturile fundamentale. Tot Comisia va adopta un act de aplicare în termen de un an de la adoptarea Actului privind IA. Pe de altă parte, societatea civilă insistă pe eliminarea acestei exceptări orizontale4, pentru că poate crea portițe în aplicare, judecăți subiective și poate permite furnizorilor să evite responsabilitatea. În schimb, riscurile ar trebui identificate prin studii de impact ex ante cu privire la respectarea drepturilor fundamentale.
5. Creșterea nivelului de transparență cerut pentru utilizarea Sistemelor de IA cu grad ridicat de risc, astfel încât persoanele fizice să fie informate cu privre la faptul că că interacționează cu un sistem de IA, cel târziu în momentul primei interacțiuni sau al primei expuneri. Pentru a spori transparența față de public, furnizorii de sisteme de IA cu grad ridicat de risc vor avea obligația de a se înregistra, precum și de a înregistra informații despre sistem într-o bază de date a UE, care urmează să fie creată și gestionată de Comisie.
6. Utilizarea Sistemelor de IA de autoritățile de aplicare a legii a fost extinsă.
Utilizarea unui sistem de identificare biometrică la distanță „în timp real” în spațiile accesibile publicului în scopul asigurării respectării legii este interzisă, ca regulă. Consiliul a extins totuși excepțiile, i.e. situațiile în care utilizarea poate fi autorizată ca strict necesară pentru un interes public substanțial.
Societatea civilă militează pentru eliminarea acestei portițe și interzicerea totală a sistemelor de identificare biometrică, riscurile utilizării sistemelor de identificare biometrică la distanță fiind un pericol pentru drepturile fundamentale.5
Domeniul de de aplicare a legii este restrâns astfel încât să nu includă sisteme de IA introduse pe piață, puse în funcțiune sau utilizate în scopuri militare, de apărare sau de securitate națională.
7. Consiliul propune ca Actul privind IA să se aplice de la 36 de luni de la intrarea în vigoare, spre deosebire durata propusă de Comisie de doar 24 de luni.
Abordarea bazată pe riscuri din Regulamentul privind Inteligența Artificială este deja contestată6 ca fiind insuficientă să cuprindă sistemele de IA generative, precum ChatGPT. În conformitate cu Regulamentul privind Inteligența Artificială, ChatGPT s-ar încadra ca sistem de IA de uz general, putând fi utilizat în mai multe scopuri, inclusiv pentru cele cu risc ridicat, cum ar fi selecția candidaților pentru locuri de muncă și scorul de credit. Însă riscurile care derivă din utilizarea sa listate de Open AI7, par deja mult mai variate decât cele avute în vedere în Anexa III a Regulamentul privind Inteligența Artificială.
Provocarea viitorului pentru Regulamentul privind Inteligența Artificială pare a fi reglementarea unor obligații care să reziste în timp, să facă față de ritmului dezvoltării IA și să aibă un grad de acoperire suficient, măcar până la următoarea revizuire a draft-ului.
TAGS : EU AI Act , Regulamentul privind Inteligența Artificială
- https://theconversation.com/chatgpt-is-a-data-privacy-nightmare-if-youve-ever-posted-online-you-ought-to-be-concerned-199283, accesat în 04.03.2023;
- Propunere de regulament al Parlamentului European și al Consiliului de stabilire a unor norme armonizate privind inteligența artificială și de modificare a anumitor acte legislative ale Uniunii;
- https://eur-lex.europa.eu/legal-content/RO/TXT/PDF/?uri=CONSIL:ST_15698_2022_INIT&from=RO;
- Center for AI & Digital Policy (CAIDP), Statement on the Council’s General Approach On the EU Artificial Intelligence Act (2021/0106(COD)1 (Feb. 13, 2023), https://www.caidp.org/resources/eu-ai-act/;
- https://www.amnesty.org/en/latest/press-release/2021/06/amnesty-international-and-more-than-170-organisations-call-for-a-ban-on-biometric-surveillance/;
- Natali Helberger, Nicholas Diakopoulos, ChatGPT and the AI Act, published in Internet Policy Review, https://policyreview.info/essay/chatgpt-and-ai-act;
- https://labs.openai.com/policies/content-policy, accesat în 04.03.2023.