Rețeaua Europeană România în Uniunea Europeană
Related Articles
Deputații europeni doresc ca chatbot-urile să includă măsuri de protecție care îi vor împiedica să genereze conținut care este ilegal conform legislației UE.
Membrii Parlamentului European au votat joi dimineață cu o majoritate covârșitoare pentru avansarea unui proiect de regulament care să asigure „dezvoltarea etică” a inteligenței artificiale (IA), o tehnologie cu evoluție rapidă care a ridicat îngrijorări cu privire la dezinformare, confidențialitate, supraveghere, discriminare, plagiat, uzurpare a identității și chiar și viitorul democrației.
Cu noile reguli la nivelul UE, legislatorii vor să garanteze că sistemele AI sunt „supravegheate de oameni, sunt sigure, transparente, nediscriminatorii și ecologice”, se arată într-un comunicat de presă.
Deputații europeni „doresc, de asemenea, să aibă o definiție uniformă pentru AI concepută să fie neutră din punct de vedere tehnologic, astfel încât să se poată aplica sistemelor AI de astăzi și de mâine”.
Votul, care a avut loc într-o sesiune comună a comitetelor pieței interne și libertăților civile, a adăugat noi prevederi textului inițial propus de Comisia Europeană, în special obligații noi privind așa-numitele modele de fundație generativă, cum ar fi ChatGPT, chatbot-ul dezvoltat de OpenAI, care a revoluționat industria tehnologică de la lansarea sa la sfârșitul lunii noiembrie.
Modelele de bază sunt cele antrenate cu o mulțime de date, cum ar fi text, imagini, muzică, vorbire și cod, cu scopul de a îndeplini un set larg și în continuă schimbare de sarcini, mai degrabă decât să aibă un scop specific, nemodificabil. Chatbot-uri precum GPT de la OpenAI și BERT de la Google sunt câteva dintre primele exemple ale acestei tehnologii, care se așteaptă să evolueze în continuare în următorii ani.
În timp ce investitorii au sărit rapid pe chatbot, criticii au condamnat dezvoltarea lor necontrolată, trăgând un semnal de alarmă despre părtinire, discurs instigator la ură, știri false, propagandă de stat, încălcări ale IP, concedieri de muncă, atacuri cibernetice și linia din ce în ce mai neclară dintre uman și artificial.
Conștienți de preocupările tot mai mari, parlamentarii au adăugat amendamente pentru a se asigura că chatboții sunt transparenți, nu produc conținut care este ilegal conform legislației UE, respectă regulile privind drepturile de autor și respectă drepturile fundamentale, cum ar fi libertatea de exprimare.
Companiile ar trebui să îndeplinească aceste cerințe înainte de a-și pune serviciile pe piață.
„Modelele de fundație generative ar trebui să asigure transparența cu privire la faptul că conținutul este generat de un sistem AI, nu de oameni”, se arată în noul text.
Deputații au insistat, de asemenea, să extindă lista aplicațiilor IA „intruzive și discriminatorii” care ar trebui să fie strict interzise pe teritoriul UE. Lista extinsă acoperă identificarea biometrică în timp real în spațiile publice, sistemele de poliție predictivă și recunoașterea emoțiilor în forțele de ordine și la locurile de muncă.
Sistemele AI care au puterea de a influența alegătorii în campaniile politice nu vor fi interzise, dar vor fi considerate cu risc ridicat și, prin urmare, vor fi supuse unui control mai atent, au spus parlamentarii.
Mandatul de joi a fost aprobat cu 84 de voturi pentru, șapte împotrivă și 12 abțineri. Peste 3.000 de amendamente au fost depuse înainte de sesiune, reflectând interesul remarcabil pentru tehnologie.
Votul este însă departe de a fi definitiv: deputații europeni trebuie să-și aprobe mandatul de negociere într-o sesiune plenară, care va fi apoi folosit pentru discuții cu statele membre. Aceste discuții, cunoscute la Bruxelles ca „triloguri”, sunt de așteptat să fie intense și protejate, având în vedere mizele și așteptările mari.
Acest proces va avea ca rezultat un text de compromis, care va fi apoi votat din nou de colegislatori înainte de a intra în vigoare.
Artificial Intelligence Act a fost propus pentru prima dată de Comisie în aprilie 2021, cu mult înainte de explozia pe piață a chatbot-urilor. Actul impune obligații și restricții companiilor AI în funcție de riscul pe care produsele lor îl prezintă pentru societate: risc minim, risc limitat, risc ridicat și inacceptabil.
Abordarea centrată pe om și atotcuprinzătoare a regulamentului este considerată un pas de pionierat în efortul global de a controla excesele AI, pe care mulți o consideră cea mai disruptivă tehnologie de la apariția World Wide Web (WWW).
