“Arrisku handiko” AAko sistemek arau zorrotzak bete beharko dituzte arrisku horiek gutxitzeko sistemetan, kalitate handiko datu-multzoetan, agiri hobeetan eta giza ikuskaritzan, esaterako. Edonola ere, AAren erabilera gehienek askatasuna izango dute; esate baterako, gomendiorako sistemak eta spameko iragazkiak.

AAri buruzko Legea oso erabaki ona da, horren bidez arau eta mekanismo garrantzitsuak ezarriko direlako gaur egun mendebalde basatia dela dirudien eragin handiko sektorean.

Hona hemen MIT Technology Reviewen ondorio nagusiak:

1. AAri buruzko Legeak gardentasunari eta etikari buruzko arau garrantzitsu eta lotesleak ezarriko ditu

Enpresa teknologikoek oso gogoko dute AAren etikarekindaukaten konpromisoari buruz hitz egitea. Hala ere, neurri zehatzak hizpide direnean, elkarrizketa ez doa ez atzera ez aurrera. Edonola ere, eginek esanek baino gehiago diote. AAko talde arduradunak iraizpenetan murrizketak jasaten dituzten lehenak izaten dira, eta enpresa teknologikoek AAren arloan dauzkaten politika etikoak aldatu ditzakete edozein unetan.Esate baterako, OpenAI AA “irekiko” ikerketa-laborategi moduan hasi zen bere ikerketarako sarbide publikoa itxi baino lehen, bere abantaila lehiakorrari eusteko, AAko beste edozein startup izango balitz bezala.

Legeak, ordea, egoera hori aldatuko du. Arautegiak arlo juridikoan lotesleak diren arauak ezarriko dituenez, enpresa teknologikoek erabiltzaileei jakinarazi beharko diete honako hauexekin elkarreraginean daudenean: chatbota, kategorizazio biometrikoko sistemak edo emozioen ezagutza. Era berean, derrigorrezkoa izango da deepfakeei eta AA bidez sortutako edukiei etiketak jartzea eta, sistemak diseinatzean, AA bidez sortutako baliabideak antzeman ahal izatea. Urrats hori, hain zuzen ere, AAko enpresa nagusiek Etxe Zuriarekin hartu zituzten borondatezko konpromisoetatik haratago doa, AAren jatorrikotresnak baino ezin zituztelako garatu; ur-markak, esaterako.

Lege-proiektuaren ondorioz, beharrezkoa ere izango da funtsezko zerbitzuak (aseguruak eta banka, adibidez) eskaintzen dituzten erakunde guztiek eraginari buruzko ebaluazioa egitea, AAko sistemen erabilerak pertsonen funtsezko eskubideetan nolako eragina izango duen jakiteko.

2. AAko enpresek maniobra-marjina handia dute oraindik

2021ean, AAri buruzko Legea lehen aldiz aurkeztu zenean, artean biztanleek metabertsoa zeukaten hizpide. (Harrigarria, ezta?)

ChatGPTren osteko munduan, legegileen ustez, arauketak lengoaia-ereduak hartu behar zituen kontuan, hau da, oso helburu desberdinetarako erabili daitezkeen tresna ahaltsuak. Hori dela eta, eztabaida bizia sortu zen, eredu horiek nolaarautu beharko liratekeen eta arauketa horren ondoriozberrikuntza amaituko litzatekeen jakiteko.

AAri buruzko Legearen arabera, beharrezkoa izango da sorrera-ereduek eta haien bidez sortutako AAko sistemek agiriak hobetzea, egile-eskubideei buruzko EBko legeria betetzea eta eredua entrenatzeko erabili diren datuei buruzko informazio gehiago partekatzea. Horrez gain, betekizun gehigarriak daude eredu ahaltsuenentzat. Esate baterako, enpresa teknologikoek euren AAko ereduen segurtasunari eta eraginkortasun energetikoari buruzko informazioa eman beharko dute.

Nolanahi ere, hortxe dago gakoa. Legegileek hartutako konpromisoaren arabera, arau zorrotzagoen multzoa ezarriko da, baina AAko eredu ahaltsuenetan baino ez, entrenatzeko beharrezkoa den potentzia informatikoa kontuan hartuta. Gainera, enpresek eurek ebaluatu beharko dute arau zorrotzenetan sartuko diren ala ez.

Europako Batzordeko funtzionario batek ez zuen baieztatu nahi izan eredu ahaltsuak gaur egungo mugan sartuko liratekeen; esate baterako, OpenAIko GPT-4 edo Googleko Gemini. Izan ere, enpresek eurek baino ez dakite zenbateko kalkulu-potentzia erabili zuten euren ereduak entrenatzeko. Funtzionarioak, ordea, baieztatu egin zuen teknologia garatzen den neurrian, AAko ereduen potentzia nola neurtzen den aldatu lezakeela EBk.

3. EB munduko AAko lehenengo polizia izango da

AAri buruzko Legeak Europako AAren Bulego berria sortuko du, bete, ezarri eta betearazi egingo dela koordinatzeko. AAri buruzko arau lotesleak ezartzen dituen munduko lehenengo erakundea izango da, eta horrek erreferentziako munduko arautzaile teknologikoa izaten lagunduko diola uste du EBk. AAri buruzko Legearen gobernantzarako mekanismoan, aditu independenteen talde zientifikoa ere egongo da, AAren arrisku sistemikoei buruzko orientazioa eskaintzeko eta ereduak nola sailkatu eta probatu behar diren zehazteko.

Legea ez betetzeagatiko isunak handiak izango dira: enpresaren fakturazio globalaren %1,5-%7koak, arau-haustearen larritasunaren eta enpresaren tamainaren arabera.

Europa ere munduko lehenengo lekuetakoa izango da herritarreiAAko sistemei buruzko kexak aurkezteko eta sistema horiek ondorio eragingarriak ateratzeko erabili dutenprozedurari buruzko azalpenakjasotzeko aukera emango diena.

AAri buruzko arauak zehaztuko dituen lehenengoa izango denez, EBk bere abantailari eutsiko dio. DBAO bezala, AAri buruzko Legea munduko arau bihurtu liteke. Munduko bigarren ekonomian negozioak egin nahi dituzten beste herrialde batzuetako enpresek legea bete beharko dute. EBko arauak AEBk zehaztutakoak (Etxe Zuriko Agindu Betearazlea, adibidez) baino urrats bat haratago ere joango dira, lotesleak direlako.

4. Segurtasun nazionala beti irabazle

Orain, EBn, AAren erabilera batzuk daude debekatuta: ezaugarri sentikorragoak darabiltzaten kategorizazio biometrikoko sistemak eta Interneteko aurpegien irudiak edo CCTVko[telebistako zirkuitu itxia]grabaketak modu ez-selektiboan arraspatzea, Clearview AI eta antzeko aurpegi-ezagutzarako datu-baseak sortzeko, baita lanean edo eskoletan emozioak ezagutzea, scoring (puntuazio) soziala, giza jokabidea manipulatzen duten AAko sistemak eta pertsonen zaurgarritasunak ustiatzeko erabilitako AA ere.

Horrez gain, poliziaren jarduketa iragarlea ere egongo da debekatuta, betiere, honelaxe erabiltzen ez bada: "gizakien eta egitate objektiboen ebaluazio argia, zigor-ikerketa batean gizabanako zehatz baten atzetik joateko erabakia algoritmo batek adierazitakoaren esku bakarrik utzi ez dezaten", Europako Batzordeko funtzionario batek adierazi duen bezala.

Nolanahi ere, AAri buruzko Legea ez da erabilera militarretarako eta defentsarako bakarrik garatutako sistemetan ezarriko.

Betidanik, poliziak leku publikoetan sistema biometrikoak erabiltzea nola arautuko den zehaztea izan da AAri buruzko Legearen inguruko borroka ankerrenetakoa, askoeta asko horren ondorioz zaintza jendetsua egingo ote den beldur dira-eta. Europako Parlamentua teknologia horren ia-ia erabateko debekua bultzatzen ari zen bitartean, EBko herrialde batzuek, Frantziak, esaterako, gogor egin diote aurka, delinkuentziaren eta terrorismoaren kontra borrokatzeko erabili nahi dute-eta.

Europako polizia-indarrek epailearen onarpena eduki beharko dute ezinbestean, leku publikoetan identifikazio biometrikorako sistemak erabili ahal izateko, eta berariazko 16 delitutarako baino ez; esate baterako, terrorismoa, gizakien salerosketa, adingabeen ustiapen sexuala eta drogen trafikoa. Ordena-indarrek arrisku handiko AAko sistemak ere erabili ahal izango dituzte“segurtasun publikoarekin lotutako salbuespenezko inguruabarretan", betiere, arau europarrak gainditzen ez badituzte.

5. Orain zer, ordea?

Asteak edo hilabeteak ere igaro litezke, lege-proiektuaren azken idazketa ikusi arte. Testuan bertan, zenbait ukitu tekniko egin behar dira oraindik, eta, horrez gain, Europako herrialdeek zein EBko Parlamentuak ere onartu behar dute, modu ofizialean indarrean sartu baino lehen.

Indarrean sartzen denean, enpresa teknologikoek bi urte izango dituzte arauak ezartzeko. AAren erabileren debekuak sei hilabeteren ostean ezarriko dira, eta sorrera-ereduak garatzen dituzten enpresek legea bete beharko dute urtebeteko epean.

technologyreview.es