Arau berriek debekatu egiten dituzte herritarren eskubideen aurka egiten duten adimen artifizialeko zenbait aplikazio, hala nola ezaugarri sentikorretan oinarritutako kategorizazio biometrikoko sistemak eta Interneteko aurpegi-irudiak edo aurpegia ezagutzeko datu-baseak sortzeko zaintza-kameren grabazioak bereizi gabe atzematea.

Debekatuta egongo da, halaber, lantokian eta eskoletan emozioak antzematea, herritarren puntuazio-sistemak, polizia-jarduera prediktiboa (pertsona baten profilean edo haren ezaugarrien ebaluazioan soilik oinarritzen denean) eta giza portaera manipulatzen duen edo pertsonen kalteberatasunak ustiatzen dituen IA.

Segurtasun-indarrek debekatuta dute a priori identifikazio biometrikoko sistemak erabiltzea, oso egoera zehatzetan eta ondo definitutakoetan izan ezik. Identifikazio biometrikoko sistemak «denbora errealean» soilik erabili ahal izango dira babes zorrotz batzuk betetzen badira; adibidez, horien erabilera aldi eta leku jakin batera mugatzen da, eta aurretiazko baimen judiziala edo administratiboa du. Kasu horien artean egon daitezke desagertutako pertsona baten bilaketa selektiboa edo atentatu terrorista baten prebentzioa. Sistema horiek a posteriori erabiltzea arrisku handiko erabileratzat jotzen da, eta epailearen baimena behar du, delitu penal bati lotuta dagoelako.

Arrisku handiko beste IA sistema batzuentzat ere betebehar argiak aurreikusten dira (osasunarentzat, segurtasunarentzat, oinarrizko eskubideentzat, ingurumenarentzat, demokraziarentzat eta zuzenbide-estatuarentzat oso kaltegarriak izan daitezkeelako). Hauek dira IAren arrisku handiko erabileren adibide batzuk: azpiegitura kritikoak, hezkuntza eta lanbide-heziketa, enplegua, funtsezko zerbitzu publiko eta pribatuak (adibidez, osasuna edo bankuak), segurtasun-indarren sistema jakin batzuk, migrazioa eta aduana-kudeaketa, justizia eta prozesu demokratikoak (esaterako, hauteskundeetan eragitea). Sistema horiek arriskuak ebaluatu eta murriztu behar dituzte, erabilera-erregistroak mantendu behar dituzte, gardenak eta zehatzak izan behar dute eta giza gainbegiratzea izan behar dute. Herritarrek IAren sistemei buruzko erreklamazioak aurkezteko eskubidea izango dute, bai eta sistema horietan oinarritutako erabakiei buruzko azalpenak jasotzekoa ere, haien eskubideei eragiten badiete.

Gardentasun-betekizunak

Erabilera orokorreko IA sistemek eta horien oinarri diren ereduek gardentasun-baldintza jakin batzuk bete behar dituzte, egile-eskubideei buruzko EBko legeria errespetatu behar dute eta beren ereduak prestatzeko erabilitako edukiaren laburpen zehatzak argitaratu behar dituzte. Arrisku sistemikoak plantea ditzaketen eredu indartsuenek baldintza gehigarriak bete beharko dituzte, hala nola ereduen ebaluazioak egitea, arrisku sistemikoak aztertu eta arintzea eta gorabeheren berri ematea.

Gainera, irudiak, audioko edo bideoko eduki artifizialak edo manipulatuak («ultrafalsifikazioak») argi eta garbi etiketatu beharko dira.

Berrikuntzari eta ETEei laguntzeko neurriak

Enpresa txiki eta ertainen eta gorabidean dauden enpresen eskura jarri beharko dira probetarako eta entseguetarako gune kontrolatuak, baldintza errealetan, merkaturatu aurretik IA berritzailea garatu eta entrenatu ahal izan dezaten.

europarl.europa.eu

EBko Adimen Artifizialari buruzko Legearen inguruko bost giltzarri