A priori es cada desarrollador y explotador quien decide y regula su sistema de inteligencia artificial en base a sus objetivos, y no existen, a nivel general, estándares, criterios o controles que permitan evaluar, auditar, e incluso, certificar las aplicaciones de inteligencia artificial, sus objetivos y resultados. Y esta es una necesidad, que, sin duda, debemos reclamar en nuestro rol de usuario, pero también gestionar, coordinar y regularizar a nivel de la entidad u organismo responsable del sistema, pues son cada vez más los procesos, incluso esenciales y vitales en el día a día de las personas, que se basan en este tipo de aplicaciones.

En este sentido, y en relación con la protección de datos de carácter personal, podemos reseñar la guía de auditoria de sistemas IA que recientemente ha publicado la Agencia Española de Protección de Datos (AEPD), con el fin de servir de referencia a la hora de establecer controles a los sistemas IA en relación, específicamente, con el tratamiento de datos personales.

Entre los controles propuestos cabe destacar los relativos a;

• (i) la identificación y transparencia del componente (o algoritmo),
• (ii) la finalidad y fundamentos de desarrollo de la aplicación o sistema IA,
• (iii) el aseguramiento en la gestión de los datos en cuanto a la calidad, origen de los mismos, y control del sesgo, así como
• (iv) procesos de verificación y validación de la aplicación, incluyendo aspectos tales como rendimiento, coherencia, estabilidad, robustez, trazabilidad, y por supuesto seguridad.

expansion.com