Inteligencia artificial en la Administración Pública: Nueva Zelanda

Inteligencia Artificial, chatbot que interactúan con ciudadanos, big-data para la configuración de Smart Cities, probabilidad de reincidencia de un preso o tecnología biométrica, estos son algunos de los ejemplos de las ventajas que aportará la Inteligencia Artificial (IA) a nuestras vidas, pero esta tecnología no está exenta de riesgos, por lo que es imprescindible su regulación de manera previa a su utilización. En este sentido está trabajando la Comisión Europea, que ya publicó en febrero el Libro Blanco sobre Inteligencia Artificial , con el objetivo de promover la utilización de la IA, respetando los derechos fundamentales de los ciudadanos de la Unión Europea.

El 28 de julio de 2020, el gobierno de Nueva Zelanda presentó la Carta de Algoritmos de Nueva Zelanda (Algoritm charter for Aotearoa New Zealand), creando así la primera norma que regula, cómo las administraciones públicas de este país, deben usar y supervisar el funcionamiento de los algoritmos que encontramos en las diferentes herramientas de IA utilizadas por la Administración.

En esta Carta se fijan los principios que se deben aplicar cuando exista un riesgo significativo en el uso de algoritmos por parte de los organismos públicos, supervisando tal uso con el objetivo de garantizar la protección de los datos y los derechos fundamentales de los ciudadanos neozelandeses.

La utilización de datos personales y el análisis avanzado de los mismos se convierten en elementos esenciales para la prestación de los servicios públicos, existiendo una concienciación por parte de los organismos públicos de realizar una evaluación de impacto en materia de protección de datos del uso de algoritmos para la toma de decisiones automatizadas.

En situaciones en los que el uso de los algoritmos por las administraciones públicas tiene un impacto significativo sobre el bienestar de las personas y puede generar un impacto adverso no intencionado se debe aplicar la Carta y, en consecuencia, una serie de medidas, que incluyen la explicación de cómo se toman decisiones.

Los compromisos de la Carta son:

• Transparencia: se debe explicar de forma clara el funcionamiento del algoritmo en la toma de decisiones. Foco en la ciudadanía: identificar y participar activamente con las personas, comunidades que tengan intereses en los algoritmos aplicados y a su vez poder consultar los afectados por su uso.
• Garantía de finalidad: deben ser adecuados para el objetivo propuesto.
• Garantía de la privacidad, ética y derechos humanos.
• Supervisión humana: se establecen una serie de plataformas con el objetivo de atender consultas e impugnaciones sobre decisiones basadas en algoritmos, en línea con lo establecido en el artículo 22 del reglamento general de protección de datos, que establece los derechos de los ciudadanos en relación con la toma de decisiones automatizadas que tengan efectos jurídicos en ellos o les afecten significativamente de modo similar.

Uno de los aspectos más destacados de la implantación de la Carta es que se encuentra sometida a una revisión periódica para garantizar así el uso adecuado de los algoritmos por los organismos gubernamentales, frente a la evaluación de las tecnologías emergentes. El factor determinante para la creación de esta fue la recomendación del Jefe de Administraciones de Datos y del Oficial Jefe de Tecnología Digital de Gobierno de 2018, en el que se señaló la necesidad de una mayor concienciación por parte del gobierno para el uso seguro y eficaz de los algoritmos operacionales.

En todos estos aspectos será esencial la aplicación de los principios de la Carta con el objetivo de evitar cualquier tipo de discriminación socioeconómica, racial o de género, alcanzando así la necesaria transparencia en todos aquellos procesos en los que existan decisiones tomadas por algoritmos.