Qué es el Catálogo de algoritmos y sistemas de IA
La inteligencia artificial (IA) puede aportar muchos beneficios, como son una mejor asistencia sanitaria, un transporte más seguro y limpio, una fabricación más eficiente y una energía más barata y sostenible.
Sin embargo, también entraña riesgos, como la reproducción de sesgos o los errores programáticos, por citar algunos ejemplos. Este catálogo representa el esfuerzo del Gobierno Vasco para que la ciudadanía tenga acceso a información comprensible y actualizada sobre cómo los algoritmos afectan a sus vidas. Por eso hemos creado este Catálogo de algoritmos y sistemas de Inteligencia Artificial del Sector Público de la CAE, que pretende ser un escaparate que aporte una visión general de los algoritmos y sistemas de IA desarrollados por el Gobierno Vasco y su sector público de la CAE.
Este catálogo es un primer paso para exponer a la ciudadanía la información sobre los algoritmos desarrollados. Se encuentra en evolución y es posible que no contenga todos los algoritmos utilizados. Estamos trabajando para registrar todos los algoritmos y sistemas que se utilicen en el futuro cercano y mejorar la forma en la que se auditan y describen para una mejor comprensión por parte de la ciudadanía.
Si tienes alguna duda o sugerencia sobre el catálogo, puedes ponerte en contacto con la Oficina del Dato del Gobierno Vasco.
Qué es un algoritmo de Inteligencia Artificial
Un algoritmo de inteligencia artificial (IA) se puede definir como un conjunto de reglas y procesos que las máquinas o aplicaciones utilizan para llevar a cabo tareas que normalmente requieren de inteligencia humana. Los algoritmos necesitan grandes volúmenes de datos y cálculos para aprender, tomar decisiones y resolver problemas.
La IA tiene dos pilares básicos: los datos y los algoritmos. Los algoritmos ordenan a la máquina qué debe hacer. Por otro lado, los datos permiten a la máquina aprender a ejecutar las instrucciones y perfeccionar su comportamiento.
La evolución de las tecnologías durante los últimos años ha ocasionado que la inteligencia artificial sea más accesible y eficiente. No obstante, todavía se necesitan personas para crear, entrenar y gestionar los algoritmos de IA; los humanos siempre son responsables de su funcionamiento.
Aunque la evolución en este campo es continua, podemos decir que existen varios grupos dentro de los algoritmos de inteligencia artificial:
Información descriptiva de cada algoritmo publicada en este catálogo
Se publica una ficha descriptiva de cada sistema algorítmico que incluye varios apartados:
- Título y descripción general: información general sobre el algoritmo.
- Responsable: órgano y persona responsable.
- Conjuntos de datos utilizados: con qué datos se está entrenando el sistema algorítmico y qué datos se procesan cuando está en uso.
- Procesamientos de datos: de qué forma el sistema procesa automáticamente los datos de entrada para generar los resultados del modelo.
- No discriminación: si ha sido necesario implantar alguna medida para promover la igualdad y la no discriminación por motivos de edad, origen, nacionalidad, idioma, religión, creencia, opinión, actividad política, etc.
- Supervisión humana: de qué forma las personas están al tanto o controlan el sistema, asegurándose de que no produzca efectos adversos o no deseados.
- Riesgos: riesgos conocidos asociados con el sistema y los métodos utilizados para mitigarlos.
La importancia de la ética en la inteligencia artificial
El desarrollo de la inteligencia artificial no solo conlleva beneficios sino también desafíos y riesgos para la sociedad. Un mal uso de la IA podría incrementar las desigualdades, o un algoritmo incorrectamente desarrollado podría significar la discriminación de una persona en la toma de una decisión.
Es por ello por lo que los algoritmos y sistemas utilizados por las administraciones públicas, al igual que el resto de los servicios públicos proporcionados, deben cumplir con determinadas reglas y principios basados en la igualdad, la libertad, la transparencia o la democracia, entre otros. La ética en el uso de la IA es un deber inherente para la Administración pública.
En este contexto, el 19 de diciembre de 2023 el Consejo de Gobierno Vasco aprobó la Estrategia de gobernanza de los datos del sector público de la CAE:
El propósito de la Estrategia de gobernanza de los datos es avanzar en la madurez de los datos, de forma que posibilite un sector público de la CAE con altas capacidades analíticas y predictivas que permitan tomar decisiones ágiles basadas en datos («Gobierno data-driven» o Gobierno guiado por los datos) y que haga un uso generalizado e inteligente (institucionalizado y transversal) de los mismos, como una práctica rutinaria y reglada de este recurso clave, un activo estratégico y eje de los procesos de trabajo y toma de decisiones en la gestión de políticas y servicios públicos a la ciudadanía.
Manifiesto ético
La estrategia incluye el Manifiesto ético de la gobernanza de los datos y sistemas de inteligiencia artificial del sector público de la CAE.
Este documento recoge los principios y buenas prácticas que orientarán todo el ciclo de vida de los datos en el sector público de la CAE y servirán de referente permanente para todas las entidades del ámbito subjetivo de la estrategia. El objetivo es lograr una madurez de los datos, una cultura de su análisis en la toma de las decisiones, y una transformación digital basada en la generación de productos derivados de los datos orientada a la ciudadanía con una visión de las personas en el centro de las decisiones públicas.
Dentro del manifiesto se dedica un apartado específico a los principios éticos de los sistemas de inteligencia artificial que deben guiarnos a lo largo del ciclo de vida del sistema. Necesitamos, por tanto, que los sistemas de IA se centren en las personas y se utilicen al servicio del bien común, maximizando sus beneficios y haciendo frente a los riesgos de forma adecuada y proporcionada. El enfoque debe ser integral y sistémico, abarcando a todos los agentes y procesos en los que se desenvuelve el sistema de IA.
La fiabilidad de los sistemas de IA supone un requisito imprescindible para lograr la confianza en los mismos, por consiguiente, si queremos maximizar sus beneficios y minimizar sus riesgos los principios éticos resultan un pilar fundamental para una IA fiable.
Principios éticos de los sistemas de inteligencia artificial (IA)
