La responsabilidad desde el diseño aplicado a la IA

10 de julio de 2023

La Inteligencia Artificial tiene el potencial de transformar la forma en que interactuamos con la tecnología, y también de redefinir los límites de lo que es posible. Desde mejorar el bienestar y salud de las personas hasta impulsar la sostenibilidad medioambiental, la IA ha demostrado su capacidad para generar beneficios transversales en numerosos ámbitos.

Además, su aplicación en las operaciones de organizaciones, empresas y sectores industriales posibilita nuevos modelos de negocio. También modifica la forma de investigar e innovar, mejora la eficiencia y sostenibilidad de los procesos productivos y cadenas de suministro, y redefine nuestras capacidades y formas de trabajar.

Sin embargo, junto con las oportunidades que ofrece, con la IA también surgen retos éticos y responsabilidades que deben ser abordados de manera proactiva para aprovechar de forma responsable el potencial y los beneficios que ofrece la Inteligencia Artificial.

La Inteligencia Artificial puede aumentar la productividad europea entre un 11% y un 37% hasta 2035, según el Parlamento Europeo

En este sentido, el enfoque responsabilidad desde el diseño aplicado a la Inteligenicia Artificial es una estrategia que asegura que los sistemas y modelos de IA se desarrollan y utilizan desde su concepción de manera ética, transparente y responsable.

¿Qué es el enfoque 'responsabilidad desde el diseño' aplicado a la IA?

El principio de responsabilidad desde el diseño es una metodología que se aplica en diferentes sectores e industrias; desde la investigación científica al urbanismo, pasando por el diseño de productos y servicios comunes.

En el ámbito de la Inteligencia Artificial, responsabilidad desde el diseño se refiere a la integración de consideraciones éticas y responsables desde las etapas iniciales del diseño para anticipar y abordar posibles problemas éticos, legales y sociales que puedan surgir con el uso de la IA.

Esto implica que los diseñadores y desarrolladores de IA deben tener en cuenta aspectos como la transparencia, la equidad, la privacidad, la seguridad y el impacto social, tanto de los modelos y algoritmos como de los datos utilizados, que permitan construir una Inteligencia Artificial de confianza.

La responsabilidad por diseño no solo se aplica desde el inicio del proceso, sino también a lo largo de toda la vida útil del desarrollo para evaluar posibles impactos y consecuencias en diferentes evoluciones, escenarios, culturas y contextos.

IA responsable por diseño

Para asegurar un desarrollo ético y responsable de proyectos de IA, un enfoque de responsabilidad desde el diseño basado en metodologías existentes (por ejemplo, en materia de privacidad y seguridad) plantea algunas consideraciones que deben tenerse en cuenta desde las fases iniciales de conceptualización y desarrollo, y a lo largo del ciclo completo del modelo, incluyendo:

Contar con equipos multidisciplinares y diversos (incluyendo expertos en ética, legisladores, industria, sociedad civil…) para incorporar diferentes perspectivas y conocimientos, evitando sesgos y discriminación en los resultados.
Autoevaluar en todo su desarrollo y funcionamiento los posibles efectos no deseados que puede tener en los usuarios, la sociedad y el medio ambiente.
Definir medidas de seguridad en el manejo de información y datos personales para asegurar la privacidad de los usuarios y el cumplimiento normativo.
Comprender en todo momento y a lo largo de todo el proceso de desarrollo, aprendizaje y despliegue cómo funciona y cómo toma decisiones, permite entender y explicar el porqué de las decisiones que toma y ayuda a detectar sesgos.
Monitorizar constantemente y a lo largo de todo su ciclo de vida su funcionamiento para identificar posibles impactos a medida que evoluciona y se aplica en diferentes ámbitos y contextos.

Nuestros principios de Inteligencia Artificial

En este sentido, en Telefónica Tech adoptamos los principios éticos para la IA que en Grupo Telefónica definimosen 2018 y actualizamos en 2024. Forman parte de una metodología más amplia centrada en la responsabilidad por diseño y nos comprometen a desarrollar y utilizar una Inteligencia Artificial que sea:

Justa, para que los modelos no generen resultados con sesgos o impactos discriminatorios o injustos.
Transparente y explicable, dando a conocer los datos que utilizamos para entrenar los modelos y su propósito, asegurando que se comprenden sus decisiones.
Centrada en las personas, respetuosa con los Derechos Humanos y alineada con los Objetivos de Desarrollo Sostenible de la ONU.
Respetuosa desde el diseño con la privacidad de las personas y sus datos, y con la seguridad de la información.
Veraz en su lógica y en los datos utilizados, también por parte de nuestros proveedores.

Además, requerimos a nuestros proveedores que tengan principios de AI similares o que adopten los nuestros, con el objetivo de construir, juntos, modelos de Inteligencia Artificial que aprovechen el potencial y los beneficios que ofrece la Inteligencia Artificial protegiendo a la vez los Derechos Humanos, las democracias y el Estado de Derecho.