Richard Benjamins

Con la creciente utilización de la Inteligencia Artificial (IA), se empieza a prestar más atención a sus posibles consecuencias negativas. Esto ha dado lugar a la proliferación de directrices éticas voluntarias o principios de la IA, mediante los cuales las organizaciones declaran públicamente que desean utilizar la IA de manera justa, transparente, segura, robusta, centrada en el ser humano, etc., evitando cualquier consecuencia negativa o daño. La Universidad de Harvard ha analizado los Principios de la IA de las primeras 36 organizaciones del mundo que publicaron dichas directrices y ha encontrado 8+1 categorías más utilizadas, entre las que se encuentran: los valores humanos, la responsabilidad profesional, el control humano, la equidad y la no discriminación, la transparencia y la explicabilidad, la seguridad y la protección, la responsabilidad, la privacidad y los derechos humanos. En la siguiente imagen se muestra el calendario de publicación de las Directrices de la IA en estas 36 organizaciones. La organización, sin ánimo de lucro, Algorithm Watch, cuenta con un inventario de Directrices de Inteligencia Artificial que actualmente contempla más de 160 organizaciones. Figura 1: Una Inteligencia Artificial con principios ( Ampliar) De la teoría a la práctica Si bien hay muchos trabajos dedicados a la elaboración y el análisis de directrices o principios de la IA, se sabe mucho menos sobre el proceso de convertir esos principios en prácticas institucionales (Business as Usual - BAU). Las primeras experiencias se van compartiendo y publicando[1],[2], y la experiencia se va acumulando[3],[4],[5], con la tecnología y las empresas de consultoría liderando. La metodología de Telefónica, denominada "Responsible AI by Design"3, incluye varios elementos: Los principios de la IA que establecen los valores y los límites[6] Un conjunto de preguntas y recomendaciones, que garantizan que todos los principios de la IA sean debidamente examinados en todo el ciclo de vida del producto Herramientas que ayudan a responder algunas de las preguntas, y ayudan a paliar cualquier problema identificado Capacitación, tanto técnica como no técnica Un modelo de gobernanza que asigne responsabilidades Aquí nos centramos en un nuevo papel organizativo que es esencial para poner en práctica el uso responsable de la IA en una organización; el rol juega un papel crítico en el modelo de gobernanza y lo hemos acuñado como "Paladín de la IA" (RAI Champion)[7]. El Paladín de la IA ¿Por qué necesitamos Paladines? El área de la IA y la ética es nueva en muchas organizaciones y para establecer nuevas áreas la identificación de paladines es necesaria. Un Paladín conoce el área, está disponible para los compañeros de trabajo en una determinada geografía o unidad de negocio, y proporciona concienciación, asesoramiento y asistencia si es necesario. Los Paladines también son cruciales para convertir las nuevas prácticas en BAU. En concreto, las responsabilidades de un Paladín de la IA son informar, educar, aconsejar y escalar, coordinar, conectar y gestionar el cambio. Informar Un Paladín de la IA informa a sus compañeros sobre la importancia de aplicar la ética en la IA y los datos para evitar daños no intencionados. Él o ella crea conciencia de los principios de la IA en la organización. Educar Un Paladín de la IA proporciona y organiza la formación -tanto online como presencial- a su correspondiente unidad de negocio o geografía, explicando cómo aplicar los principios en el ciclo de vida del producto. También explica el modelo de gobernanza y alienta a los expertos autodidactas a formar una comunidad de práctica voluntaria en la que los empleados "locales" pueden obtener asesoramiento de primera mano. Asesorar y escalar Un Paladín de la IA es el último contacto "local" para cuestiones éticas sobre las aplicaciones de la IA y el Big Data. Si ni los expertos, ni el Paladín de la IA pueden abordar el tema en cuestión, se eleva a un grupo de expertos multidisciplinario y de alto nivel. Coordinar Dado que la IA y el Big Data hacen referencia a aspectos tratados en otras organizaciones, los Paladines de la IA deben coordinarse con todas ellas. Es necesario coordinarse con el DPO ( data protection officer) para las cuestiones relacionadas con la privacidad; con el CISO (chief information and security officer) para los aspectos relacionados con la seguridad; con el CDO (chief data officer) para los temas relacionados con los datos y la IA; con el CSR (corporate social responsibility) para las cuestiones de reputación y sostenibilidad; con el área de Regulación para posibles regulaciones futuras de la IA; y con el área Legal para otras cuestiones legales. En algunas organizaciones, el uso responsable de la IA y el Big Data forma parte de una iniciativa de "responsabilidad" más amplia que incluye temas como la sostenibilidad (SDG), el cambio climático, los derechos humanos, la cadena de suministro justa y la reputación. En este caso, el Paladín de la IA debería coordinar y estar plenamente alineado con los respectivos líderes. Conectar Los Paladines de la IA necesitan conectar a personas competentes para formar comunidades de expertos en la materia. Esas comunidades son el primer lugar al que acudir si las dudas éticas no pueden ser resueltas dentro de un equipo. Los Paladines de la IA también necesitan formar una comunidad entre ellos, conectando diferentes geografías y unidades de negocio de la organización en una red activa de aprendizaje e intercambio. Por último, las organizaciones más desarrolladas también pueden considerar la posibilidad de establecer o unirse a una red externa de Paladines de la IA (o similar) en la que se compartan experiencias y prácticas con otras organizaciones, ya sea del mismo sector o de sectores diferentes. Gestionar el cambio Finalmente, los Paladines de la IA son agentes del cambio. Tienen que asegurarse de que con el tiempo, las cuestiones éticas se conviertan en una parte íntegra y natural de cualquier actividad comercial que toque la IA y el Big Data, incluyendo: el diseño, el desarrollo, las adquisiciones y las ventas. Tienen que implementar y convertir el modelo de gobierno en BAU. Figura 2: Responsabilidades del Paladín de la IA El nuevo rol del Paladín de la IA Para las organizaciones que están empezando, el Paladín de la IA es más un papel que un trabajo a tiempo completo. Normalmente, el rol es asumido por entusiastas de la IA o del Big Data que han investigado temas de ética por sí mismos sin que se les pregunte y están pendientes de los nuevos avances. Pero el papel de Paladín de la IA no es necesariamente solo el ámbito de los perfiles técnicos. También llegan de áreas como la regulación, la RSC y la protección de datos. De hecho, un "buen" candidato para asumir el papel es el DPO. Los Paladines de la IA deben ser comunicativos y estar interesados en enseñar y persuadir. Al igual que con cualquier nuevo papel de carácter interdisciplinario, los Paladines de la IA tendrán que recibir formación antes de poder ejercer su función. Traducido por Elena Selgás [1] https://arxiv.org/abs/1909.12838v2 [2] https://arxiv.org/abs/2001.09758 [3] https://www.weforum.org/agenda/2020/01/tech-companies-ethics-responsible-ai-microsoft/ [4] https://media.telefonicatech.com/telefonicatech/uploads/2021/1/115731_Decision_Points_AI_Governance.pdf [5] https://www.ai.mil/blog_04_01_20-shifting_from_principles_to_practice.html [6] https://www.telefonica.com/en/web/responsible-business/our-commitments/ai-principles [7] Independently, Telefonica and Microsoft have come up with the same name: RAI Champion.

Cada vez hay más aplicaciones de la inteligencia artificial (IA): en nuestros negocios, nuestros servicios sociales, nuestras vidas personales y en nuestras sociedades. Y la previsión es que esto seguirá creciendo. Por este impacto generalizado, los aspectos éticos de la aplicación de IA tienen un peso cada vez más relevante. ¿Cómo evitar la discriminación no deseada de los algoritmos? ¿Qué pasa con el futuro del trabajo cuando la IA automatiza muchas tareas que antes requerían personas? ¿Cómo tratar las decisiones producidas por algoritmos opacos que son cajas negras? ¿Las armas autónomas? Y así podemos seguir enumerando desafíos de la inteligencia artificial. Para liderar con estos desafíos de la IA, muchas organizaciones de distinta índole han publicado principios éticos para la inteligencia artificial, como, por ejemplo, que su uso debe ser justo y transparente. Y con esta proliferación de principios de IA, han surgido distintos estudios que los recogen y analizan. Universidad de Harvard En marzo de 2019, la Universidad de Harvard analizó los principios de 32 organizaciones en todo el mundo que en ese momento habían publicado principios de IA, como se puede ver en esta figura. Figura 1: Mapa de aproximaciones a la IA basadas en la ética y principios (fuente) Analizaron los principios en nueve dimensiones y hicieron un “scoring" de cada organización para cada dimensión: derechos humanos valores humanos responsabilidad profesional control humano de la tecnología justicia y no discriminación transparencia y explicabilidad seguridad rendición de cuentas y privacidad. Analizaron organizaciones de distintos tipos como organizaciones civiles, gobiernos, organizaciones intergubernamentales, y compañías privadas. Universidad de Suiza La ETH Universidad de Suiza analizó los principios de IA de 84 organizaciones de todo el mundo y los clasificó con las siguientes dimensiones: transparencia (usado por 73 organizaciones) justicia (68) no maleficencia (60) responsabilidad (60) privacidad (47) beneficencia (41) libertad y autonomía (34) confianza (28) sostenibilidad (14) dignidad (13) y solidaridad (6) Figura 2: Directrices éticas para la IA por país (Ampliar) Algorithm Watch (ONG) La organización sin animo de lucro Algorithm Watch mantiene un inventario global con 83 organizaciones que han publicado principios éticos de IA entre 2018 y 2019. Comentan que la mayoría de los principios incluyen temas como transparencia, igualdad, no discriminación, rendición de cuentas y seguridad, y algunos mencionan los derechos humanos y beneficencia. Además, comentan que son pocas las compañías con principios. Universidad de Huelva Finalmente, la universidad de Huelva, en un estudio sobre el uso de IA en las empresas españolas del IBEX 35 basándose en sus informes anuales de gestión, analizó si había referencias a la ética, como se puede ver en esta figura. Figura 3: Resultados IBEX-35 ( Ampliar) Analizando todos estos estudios sobre la ética y la inteligencia artificial, hay una cosa que llama la atención: la escasa representación de organizaciones españoles y hispanohablantes en toda esta discusión. Como se puede observar en la siguiente figura, las organizaciones vienen de todo el mundo: USA, Australia, Europa, Asia, pero muy pocas de España o América Latina. Figura 4: Distribución geográfica de países que han creado directrices éticas para IA ( Ampliar) Telefónica y la ética en inteligencia artificial Telefónica es la única empresa privada del mundo hispanohablante que aparece en todos los estudios. Y como se puede apreciar en el estudio del IBEX 35, es la única empresa española del IBEX que menciona ética en su informe anual de gestión. Este no quiere decir que la ética en la inteligencia artificial no sea importante en España o América Latina, pero sí que ninguna otra empresa en este ámbito disputa este liderazgo a Telefónica. Ética en la IA en España Existen varias organizaciones in España que se preocupan de la ética en la inteligencia artificial, de las cuales algunas son recientes. OdiseIA es el Observatorio del impacto social y ético de la inteligencia artificial constituido como una asociación independiente por un conjunto de profesionales. Organiza su trabajo a través de una perspectiva sectorial y una perspectiva de desafío (futuro de trabajo, explicabilidad, impacto en comportamiento, etc.) We the Humans es un “think tank” sobre el impacto de la inteligencia artificial en la vida real. Reflexiona sobre los retos de las tecnologías para buscar soluciones viables que lleven a un mundo donde las máquinas no sean una amenaza, sino una oportunidad para una sociedad mejor. Digital Future Society es una iniciativa impulsada por el Ministerio de Economía y Empresa de España y Mobile World Capital Barcelona, con el objetivo de construir un futuro más justo e inclusivo en la era digital para mejorar el impacto de la tecnología en la sociedad. La Mutualidad de la Abogacía considera que la inteligencia artificial nos pone inevitablemente frente a un desafío que no podemos ignorar: el impacto ético de la aplicación de la tecnología en la toma de decisiones.

El viernes pasado, Chema Alonso y yo tuvimos la oportunidad de acudir a la sesión de clausura del XVI Congreso de la Asociación de Academias de la Lengua Española (ASALE) organizado por la Real Academia Española en Sevilla. Durante el evento, presidido por sus majestades los reyes de España, se presentó el proyecto LEIA (Lengua Española e Inteligencia Artificial), un proyecto muy emocionante que ha sido apoyado e impulsado por Telefónica desde sus inicios. El objeto de LEIA es la defensa, proyección y buen uso de la lengua española en el ámbito de la inteligencia artificial (IA) y las tecnologías actuales. El proyecto LEIA cuenta también con la colaboración de empresas líderes de tecnología como Google, Microsoft, Amazon, Twitter y Facebook, que como Telefónica con su Inteligencia Artificial Aura, están apostando por usar la IA en asistentes como Alexa o Cortana o en sus servicios para enriquecer la relación con sus clientes. Esto tiene un claro impacto en el lenguaje y estas empresas no quieren desaprovechar esta oportunidad de apostar por la tecnología para fomentar un correcto uso de la lengua española. En el evento, estas empresas han mostrado conjuntamente un vídeo con algunas de las herramientas que ya existen o que se desarrollarán en el contexto de LEIA como producto de la interacción de la IA aplicada a la lengua con los recursos de la RAE. En el caso de Telefónica, a través de Aura en Movistar Home, los clientes podrán resolver dudas ortográficas, gramaticales o sobre extranjerismos ofreciéndoles información que les motive a aprender y disfrutar de nuestro idioma desde la comodidad de su hogar. https://www.youtube.com/watch?v=L_AW7lbz2pY LEIA, el uso del lenguaje y la rápida evolución de la inteligencia artificial La colaboración de Telefónica con la RAE arrancó con la participación de José María Álvarez-Pallete, presidente de Telefónica, en el VIII Congreso Internacional de la Lengua Española celebrado en Córdoba, Argentina, el pasado 27 de marzo. Durante su intervención alertó de la rápida evolución de la tecnología y subrayó la importancia de favorecer el uso del español en esta tecnología, para que no quede relegada a un segundo plano frente a otros idiomas como el inglés, y de entrenar a los algoritmos con los datos adecuados para preservar así el uso de un correcto español. “Estamos expuestos a una avalancha tecnológica sin precedentes, tenemos que asegurarnos de que la inteligencia artificial no solo hable español para que sea una tecnología inclusiva de la que se beneficien todos los hispanohablantes, sino que además lo hable correctamente. Por ello es muy positivo que a través de LEIA ahora podamos aprovecharnos de todos los recursos lingüísticos de la RAE”. Chema Alonso, en el marco del evento. Además, Telefónica y todos los socios tecnológicos, hemos hecho oficial nuestra colaboración en el proyecto por medio de la firma de un acuerdo en el que nos comprometemos a utilizar los materiales de la RAE como sus diccionarios, gramática u ortografía en el desarrollo de nuestros asistentes de voz, procesadores de texto, buscadores, chatbots, sistemas de mensajería instantánea, redes sociales y cualquier otra herramienta, así como a seguir los criterios de un buen uso del español, aprobados por la Real Academia Española. Hace más de 300 años se fundó la RAE para mantener la unidad de la lengua española. Ahora, con LEIA, se pretende conseguir lo mismo para el español de las máquinas. Escuchar de boca de su Majestad el Rey mencionar el nombre LEIA me provocó una enorme emoción. La defensa, proyección y buen uso de la lengua española en IA es una realidad gracias a este proyecto. Si quieres ampliar información sobre Aura puedes hacerlo a través de su página web. Síguenos en Twitter, LinkedIn o YouTube.

Cada vez existen más aplicaciones para la inteligencia artificial. Desde el diagnóstico médico mejorado hasta los vehículos autónomos pasando por la traducción automática y el reconocimiento de voz. Pero cuando miramos a las empresas que están detrás del desarrollo o uso de esas aplicaciones vemos que son en su gran mayoría grandes empresas y muy pocas start-ups. La mayoría de las aplicaciones de IA son desarrolladas o utilizadas actualmente por GAFAM, BAT o por el top 50 de empresas que cotizan en la bolsa de valores internacional o nacional. Piensa en los mejores programas de reconocimiento facial que ofrecen actualmente Amazon, Google y Microsoft. La mayoría son utilizados en grandes organizaciones, tanto públicas como privadas. Pero ¿qué ocurre con el uso de la tecnología avanzada en inteligencia artificial para las pequeñas y medianas empresas (PYMEs)? Ya que a menudo representan la gran mayoría de la economía, al menos a nivel de empleados. IA en las PYMEs españolas En este post, hablaremos de la IA en las PYMEs españolas, abordando cuestiones como: ¿Conocen las PYMEs la IA? ¿Saben para qué sirve? ¿Son conscientes de los riesgos? ¿Tienen acceso a las habilidades adecuadas? ¿Qué pasa con su uso en diferentes sectores? Tengo el honor de impartir clases de IA en más de 250 PYMEs españolas en el DigitalXBorder program, un ambicioso programa para ayudar a las PYMEs en su transformación digital con la participación de expertos de Google, eBay, Amazon, Telefónica, Salesforce, Microsoft, etc. La inteligencia artificial es uno de los 25 temas del curso. Este se imparte en más de 25 ciudades de España y participan unas 30 PYMEs en cada ciudad durante tres años. El curso de inteligencia artificial contiene tanto una parte de historia, como definiciones de la IA junto con ejemplos emblemáticos (General Problem Solver, ELIZA, el Turing Test), ejemplos de IA empresarial, retos éticos, y lo que todo esto significa o puede significar para las PYMEs, que suelen tener menos datos, menos presupuesto y poco acceso a las habilidades adecuadas. El curso finaliza con ejemplos prácticos de Machine Learning como servicio, que permite a cualquier PYME realizar el aprendizaje automático en sus propios conjuntos de datos en cuestión de minutos u horas. Si estás interesado en el curso completo, puedes acceder a los vídeos desde este enlace. Al inicio del programa, diseñé un cuestionario sencillo para comprender mejor la situación de la IA en las PYMEs. Ahora que el primer año del curso ha terminado, analizo los resultados de 7 ciudades y más de 50 PYMEs. Esta es una muestra y, por tanto, la interpretación es más cualitativa que cuantitativa. Resultados del cuestionario A continuación, se presentan algunos de los resultados obtenidos. Excepto una, todas las PYMEs a las que preguntamos habían oído hablar de la IA. Cuando se les pregunta sobre lo que entienden por inteligencia artificial, las respuestas no son sorprendentes. El Machine Learning y el software inteligente se encuentran en el top de respuestas, seguidos por las máquinas pensantes y los robots. Una parte significativa también considera que la IA puede referirse a todo lo anterior (Figura 1). Figura 1. ¿Qué entienden las PYMEs por inteligencia artificial? Alrededor del 80% de los participantes conoce algunos casos donde se ha utilizado la IA. Y el 75% es consciente de los riesgos asociados a esta tecnología (sesgos, discriminaciones no deseadas, su explicación, el futuro del trabajo). La gran mayoría, sin embargo, cree que las oportunidades superan significativamente los riesgos (Figura 2). Figura 2. ¿Consideras que hay más oportunidades o más riesgos relacionados con la inteligencia artificial? La mayoría de las PYMEs piensan que la IA ya ha llegado, pero que aún queda mucho por llegar. Nadie piensa que sea solamente algo del futuro (Figura 3). Figura 3. ¿Consideras que la IA ya ha llegado o que es algo del futuro? Sin embargo, los principales retos a los que se enfrentan las PYMEs son el acceso a las competencias técnicas necesarias, como la ingeniería de datos, el análisis y el Machine Learning. Más del 75% de las PYMEs no tienen acceso a los conocimientos adecuados (Figura 4). Obviamente esto dificulta la adopción de la IA. Figura 4. ¿Hay alguien en tu compañía con conocimientos de IA o Machine Learning? Al preguntar cuántas PYMEs están, actualmente, utilizando IA, alrededor del 30% considera que lo están. Casi el 60% tiene planes de utilizarlo y un poco más de 10% no tiene planes para hacerlo. Figura 5. ¿Está tu empresa utilizando IA o pretende hacerlo? Cuando preguntamos qué problemas resuelven o tienen planeado resolver con IA, sus respuestas fueron aplicaciones habituales como mejorar las ventas, la comprensión del mercado, el mantenimiento predictivo, el diseño de máquinas, etc. Figura 6. Casos en los que se utiliza la IA en las PYMEs españolas. Dada la gran variedad de sectores en los que operan las PYMEs, se las ha categorizado por los siguientes grupos: servicios, tecnología, industria, consumo, alimentación y agricultura, pero casi el 50% procede del sector industrial. Figura 7. ¿A qué sector pertenece tu empresa? Conclusiones En resumen, podemos ver que existe un alto grado de conocimiento de inteligencia artificial en las PYMEs en España, se conocen varios casos de usos y más del 70% están implementado IA o planean hacerlo. Pero también hemos comprendido que el principal desafío es tener acceso a las habilidades que requiere el IA, como el Machine Learning o, incluso, habilidades de análisis más simples. Sin embargo, esto no quiere decir que las PYMEs no puedan empezar a utilizar la IA. Cada vez hay más herramientas disponibles que ofrecen Machine Learning como servicio a través de interfaces gráficas intuitivas, lo que permite a los científicos no especializados en datos aplicar, evaluar y ejecutar modelos de Machine Learning directamente sobre los datos de las PYMEs. Igual que con muchas nuevas tecnologías, las primeras aplicaciones son pioneras en las empresas innovadoras que adoptan las primeras tecnologías. Pero cuando las soluciones son cada vez más maduras y están más automatizadas, están al alcance de las organizaciones más pequeñas. Este es el proceso “normal” de democratización de las nuevas tecnologías, y no será diferente en el caso de la IA, que cada vez llega a un mayor número de PYMEs. If you prefer to read this post in English, you can find it here: https://business.blogthinkbig.com/artificial-intelligence-in-small-and-medium-sized-enterprises/?preview=true&_thumbnail_id=5444 Para mantenerte al día con LUCA, visita nuestra .