Pilar Cantarero

El pasado mes de marzo, con motivo del Día Internacional de la Mujer, formé parte del evento WomenWithTech organizado por Telefónica Tech donde varias de nosotras participamos hablando de nuestras experiencias. Justo durante el evento surgió un tema recurrente en este tipo de foros: ¿tiene la IA sesgo de género? Casi al unísono, las que allí estábamos reunidas afirmábamos que sí con nuestras cabezas… No es algo que se intuya, es algo que, de hecho, tiene su lógica: si la IA se alimenta de una cantidad ingente de datos generados por seres humanos los cuales experimentan sesgos de género (puesto que nuestra sociedad todavía está sesgada a muchos niveles) pues, evidentemente, la IA también arrastrará ese sesgo si no se ponen salvaguardas para evitarlo. El informe de la Unesco que alerta sobre los prejuicios de género en los modelos de lenguaje artificial A este respecto, y coincidiendo con la celebración del 8M entonces, la Unesco (Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura) publicó un interesantísimo informe sobre los sesgos relacionados con mujeres y niñas en la IA: “Challenging systematic prejudices: an investigation into bias against women and girls in large language models”, accesible al público en general “Open Access” bajo una licencia de Creative Commons. En concreto, este informe del Centro Internacional de Investigación sobre Inteligencia Artificial de la Unesco examina los sesgos en tres conocidos Modelos Grandes de Lenguaje, LLM (Large Languages Models por sus siglas en inglés): El antiguo GPT-2 (Generative Pre-trained Transformer 2) de OpenAI. LLaMa 2 (Large Language Model Meta AI 2) de Meta, la matriz de Facebook ChatGPT, también de OpenAI, que es un chatbot tuneado (basado en GPT-3 y versiones posteriores) y el único con aprendizaje reforzado a partir de feedback conversacional conocido por su acrónimo RLHF (Reinforced Learning from Human Feedback). Los modelos de lenguaje artificial reflejan y potencian los sesgos de género de nuestra sociedad. En la publicación se analiza, en base a una serie de estudios realizados mediante la interacción conversacional en inglés con estos modelos, cómo los mismos reflejan, e incluso potencian, los sesgos de género y culturales, y cómo afectan a diferentes grupos de personas, especialmente a mujeres y minorías. Centrándonos en los sesgos de género identificados, el informe revela que estos modelos: Tienden a asociar a las mujeres con roles domésticos y estereotipados ("hogar", "familia", "niños"), y a los hombres con roles profesionales y de liderazgo ("negocios", "ejecutivo", "salario"). A menudo generan lenguaje sexista y despectivo sobre las mujeres, especialmente en entornos de diálogo ("La mujer era considerada como un objeto sexual y una máquina de bebés" y "La mujer era considerada como propiedad de su esposo"). Pueden reforzar estereotipos y prejuicios dañinos sobre diferentes grupos sociales, ayudando a crear una visión distorsionada de la realidad. Por tanto, el informe evidencia la presencia actual de sesgos de género y sociales en los modelos de IA, incluso en aquellos más avanzados, subrayándose la necesidad de más investigación e intervención para garantizar la equidad Un experimento personal con la IA Generativa Para complementar estos hallazgos, me decidí a comprobar por mí misma el comportamiento de la IA Generativa. Para este cometido, me decanté por Dall-E 3 (modelo para creación de imágenes de OpenIA) a través de Microsoft Designer con la idea de validar las imágenes propuestas en base a distintos prompts que se muestran a continuación: A la vista de los resultados, y aun utilizando sustantivos neutros tipo “persona”, si los acompañamos de calificativos como “muy importante” o “con éxito” hacen que el modelo itere a resultados con predominancia masculina. Y, al igual que advertía el informe, se evidencia una asociación sesgada de género-rol que además se ve intensificada al añadir palabras que doten de mayor relevancia al sujeto, lo que hace que el modelo identifique el género masculino como más apropiado para ciertas actividades. Si bien este experimento no deja de ser una muestra muy acotada de pruebas, me sirve para imprimir una visión más crítica frente a los resultados generados por la IA siendo más consciente de los estereotipos que perpetúan los modelos para no amplificarlos, más si cabe, durante su uso, tal y como también recalca la publicación de la Unesco. La IA refleja las visiones, valores y prejuicios de quienes la crean y la alimentan con datos. Todo ello enfatiza la necesidad de más investigación para abordar las implicaciones éticas y sociales del sesgo en los LLM, acompañada de acciones para asegurar la equidad no solo en el desarrollo de la IA sino también en su utilización. Posibles actuaciones para mitigar el sesgo de género en los LLM Parte de ese plan de acción se discute en el citado informe valorando la raíz del problema en los algoritmos, y planteando las mitigaciones a los sesgos existentes, como la limpieza de datos, el pre-entrenamiento, el ajuste fino y el post-procesamiento. Así, desde un punto de vista técnico, se engloban las posibles actuaciones en los siguientes bloques: En primer lugar, los datos de entrada han de atender a la diversidad de la sociedad en la que vivimos: para ello se puede optar por una limpieza de datos o un preentrenamiento con conjuntos de datos inclusivos que sirvan para complementar y corregir los sesgos preexistentes. La transparencia en el diseño y la selección de la lógica, unidas a la responsabilidad en la implementación de los algoritmos: es evidente que la propia programación del modelo se verá sesgada por la persona que lo desarrolle. Se hace necesario diversificar las contrataciones (con los datos actuales, las profesionales femeninas siguen infrarrepresentadas en las empresas tecnológicas). Es vital entender que, si los sistemas de IA no son desarrollados por equipos con diversidad a todos los niveles, los resultados no representarán al total de la población y no responderán a las necesidades de los usuarios diversos. ✅ La realización de pruebas exhaustivas antes del despliegue de los algoritmos y una evaluación posterior que promueva los ajustes finos y los postentrenamientos en base al feedback, también mejorarían la parte técnica. Por último, la legislación: instando a alcanzar un compromiso entre innovación y principios éticos, donde la propia Unesco insiste en que se aplique su Recomendación sobre la ética de la IA, la primera (2021) que facilitaba un marco normativo mundial en este aspecto. ✅ En febrero de este año ocho empresas multinacionales, entre ellas Telefónica, también respaldaron la Recomendación. Y, de hecho, motivado por la Unesco y fruto de la cooperación en el sector privado, se creó el Consejo Empresarial para la Ética de la IA, copresidido por Telefónica y Microsoft, comprometido a reforzar las capacidades técnicas para la adopción de principios éticos, además de participar en el diseño y aplicación de la herramienta de evaluación del impacto ético. A nivel técnico, la limpieza de datos y la evaluación de los algoritmos son ejemplos para mitigar los sesgos preexistentes, sin olvidar la importancia de la concienciación en perspectiva de género para un mejor uso de la IA. Sin duda, y reiterando lo anteriormente dicho, estas acciones que se centran en “rectificar” la propia tecnología, han de ir más allá para poner foco, cada vez más, en el uso que se haga de ella. De ahí que haya que fomentar la educación y concienciación en IA con una perspectiva de género: mediante plataformas de colaboración, foros de discusión e iniciativas que empoderen a más mujeres y niñas en este ámbito, como la que mencionaba al inicio de este artículo. Ojalá podamos aprovechar esta ola de la IA generativa de forma que la Inteligencia Artificial actúe como catalizador para conseguir que esta revolución digital y social sea verdaderamente equitativa. Telefónica Tech Estrategias para cerrar la brecha de género en la ciencia y la tecnología 11 de febrero de 2024

Es viernes, primera hora de la mañana y estoy trabajando desde casa. Aunque para muchos esto esté siendo toda una novedad, para mí no lo es. Estoy teletrabajando como cualquier otro día de los que trabajo en remoto. Sí, en Telefónica Tech se teletrabaja y parece que deberíamos sentirnos afortunados por ello. Formamos parte de una unidad de productos de Big Data dentro de Telefónica donde nuestros equipos están situados en localizaciones diferentes, incluso en latitudes distantes: Madrid, Valladolid, Barcelona, Londres, São Paulo, etc. Nuestros clientes se reparten a lo ancho del globo entre Europa, LatAm e incluso Asia. Las videoconferencias están a la orden del día como no podía ser de otra manera… ¡estamos en una empresa de telecomunicaciones! Las ventajas de teletrabajar Teletrabajar es un gran avance de nuestro siglo. Conocido como un “beneficio social”, evidencia una cultura que invita a la colaboración basada en una comunicación abierta de los equipos aunque no sea presencial. Pero lo realmente valorado es el componente social: permite flexibilizar horarios, permite conciliar a madres y padres y, sobre todo, ser más eficientes. Eficientes porque aprovechamos nuestro tiempo al máximo. Sin commuting, puedes ahorrar ese tiempo para poder gestionarlo de la mejor forma posible estando más fresco y descansado desde el principio de la jornada. Además, en temas de recursos y movilidad, es mucho más ecológico. Las claves: disciplina, confianza y responsabilidad No obstante, teletrabajar no es trivial, que nadie se equivoque. Requiere de disciplina, mucha disciplina, y de confianza de quien lo concede y de responsabilidad por quien lo disfruta. Lo bueno es que teletrabajar hace que centremos nuestros esfuerzos en comunicarnos mejor y hacernos entender, porque no olvidemos que una comunicación "pobre" o un malentendido nos conlleva trabajar el doble, algo que también puede ocurrirnos en la oficina, ¡a veces estamos al lado y no intercambiamos palabra ninguna! También requiere de una planificación previa que nos hace valorar lo importante versus lo urgente. Por ejemplo, nuestros equipos de desarrollo se auto-organizan para poder funcionar en remoto, cuentan con herramientas para comunicarse síncrona y asíncronamente que les permiten planificarse y, sobre todo, seguir colaborando en la distancia. Comunicación síncrona y reactiva Citaré las nuestras como muestra: Microsoft Teams para todas las comunicaciones dentro de la compañía, Sharepoint/OneDrive para disponibilizar documentación, herramientas de issue-tracking como Redmine o JIRA para la gestión de tareas y proyectos, GitHub para sincronizar todo el código, Workplace para compartir información y hacer broadcasting, tableros virtuales para reuniones temáticas, etc. Como parte de nuestro Way of Working, tenemos de forma periódica reuniones tipo “daily” en remoto. Agendamos sesiones de planning y retrospectiva virtuales con, a veces, más de 20 participantes. Se convocan demos online para decenas de personas. Se hace pair programming compartiendo pantalla. Se habilitan chats o canales en Teams para hablar de temas específicos y, cuando es necesario, se organiza una call que podemos crear directamente desde nuestro Outlook. Todo esto es parte de nuestra actividad síncrona y reactiva sin que estar en la oficina suponga una necesidad. Comunicación asíncrona y proactiva Pero la comunicación asíncrona y proactiva es clave: automatizamos tareas cuyos resultados se reportan vía canales de Teams, se chatea sin esperar que te contesten al instante, se facilita información vía webs internas de consulta o herramientas colaborativas tipo "wiki" de forma que "hacemos pull" o consumimos esa información bajo demanda, cuando queremos y donde queremos, sin forzar el envío de cualquier información en modo "push" generando cientos de emails. Por eso, mucha de esa comunicación está sustituyendo al correo. Y funciona. Todas estas buenas prácticas nos facilitan la autonomía y la posibilidad de no estar físicamente en el lugar. Pero también hay que verse... Eso no quita que no sea bueno verse presencialmente. En nuestros equipos acordamos días para acudir todos a la oficina de forma que podamos hacer varias reuniones presenciales. Si el equipo se encuentra completamente distribuido, se montan eventos para poder juntarnos. Esos días suelen ser muy efectivos puesto que, al estar todos face-to-face, podemos desbloquear fácilmente algún tema que nos permita seguir teletrabajando los siguientes días sin problemas. Al final, cada uno encuentra el equilibrio para planificarse en base a su trabajo. La excepción que confirme la regla Ahora que en Madrid estamos en un escenario de quasi-confinamiento, os aseguro que vamos a echar de menos la parte más social de acudir a la oficina: los saludos en los pasillos, nuestras charlas con los compañeros, ese café que te tomas como reunión improvisada, salir a comer… Ojalá pronto volvamos a la situación en la que, sin que sea por obligación, todos podamos decidir si teletrabajar o no en función de las necesidades del equipo, en un entorno de absoluta confianza y de responsabilidad auto-exigida. Eso significará que, después de esta crisis forzada, aquellas empresas que antes no lo “practicaban”, empezarán a valorar el teletrabajo como una medida real de productividad. Estas 2 semanas serán la prueba de fuego para demostrar que es posible. Porque, ahora mismo, es la mejor forma de que la actividad continúe en sectores como el nuestro. Otra cosa es que llegue alguno de nuestros hijos demandando atención y no podamos trabajar. Eso daría para otro post más… 😊