Ciencia y Universidades

Es experta internacional en Inteligencia artificial, ingeniera de Telecomunicación por la Universidad Politécnica de Madrid (UPM) y doctora en Artes y Ciencias de los Medios de Comunicación por el Massachusetts Institute of Technology (MIT). En febrero de 2024, la Academia Europaea Barcelona – Knowledge Hub (AE-BKH) anunció que Nuria Oliver había ganado el Premio Europeo de Ciencias Hipatia por su investigación en el desarrollo de nuevos métodos y sistemas de IA para impulsar un impacto social positivo. La ceremonia de entrega del premio fue organizada por el Ayuntamiento de Barcelona en colaboración con la AE-BKH. Reproducimos la entrevista que la Academia Europaea – Cardiff Knowledge Hub mantuvo con la galardonada.

Muchas felicidades por haber ganado el prestigioso Premio Europeo de Ciencias Hipatia ¿Podrías compartir con nosotros lo que significa recibir este galardón?

Muchas gracias. Recibir este premio fue una gran sorpresa y un inmenso honor. Este prestigioso premio significa mucho para mí por varias razones. En primer lugar, porque subraya la importancia de invertir en investigación científica centrada en tener un impacto social positivo, que ha sido una fuerza motriz a lo largo de mi carrera. En segundo lugar, porque sirve de reconocimiento al continuo apoyo que he recibido de mi familia, colegas, profesores, mentores y colaboradores. Sin su orientación, experiencia e inspiración, nada de esto habría sido posible. Por último, el nombre del premio es muy significativo para mí. Hipatia fue una destacada filósofa, astrónoma y matemática que vivió en Alejandría hace más de 2.000 años. Por lo tanto, espero que este premio con su nombre ayude a amplificar el mensaje de la necesidad de inclusión y diversidad en el sector tecnológico en general y, en particular, en la Inteligencia Artificial.

Ya has hablado anteriormente de tu convicción en que el poder de la tecnología mejora nuestra calidad de vida, tanto individual como colectiva. En tu opinión, ¿cuáles son las aplicaciones más prometedoras de la IA para abordar retos sociales como la sanidad, la educación o la sostenibilidad medioambiental?

Sí, estoy convencida de que necesitamos la IA para abordar la mayoría de los retos a los que nos enfrentamos en el siglo XXI, desde la crisis energética hasta el cambio climático y las pandemias. La Inteligencia Artificial no será la solución, pero sin duda formará parte de ella.  A modo de ejemplo, puedo profundizar en la interacción entre la IA y el cambio climático, y la IA y la salud.

En lo que respecta al cambio climático, los métodos de IA basados en el aprendizaje automático -y especialmente basados en redes neuronales profundas- nos permiten modelizar el clima y el tiempo, identificar patrones y hacer predicciones precisas de los cambios en la temperatura global mediante el análisis de grandes cantidades de datos meteorológicos y climáticos multidimensionales. Además de utilizarse para construir predicciones y modelos climáticos más precisos, los métodos de IA también pueden aplicarse para mejorar los sistemas de modelización meteorológica de próxima generación permitiendo, por ejemplo, detectar y separar el ruido en las observaciones climáticas o etiquetar automáticamente los datos climáticos.  

Los fenómenos meteorológicos extremos -como huracanes, tormentas intensas, inundaciones…- están aumentando en frecuencia e intensidad debido al cambio climático. La IA también ha  demostrado ser un valioso aliado para predecir estos fenómenos meteorológicos extremos y su impacto, y para permitir una respuesta más eficaz y rápida a las catástrofes naturales. Los drones autónomos (guiados por IA) pueden utilizarse para prevenir incendios o buscar supervivientes en inundaciones y terremotos. En este ámbito, el proyecto de Inteligencia Artificial para la Respuesta a Catástrofes (IADR) del QCRI de Qatar ofrece una herramienta en línea gratuita que analiza los mensajes de las redes sociales relacionados con emergencias, crisis humanitarias y catástrofes. Utiliza técnicas de IA para etiquetar automáticamente miles de mensajes por minuto, actuando como un sistema de alerta temprana.

Más allá de la aplicación directa de técnicas de Inteligencia Artificial para modelizar y predecir el clima, los métodos de IA pueden aplicarse a industrias o sectores que tienen un impacto medioambiental negativo para permitir la reducción de las emisiones de gases de efecto invernadero (GEI). Según un informe encargado por Microsoft a PwC, el uso de la IA en casos de uso medioambiental podría aportar hasta 5.200 millones de dólares a la economía mundial en 2030 y reducir las emisiones de gases de efecto invernadero en un 4%, lo que equivale a las emisiones anuales estimadas para 2030 de Japón, Canadá y Australia juntos. 

También nos apoyamos en técnicas de IA para conseguir energías renovables más eficientes (solar, eólica…) gracias a la predicción tanto del tiempo como de la demanda energética. Y no olvidemos que es imposible tener una red energética inteligente (smart grid) sin la ayuda de la IA. 

En cuanto a la sanidad, la Inteligencia Artificial tiene el potencial de aportar inmensos beneficios a la medicina en diferentes ámbitos, desde acelerar el descubrimiento de fármacos y tratamientos hasta mejorar la precisión de los diagnósticos, personalizar los tratamientos u optimizar la gestión de los datos médicos.

Las técnicas de IA permiten realizar un cribado virtual de compuestos, lo que acelera la identificación de candidatos prometedores y reduce la necesidad de realizar experimentos costosos y laboriosos. Además, los algoritmos de IA pueden modelizar interacciones moleculares y predecir la eficacia y seguridad de nuevos fármacos potenciales, así como predecir la síntesis de compuestos químicos, lo que ayuda a optimizar la producción de nuevos fármacos y reduce los tiempos y costes asociados. 

Gracias a la IA, se puede mejorar el diseño y la planificación de los ensayos clínicos mediante la identificación de criterios de inclusión/exclusión más eficaces, la predicción de la respuesta al tratamiento y la optimización del reclutamiento de pacientes. 

Mediante el análisis de datos clínicos y genómicos con técnicas de IA, se pueden descubrir patrones, biomarcadores y correlaciones sobre la eficacia de los tratamientos y la respuesta de los pacientes, personalizar los tratamientos y adaptarlos a las características de cada paciente o identificar medicamentos existentes para tratar diferentes enfermedades.

Los algoritmos de IA pueden analizar grandes conjuntos de datos médicos, como resonancias magnéticas, tomografías computarizadas, radiografías y pruebas de laboratorio, para ofrecer diagnósticos más rápidos y precisos. Esto puede ayudar a los profesionales sanitarios a identificar enfermedades en fases tempranas y mejorar las tasas de éxito de los tratamientos. Hay numerosos ejemplos de algoritmos de IA que ayudan a diagnosticar distintos tipos de cáncer, por ejemplo. 

La Inteligencia Artificial es también una herramienta clave para una gestión y análisis más eficientes de grandes cantidades de datos médicos, ayudando a los profesionales a tomar decisiones informadas y permitiendo la identificación y reducción de posibles errores médicos. Por ejemplo, las técnicas de IA permiten identificar patrones en los historiales médicos electrónicos, gestionar las historias clínicas y predecir tendencias epidemiológicas. En el contexto de la salud pública, el grupo de trabajo Data Science against COVID-19 que dirigí durante más de 2 años es un ejemplo de aplicación de técnicas de Inteligencia Artificial para ayudar a combatir una pandemia. 

En cuanto a la cirugía, la Inteligencia Artificial puede ayudar a los cirujanos. Por ejemplo, en las cirugías robóticas, la IA puede mejorar la precisión y permitir movimientos más delicados.

La IA puede mejorar la telemedicina proporcionando herramientas de diagnóstico a distancia y asesoramiento médico basado en los datos recogidos por teléfonos móviles, sensores, wearables y dispositivos conectados. Asimismo, estos datos, analizados con técnicas de IA, pueden permitir la detección de signos de deterioro clínico o cambios en el estado de un paciente, posibilitando una intervención temprana y la reducción de riesgos. Las mascotas robóticas y otros tipos de robots sociales están desempeñando un papel cada vez más importante en la lucha contra la soledad de las personas mayores y en el seguimiento continuo de sus señales fisiológicas y patrones de actividad. 

Obviamente, como en otros sectores, la IA puede utilizarse para automatizar tareas administrativas, como la facturación y la programación, liberando tiempo para que los profesionales médicos se centren más en la atención directa al paciente. También hay ejemplos del uso de chatbots para facilitar trámites administrativos, resolver dudas o incluso dar respuesta a preguntas médicas sencillas. 

Sin embargo, los sistemas de Inteligencia Artificial no son perfectos y plantean retos técnicos, éticos y sociales que deben ser abordados para aprovechar su inmenso potencial en todos los ámbitos y especialmente en el campo de la medicina. Debemos exigir que los sistemas de IA aplicados a la medicina cumplan los principios FATEN, que se describen a continuación.

Las oportunidades que nos ofrece la investigación en IA para tener un impacto social positivo son casi ilimitadas. Es precisamente este aspecto social de la IA lo que motiva y ha motivado siempre nuestro trabajo, y es el foco de ELLIS Alicante.

Como líder de la investigación en IA, ¿qué consideraciones éticas crees que son más cruciales en el desarrollo y despliegue de las tecnologías de IA?

Me gusta resumir las consideraciones éticas que deberíamos exigir a cualquier sistema de IA con un acrónimo: FATEN.

F de imparcialidad o justicia (del inglés fairness): Las decisiones algorítmicas basadas en datos pueden discriminar, porque los datos utilizados para entrenar dichos algoritmos pueden tener sesgos que resulten en decisiones discriminatorias; por el uso de un determinado algoritmo; o por el mal uso de determinados modelos en diferentes contextos. Debemos exigir siempre algoritmos que ofrezcan garantías de no discriminación. 

A de autonomía, un valor central en la ética occidental, según el cual cada persona debe tener la capacidad de decidir sus propios pensamientos y acciones, garantizando por tanto la libre elección, la libertad de pensamiento y de acción. Sin embargo, hoy en día podemos construir -y yo he construido- modelos computacionales a partir de nuestros deseos, necesidades, personalidad y comportamiento con capacidad para influir subliminalmente en nuestras decisiones y acciones, como ha quedado patente en los recientes procesos electorales en Estados Unidos y el Reino Unido. Debemos garantizar que los sistemas inteligentes tomen decisiones preservando siempre la autonomía y la dignidad humana. La A también se refiere a la rendición de cuentas o atribución de responsabilidad, es decir, ser claros sobre la atribución de responsabilidad por las consecuencias de las decisiones algorítmicas. Y por el aumento de la inteligencia humana, de modo que los sistemas de Inteligencia Artificial se utilicen para mejorarla o complementarla, no para sustituirla. 

T de confianza (del inglés trust), que es un pilar básico en las relaciones entre los seres humanos y las instituciones.  T es también de transparencia para comprender las razones que subyacen a las decisiones o al comportamiento de las complejísimas redes neuronales que constituyen el núcleo de la mayoría de los sistemas de IA actuales. Del mismo modo, es esencial que los sistemas de Inteligencia Artificial sean transparentes no sólo respecto a qué datos capturan y analizan sobre el comportamiento humano y con qué fines, sino también respecto a las situaciones en las que los humanos interactúan con sistemas artificiales (por ejemplo, chatbots) frente a otros humanos.

E de educación, es decir, inversión en educación a todos los niveles, empezando por la educación obligatoria, pero también educación para los ciudadanos, las personas profesionales -especialmente aquellas cuyas profesiones están siendo transformadas por la tecnología-, las trabajadoras del sector público y nuestros representantes políticos. E es también por el principio de beneficencia, es decir, maximizar el impacto positivo del uso de la Inteligencia Artificial, con sostenibilidad, diversidad, honestidad y veracidad. No todo desarrollo tecnológico implica progreso. A lo que debemos aspirar e invertir es en el progreso. Desde mi punto de vista, el progreso implica una mejora de la calidad de vida de las personas -todas las personas-, de los demás seres vivos y de nuestro planeta.

N significa no maleficencia, minimizando el impacto negativo que pueda tener el uso de la IA en nuestras sociedades, aplicando un principio de prudencia, garantizando la seguridad, fiabilidad y reproducibilidad de los sistemas de IA, y preservando siempre la privacidad de las personas. 

Sólo cuando respetemos estos requisitos FATEN podremos avanzar y conseguir una Inteligencia Artificial socialmente sostenible.

Has demostrado tu dedicación en hacer la tecnología más accesible al público no técnico y a inspirar a los jóvenes (especialmente a las mujeres) para que sigan carreras tecnológicas. Según tu experiencia, ¿cómo podemos mejorar la diversidad y la inclusión en el campo de la IA, tanto en la investigación como en la industria?

Mejorar la diversidad y la inclusión en el campo de la IA es crucial para fomentar la innovación, reducir los prejuicios y garantizar que la IA beneficie a todos. La Inteligencia Artificial se utiliza ampliamente en nuestra sociedad y, sin embargo, es desarrollada por grupos homogéneos que carecen de diversidad de género y de otros tipos. Se calcula que menos del 20% de los expertos en IA del mundo son mujeres. Esta falta de diversidad es ciertamente negativa no sólo para el campo de la IA, sino para la sociedad en general, dada la omnipresencia de la IA en nuestras vidas, nuestras empresas, nuestros gobiernos y nuestras sociedades.  

Hay varias estrategias que pueden ayudar a lograr este objetivo, empezando por programas de educación y divulgación para inspirar a los grupos infrarrepresentados, incluidas las mujeres y las minorías, a estudiar IA y campos relacionados a una edad temprana. Algunos ejemplos son los talleres, los campamentos de codificación y los programas de tutoría. La participación de la comunidad también puede ser valiosa para comprender las necesidades, preocupaciones y perspectivas de diversas comunidades en relación con la IA y fomentar así un desarrollo más inclusivo de los sistemas de IA.

Desde el punto de vista del lugar de trabajo, hay varias medidas clave que tomar. En primer lugar, debemos implantar la diversidad en las prácticas de contratación, buscando candidatos diversos al contratar para puestos de investigación y de la industria de la IA. Además, la cultura del lugar de trabajo debe ser integradora, de modo que todos -y en particular las mujeres y los miembros de minorías- se sientan valorados y apoyados. La formación en diversidad, los grupos de recursos para empleados y las políticas que promuevan el equilibrio entre la vida laboral y personal y se adapten a las distintas necesidades son acciones relevantes en este frente. Por último, también debemos garantizar la diversidad en los puestos directivos de las organizaciones de IA y las instituciones de investigación. Contar con voces diversas en la mesa de toma de decisiones puede conducir a políticas y prácticas más inclusivas. 

Desde una perspectiva algorítmica, tenemos que abordar los sesgos en los sistemas de IA para que podamos garantizar resultados justos y equitativos que resulten del uso de tales sistemas para todas las poblaciones. En ELLIS Alicante tenemos un área de investigación dedicada a la justicia algorítmica.  

Estas estrategias podrían ayudar a que el campo de la IA sea más inclusivo, diverso y refleje la sociedad más amplia a la que sirve, dando lugar a resultados más innovadores y equitativos.

Fuente de la entrevista: Academia Europaea – Cardiff Knowledge Hub