Ciència i Universitats

És experta internacional en Intel·ligència artificial, enginyera de Telecomunicació per la Universitat Politècnica de Madrid (UPM) i doctora en Arts i Ciències dels Mitjans de Comunicació pel Massachusetts Institute of Technology (MIT). El febrer de 2024, l’Acadèmia Europaea Barcelona – Knowledge Hub (AE-BKH) va anunciar que Nuria Oliver havia guanyat el Premi Europeu de Ciència Hipàtia per la seva recerca en el desenvolupament de nous mètodes i sistemes d’IA per impulsar un impacte social positiu. La cerimònia de lliurament del premi va ser organitzada per l’Ajuntament de Barcelona en col·laboració amb l’AE-BKH. Reproduïm l’entrevista que l’Acadèmia Europaea – Cardiff Knowledge Hub va mantenir amb la guardonada.

Moltes felicitats per haver guanyat el prestigiós Premi Europeu de Ciència Hipàtia. Podries compartir amb nosaltres què significa rebre aquest guardó?

Moltes gràcies. Rebre’l va ser una gran sorpresa i un immens honor. Aquest prestigiós premi significa molt per a mi per diverses raons. En primer lloc, perquè subratlla la importància d’invertir en investigació científica centrada a tenir un impacte social positiu, que ha estat una força motriu al llarg de la meva carrera. En segon lloc, perquè serveix de reconeixement al continu suport que he rebut de la meva família, col·legues, professors, mentors i col·laboradors. Sense la seva orientació, experiència i inspiració, res d’això hauria estat possible. Per últim, el nom del premi és molt significatiu per a mi. Hipàtia va ser una destacada filòsofa, astrònoma i matemàtica que va viure a Alexandria fa més de 2.000 anys. Per tant, espero que aquest premi amb el seu nom ajudi a amplificar el missatge de la necessitat d’inclusió i diversitat al sector tecnològic en general i, en particular, en la Intel·ligència Artificial.

Ja has parlat anteriorment de la teva convicció sobre el poder de la tecnologia com a millora per la nostra qualitat de vida, tant individual com col·lectiva. Segons el teu parer, quines són les aplicacions més prometedores de la IA per abordar reptes socials com la sanitat, l’educació o la sostenibilitat mediambiental?

Sí, estic convençuda que necessitem la IA per abordar la majoria dels reptes a què ens enfrontem al segle XXI, des de la crisi energètica fins al canvi climàtic i les pandèmies. La Intel·ligència Artificial no serà la solució, però sens dubte en formarà part. Com a exemple, puc aprofundir en la interacció entre la IA i el canvi climàtic i la salut.

Pel que fa al canvi climàtic, els mètodes d’IA basats en l’aprenentatge automàtic -i especialment basats en xarxes neuronals profundes- ens permeten modelitzar el clima i el temps, identificar patrons i fer prediccions precises dels canvis a la temperatura global mitjançant l’anàlisi de grans quantitats de dades meteorològiques i climàtiques multidimensionals. A més d’utilitzar-se per construir prediccions i models climàtics més precisos, els mètodes d’IA també es poden aplicar per millorar els sistemes de modelització meteorològica de propera generació permetent, per exemple, detectar i separar el soroll a les observacions climàtiques o etiquetar automàticament les dades climàtiques.

Els fenòmens meteorològics extrems –com huracans, tempestes intenses, inundacions…– estan augmentant en freqüència i intensitat a causa del canvi climàtic. La IA també ha demostrat ser un valuós aliat per preveure aquests fenòmens meteorològics extrems i el seu impacte, i per permetre una resposta més eficaç i ràpida a les catàstrofes naturals. Els drons autònoms (guiats per IA) es poden utilitzar per prevenir incendis o buscar supervivents en inundacions i terratrèmols. En aquest àmbit, el projecte d’Intel·ligència Artificial per a la Resposta a Catàstrofes (IADR) del QCRI de Qatar ofereix una eina gratuïta en línia que analitza els missatges de les xarxes socials relacionats amb emergències, crisis humanitàries i catàstrofes. Utilitza tècniques d’IA per etiquetar automàticament milers de missatges per minut, actuant com a sistema d’alerta primerenca.

Més enllà de l’aplicació directa de tècniques d’intel·ligència artificial per modelitzar i predir el clima, els mètodes d’IA es poden aplicar a indústries o sectors que tenen un impacte mediambiental negatiu per permetre la reducció de les emissions de gasos d’efecte hivernacle. Segons un informe encarregat per Microsoft a PwC, l’ús de la IA en casos d’ús mediambiental podria aportar fins a 5.200 milions de dòlars a l’economia mundial el 2030 i reduir les emissions de gasos amb efecte d’hivernacle en un 4%, cosa que equival a les emissions anuals estimades per a 2030 del Japó, Canadà i Austràlia junts.

També en tècniques d’IA per aconseguir energies renovables més eficients (solar, eòlica…) gràcies a la predicció tant del temps com de la demanda energètica. I no oblidem que és impossible tenir una xarxa energètica intel·ligent (smart grid) sense l’ajut de la IA.

Pel que fa a la sanitat, la Intel·ligència Artificial té el potencial d’aportar immensos beneficis a la medicina en diferents àmbits, des d’accelerar el descobriment de fàrmacs i tractaments fins a millorar la precisió dels diagnòstics, personalitzar els tractaments o optimitzar la gestió de les dades mèdiques.

Les tècniques d’IA permeten realitzar un cribratge virtual de compostos, fet que accelera la identificació de candidats prometedors i redueix la necessitat de fer experiments costosos i laboriosos. A més, els algorismes d’IA poden modelitzar interaccions moleculars i predir l’eficàcia i seguretat de nous fàrmacs potencials, així com la síntesi de compostos químics, cosa que ajuda a optimitzar la producció de nous fàrmacs i redueix els temps i costos associats.

Gràcies a la IA, es pot millorar el disseny i planificació dels assaigs clínics mitjançant la identificació de criteris d’inclusió/exclusió més eficaços, la predicció de la resposta al tractament i l’optimització del reclutament de pacients.

Mitjançant l’anàlisi de dades clíniques i genòmiques amb tècniques d’IA, es poden descobrir patrons, biomarcadors i correlacions sobre l’eficàcia dels tractaments i la resposta dels pacients, personalitzar els tractaments i adaptar-los a les característiques de cada pacient o identificar medicaments existents per a tractar diferents malalties.

Els algorismes d’IA poden analitzar grans conjunts de dades mèdiques, com ara ressonàncies magnètiques, tomografies computaritzades, radiografies i proves de laboratori, per oferir diagnòstics més ràpids i precisos. Això pot ajudar els professionals sanitaris a identificar malalties en fases primerenques i millorar les taxes d’èxit dels tractaments. Hi ha nombrosos exemples d’algorismes d’IA que ajuden a diagnosticar diferents tipus de càncer, per exemple.

La Intel·ligència Artificial és també una eina clau per a una gestió i anàlisi més eficients de grans quantitats de dades mèdiques, ajudant els professionals a prendre decisions informades i permetent la identificació i reducció de possibles errors mèdics. Per exemple, les tècniques d’IA permeten identificar patrons als historials mèdics electrònics, gestionar les històries clíniques i predir tendències epidemiològiques. En el context de la salut pública, el grup de treball Data Science against COVID-19 que vaig dirigir durant més de 2 anys és un exemple d’aplicació de tècniques d’intel·ligència artificial per ajudar a combatre una pandèmia.

Pel que fa a la cirurgia, la Intel·ligència Artificial pot ajudar els cirurgians. Per exemple, a les cirurgies robòtiques, la IA pot millorar la precisió i permetre moviments més delicats.

La IA pot millorar la telemedicina proporcionant eines de diagnòstic a distància i assessorament mèdic basat en les dades recollides per telèfons mòbils, sensors, wearables i dispositius connectats. Així mateix, aquestes dades, analitzades amb tècniques d’IA, poden permetre la detecció de signes de deteriorament clínic o canvis a l’estat d’un pacient, possibilitant una intervenció primerenca i la reducció de riscos. Les mascotes robòtiques i altres tipus de robots socials exerceixen un paper cada cop més important en la lluita contra la soledat de la gent gran i en el seguiment continu dels seus senyals fisiològics i patrons d’activitat.

Òbviament, com en altres sectors, la IA es pot utilitzar per automatitzar tasques administratives, com ara la facturació i la programació, alliberant temps perquè els professionals mèdics se centrin més en l’atenció directa al pacient. També hi ha exemples de l’ús de xatbots per facilitar tràmits administratius, resoldre dubtes o fins i tot donar resposta a preguntes mèdiques senzilles.

Tot i això, els sistemes d’Intel·ligència Artificial no són perfectes i plantegen reptes tècnics, ètics i socials que han de ser abordats per aprofitar el seu immens potencial en tots els àmbits i especialment en el camp de la medicina. Hem d’exigir que els sistemes d’IA aplicats a la medicina compleixin els principis FATEN, que es descriuen tot seguit.

Les oportunitats que ens ofereix la investigació enfocada a IA per tenir un impacte social positiu són gairebé il·limitades. És precisament aquest aspecte social de la IA allò que motiva i ha motivat sempre la nostra feina, i és el focus d’ELLIS Alacant.

Com a líder de la investigació en IA, quines consideracions ètiques creus que són més crucials en el desenvolupament i el desplegament de les tecnologies d’IA?

M’agrada resumir les consideracions ètiques que hauríem d’exigir a qualsevol sistema d’IA amb un acrònim: FATEN.

F d’imparcialitat o justícia (de l’anglès fairness): Les decisions algorísmiques basades en dades poden discriminar, perquè les dades utilitzades per entrenar aquests algorismes poden tenir biaixos que resultin en decisions discriminatòries; per l’ús d’un algoritme determinat; o pel mal ús de determinats models en diferents contextos. Hem d’exigir sempre algorismes que ofereixin garanties de no-discriminació.

A d’autonomia, un valor central a l’ètica occidental, segons el qual cada persona ha de tenir la capacitat de decidir els seus propis pensaments i accions, garantint, per tant, la lliure elecció, la llibertat de pensament i d’acció. No obstant això, avui dia podem construir –i jo he construït– models computacionals a partir dels nostres desitjos, necessitats, personalitat i comportament amb capacitat per influir subliminalment en les nostres decisions i accions, com ha quedat palès en els recents processos electorals als Estats Units i el Regne Unit. Hem de garantir que els sistemes intel·ligents prenguin decisions preservant sempre l’autonomia i la dignitat humana.

L’A també fa referència a la rendició de comptes o atribució de responsabilitat, és a dir, ser clars sobre l’atribució de responsabilitat per les conseqüències de les decisions algorítmiques. I per l’augment de la intel·ligència humana, de manera que els sistemes d’intel·ligència artificial s’utilitzin per millorar-la o complementar-la, no per substituir-la.

T de confiança (de l’anglès trust), que és un pilar bàsic en les relacions entre els éssers humans i les institucions. T és també de transparència per comprendre les raons subjacents a les decisions o al comportament de les complexíssimes xarxes neuronals que constitueixen el nucli de la majoria dels sistemes d’IA actuals. De la mateixa manera, és essencial que els sistemes d’intel·ligència artificial siguin transparents no només respecte a quines dades capturen i analitzen sobre el comportament humà i amb quins fins, sinó també respecte a les situacions en què els humans interactuen amb sistemes artificials (per exemple, xatbots) davant d’altres humans.

E d’educació, és a dir, inversió en educació a tots els nivells, començant per l’educació obligatòria, però també educació per als ciutadans, les persones professionals -especialment aquelles professions de les quals estan sent transformades per la tecnologia-, les treballadores del sector públic i els nostres representants polítics. I també és pel principi de beneficència, és a dir, maximitzar l’impacte positiu de l’ús de la Intel·ligència Artificial, amb sostenibilitat, diversitat, honestedat i veracitat. No tot desenvolupament tecnològic implica progrés. A allò que hem d’aspirar i invertir és en el progrés. Des del meu punt de vista, el progrés implica una millora de la qualitat de vida de les persones –totes les persones–, dels altres éssers vius i del nostre planeta.

N significa no maleficència, minimitzant l’impacte negatiu que pugui tenir l’ús de la IA a les nostres societats, aplicant un principi de prudència, garantint la seguretat, fiabilitat i reproductibilitat dels sistemes d’IA, i preservant sempre la privadesa de les persones.

Només quan respectem aquests requisits FATEN podrem avançar i aconseguir una intel·ligència artificial socialment sostenible.

Has demostrat la teva dedicació a fer la tecnologia més accessible al públic no tècnic i a inspirar els joves (especialment les dones) perquè segueixin carreres tecnològiques. Segons la teva experiència, com podem millorar la diversitat i la inclusió al camp de la IA, tant en la recerca com en la indústria?

Millorar la diversitat i la inclusió al camp de la IA és crucial per fomentar la innovació, reduir els prejudicis i garantir que la IA beneficiï a tothom. La Intel·ligència Artificial s’utilitza àmpliament a la nostra societat i, tanmateix, és desenvolupada per grups homogenis que no tenen diversitat de gènere i altres tipus. Es calcula que menys del 20% dels experts en IA del món són dones. Aquesta manca de diversitat és certament negativa no només per al camp de la IA, sinó per a la societat en general, atesa l’omnipresència de la IA a les nostres vides, les nostres empreses, els nostres governs i les nostres societats.

Hi ha diverses estratègies que poden ajudar a assolir aquest objectiu, començant per programes d’educació i divulgació per inspirar els grups infrarepresentats, incloses les dones i les minories, a estudiar IA i camps relacionats a una edat primerenca. Alguns exemples són els tallers, els campaments de codificació i els programes de tutoria. La participació de la comunitat també pot ser valuosa per comprendre les necessitats, les preocupacions i les perspectives de diverses comunitats en relació amb la IA i fomentar així un desenvolupament més inclusiu dels sistemes d’IA.

Des del punt de vista del lloc de treball, hi ha diverses mesures clau per prendre. En primer lloc, hem d’implantar la diversitat a les pràctiques de contractació, buscant candidats diversos en contractar per a llocs de recerca i de la indústria de la IA. A més, la cultura del lloc de treball ha de ser integradora, de manera que tots –i en particular les dones i els membres de minories– se sentin valorats i recolzats. La formació en diversitat, els grups de recursos per a empleats i les polítiques que promoguin l’equilibri entre la vida laboral i el personal i s’adaptin a les diferents necessitats són accions rellevants en aquest front. Finalment, també hem de garantir la diversitat als llocs directius de les organitzacions de l’IA i les institucions de recerca. Comptar amb veus diverses a la taula de presa de decisions pot conduir a polítiques i pràctiques més inclusives.

Des d’una perspectiva algorítmica, hem d’abordar els biaixos als sistemes d’IA perquè puguem garantir resultats justos i equitatius que resultin de l’ús d’aquests sistemes per a totes les poblacions. A ELLIS Alicante tenim una àrea de recerca dedicada a la justícia algorítmica.

Aquestes estratègies podrien ajudar a fer que el camp de la IA sigui més inclusiu, divers i reflecteixi la societat més àmplia a què serveix, donant lloc a resultats més innovadors i equitatius.

Font de l’entrevista: Academia Europaea – Cardiff Knowledge Hub