Ciència i Universitats

Entrevista de Toni Pou per a Barcelona Ciència i Universitats i Núvol.

Matemàtiques, filosofia, informàtica, robòtica i literatura. Són cinc de les àrees del coneixement que cultiva Carme Torras. Va començar modelant el cervell del cranc de riu i, ara, a més d’escriure novel·les de ciència-ficció, dirigeix un grup de recerca on treballen 65 persones a l’Institut de Robòtica i Informàtica Industrial, un centre mixt de la Universitat Politècnica de Catalunya i el Consell Superior d’Investigacions Científiques.

Què va ser primer, la ciència o la ficció?

La ciència, però no perquè la ficció no m’interessés. Ja llegia ciència-ficció de molt joveneta, als nou anys, però ho veia més com una cosa de la qual nodrir-me, perquè el que m’agradava era les matemàtiques i la física i, en definitiva, entendre el món. Sempre escrivia, això sí, tot i que no amb intenció de publicar. Quan vaig començar a publicar ciència-ficció ja era una investigadora més o menys reconeguda.

Aquesta passió per entendre el món et va portar a estudiar matemàtiques.

Vaig estudiar matemàtiques i al mateix temps em vaig matricular a filosofia. Escollir era un trauma. Trobo que no hauríem d’escollir tan aviat i que no hauria d’estar tot tan separat. A les carreres tecnològiques ara comença a haver-hi algun contingut d’ètica, però abans no hi havia res de res. I això no pot ser.

Com vas arribar als robots?

M’interessava molt la intel·ligència, com pensem i com les màquines poden reproduir el pensament. En un cert moment, vaig escriure una carta llarguíssima a Michael Arbib, un professor de la Universitat de Massachusetts, on li explicava que havia llegit els seus llibres i que m’interessava molt el que feia. Em va contestar! Va ser una inflexió a la meva vida. Perquè vaig acabar als Estats Units fent un màster en informàtica amb una intensificació en teoria del cervell.

Allà vas treballar amb robots?

No, però quan vaig tornar no hi havia cap possibilitat de fer aquella recerca aquí. D’una banda hi havia els experimentalistes, que feien experiments amb animals petits i, de l’altra, els informàtics. No hi havia manera de lligar totes dues coses. Fins i tot vaig anar a l’Institut Cajal, a Madrid, però tenia un perfil massa tècnic. I això era un problema. Un problema que encara hi és.

Quin?

Tothom s’omple la boca dient que la multidisciplinarietat és molt important, però a l’hora de la veritat fer una tasca multidisciplinària és complicadíssim. Jo no vaig poder continuar fent el que feia.

I què vas fer?

Gabriel Ferraté, que aleshores era rector de la UPC, em va dir que volia obrir una línia de robòtica i que si m’hi posava em podia contractar.

T’hi vas posar i la teva recerca va evolucionar dels robots industrials als assistencials.

Al principi treballàvem amb braços per cadenes de muntatge i coses així, però amb el pas dels anys veia que els estris tecnològics cada vegada tenien més impacte en la vida de les persones i em vaig començar a preocupar per temes socials. I fa uns deu anys, vaig veure que hi havia una oportunitat en l’àmbit de la manipulació de roba en entorns assistencials, tant per ajudar a vestir la gent que no pot fer-ho sola com per facilitar la logística hospitalària a l’hora de manipular tovalloles o llençols.

També heu desenvolupat un robot que dona menjar.

Vam començar amb robots que manipulen roba i hem anat desenvolupant altres aplicacions. Quan vam començar a anar a centres sociosanitaris, com el Pere Virgili, ens vam adonar que el 50% de les persones ingressades necessiten que els donin el menjar. El personal sanitari no dona l’abast i demana a les famílies que ho facin.

En quin estat de desenvolupament es troba aquest robot?

Al principi vam posar una càmera per veure quan la persona obria la boca i un sensor de força per no fer-li mal. Després de la prova pilot hem vist que també cal que canviï de cullera a forquilla, que eixugui amb un tovalló i que doni de beure amb una canyeta. I també que tingui una cara amable que digui, per exemple, si s’ha menjat prou o no. Això ho hem implementat en forma de cara expressiva amb ulleres. Ara estem a l’espera que algú vulgui fer el pas de la transferència tecnològica per comercialitzar-lo.

Això ja és un altre nivell d’interacció. Una cosa és un braç que dona de menjar i l’altra una cara que parla. Perquè aquest tipus de robot ha de tenir dues dimensions ètiques, oi? La física, per no fer mal, i l’emocional, per no generar vincles amb l’usuari.

Clar, per això el primer que fa és dir alguna cosa com “Jo et parlaré però si tu em parles no t’entenc, no et pensis que soc un ésser viu”. Aquesta interacció verbal i facial la volien de totes totes i per això l’hem implementat.

Vosaltres aneu molt amb compte, però al mercat hi ha robots que t’escolten, responen i tenen una cara que simula emocions. I a molts els venen com a companys infantils.

I més que n’hi haurà. També s’estan fent companys sentimentals, per no parlar dels sexuals.

“El futur ja és aquí”, deia l’escriptor de ciència-ficció William Gibson.

I és molt perillós. Per això nosaltres fem molt d’èmfasi en la dimensió ètica. Una cosa és una persona molt gran que no té companyia i li agafa afecte a un robot, i una altra de molt diferent és un infant. Aquest tipus d’interacció a segons quines edats pot afectar molt el desenvolupament. El robot no té una experiència de vida que li pugui transmetre i l’infant pot desenvolupar problemes d’empatia, a més d’altres dèficits.

Els vostres robots fan servir intel·ligència artificial?

Sí, treballem en la frontera de la robòtica social amb la intel·ligència artificial.

Et preocupa l’estat actual de la intel·ligència artificial i el rumb que pot prendre?

I tant, molt més que la robòtica. Perquè el desplegament de la robòtica requereix un temps. Un robot és una entitat física que no tothom entén, però en canvi, amb els mòbils, en un segon tens totes les aplicacions que vulguis. Amb la intel·ligència artificial el desplegament tecnològic ha anat molt més ràpid que la regulació ètica, però en robòtica encara hi som a temps. Hi ha molt d’esforç fet, perquè a partir de la intel·ligència artificial, la comunitat de robòtica s’ha posat les piles. Ja s’han fet moltes regulacions i, per tant, penso que anem per més bon camí.

La intel·ligència artificial no va per bon camí, doncs?

Crec que se’ns ha escapat de les mans i ara s’està intentant reconduir. Però és molt complicat, perquè el primer que s’hauria de fer és formar la població. A Finlàndia fa set anys van fer un curs obert a tothom sobre els fonaments de la intel·ligència artificial i com utilitzar-la correctament. S’ha traduït a l’anglès i a tots els idiomes de la Comunitat Europea i ara a Catalunya també es pot fer.

El fa gaire gent?

A Finlàndia el va fer gairebé tothom, però aquí quan en parlo veig que la gent no sap que existeix. I és una llàstima perquè és un curs en català, obert a tothom, que no requereix gaire esforç i que ensenya com funciona aquesta tecnologia. Crec que ajuda a veure que no hi ha cap màgia al darrere, que és una programació més sofisticada, sí, però que es pot entendre. Hi ha uns conceptes clau assequibles i això fa que se li perdi la por i que s’apreciïn millor els riscos, de manera que es vegi com s’ha d’utilitzar. Oi que tothom condueix i la majoria no sap exactament com funciona un cotxe?

Amb l’aprenentatge profund i les capes de xarxes neuronals superposades, hi ha un moment que es perd la traça del que està fent aquella màquina i es deixa de saber com ha après a fer el que sap fer i com ha arribat a ser el que és. Això fa que, d’alguna manera, la màquina pugui ser impredictible. Ni tan sols els científics que els dissenyen poden predir les reaccions dels sistemes entrenats d’aquesta manera.

Estem parlant d’alguna cosa que s’assembla a la creativitat humana i que es podria anomenar creativitat artificial?

Jo crec que no. Perquè, en el fons, l’únic que fa la màquina és estadística a partir d’una gran quantitat de dades. Si, per exemple, ha de diagnosticar tumors a partir de radiografies, en pot haver vist milions, moltes més de les que un radiòleg pot veure en tota la vida. Hi ha un experiment que m’agrada molt, en el qual es va entrenar una màquina a diagnosticar tumors i es van donar radiografies a la màquina i a radiòlegs. Per separat, tots dos van fer un 5% d’errades. Però quan els radiòlegs van analitzar els diagnòstics de la màquina, les errades en conjunt es van reduir a l’1%. Aquest és el camí. Evidentment, la màquina pot computar molt més ràpid i veure-hi molt més, però el metge té l’experiència i pot donar context. El problema és que el metge accepti el que diu la màquina sense mirar-s’ho. Passa una cosa semblant amb la conducció automàtica: quan hi ha una situació de perill, l’usuari ha d’assumir el control, però potser està distret. El problema, en definitiva, sempre és humà.

Ja fa temps que les màquines ens van guanyar a escacs. El 1997 Deep Blue va derrotar el campió del món Garri Kasparov. Però fins fa poc s’havia dit que no ens podrien guanyar mai a go, un joc asiàtic d’estratègia. El 2016 el sistema AlphaGo es va enfrontar a Lee Sedol, un geni considerat el millor jugador de la història, i a la segona partida, jugada el 10 de març, el moviment 37 de la màquina va deixar tothom bocabadat. Semblava un error però després es va veure que era una maniobra absolutament antiintuïtiva que va propiciar la victòria d’AlphaGo al moviment 211. No sé si això és creativitat però sembla que aquell moviment se sortia de totes les estadístiques i previsions.

Aquestes màquines funcionen amb estadística de moltes dades però també fan exploració. I com que són molt ràpides poden mirar molts més passos endavant que nosaltres. Tot i que el go té un espai de possibilitats molt més gran que els escacs, també poden mirar molt més enllà i descobrir camins que racionalment semblen molt estranys però que, de fet, existeixen dins de l’univers de possibilitats del joc i porten a una situació guanyadora. Sempre dic que les màquines treballen en un univers tancat. Nosaltres, en canvi, podem descobrir coses fora d’un univers tancat. O, almenys, ens ho sembla.

N’estem del tot segurs, però?

No.

Aleshores els sistemes d’intel·ligència artificial que componen cançons i pinten ho fan sempre dins d’un procés limitat?

Crec que és un procés combinatori i d’exploració en un cert univers. Hi ha uns punts de partida coneguts i un espai de camins possibles que es poden tipificar perquè és el que està programat. D’allà no se surt.

I nosaltres no som així?

No ho sabem.

A més dels riscos d’aplicacions concretes com les dels diagnòstics o la conducció automàtica, s’ha dit que la intel·ligència artificial ens pot arribar a amenaçar com a civilització.

És més probable que ens eliminem nosaltres mateixos. L’altre dia ho deia l’Eudald Carbonell en un programa de televisió: no cal que la intel·ligència artificial ens vingui a exterminar, perquè amb l’estupidesa humana en tenim prou. I és una mica veritat, perquè, al final, les decisions i la responsabilitat són humanes. Ens estem carregant el planeta nosaltres, sense cap força externa, cap extraterrestre.

La ciència-ficció té un paper a l’hora d’ajudar a reflexionar sobre aquests temes?

Fa anys vaig escriure la novel·la, La mutació sentimental, i després vaig fer uns materials educatius que s’estan utilitzant a molts llocs. Ara fins i tot m’han convidat a un congrés internacional de polítiques socials per parlar-ne. Aquest tipus de material dona pautes a la gent, i també als experts que desenvolupen aquestes tecnologies, que són més comprensibles que no pas els textos filosòfics. Posar la gent en situacions narratives concretes ajuda molt. En aquest sentit, crec que els escriptors de ciència-ficció tenim una responsabilitat: hem de construir més utopies. Perquè amb tanta distopia, la gent s’ho creu i al final acabarem amb allò de la profecia autocomplerta. Hem de fer profecies més optimistes.

En el teu cas, com es realimenten la faceta d’investigar i la d’escriure ciència-ficció?

Són d’inspiració mútua. Fer i llegir ficció em dona idees per desenvolupar investigacions i a la inversa. Vaig escriure La mutació sentimental quan feia aquesta transició de la robòtica industrial a la robòtica assistencial. I va ser perquè vaig començar a pensar que els robots que fèiem es comercialitzarien i la gent els utilitzaria. Mentre escrivia em vaig plantejar com volia que fossin i vaig acabar dissenyant els robots socials que després s’han materialitzat en tot el que treballem al meu grup de recerca. D’altra banda, el coneixement científic em permet veure quins futurs són factibles i quins no, i això m’ajuda a ser versemblant a les novel·les. M’ho passo pipa!

Has llegit algun llibre interessant de ciència-ficció últimament?

Llegeixo molt sobre robòtica social i, en aquest sentit, m’ha interessat molt La Klara i el sol, de Kazuo Ishiguro, que planteja problemes de robòtica social. Hi ha una nena que està malalta i, perquè no estigui sempre sola a casa, la seva mare li compra una assistent robòtica, la Klara. Té molta gràcia com es tracten mútuament. Un altre llibre interessant és Màquines com jo, d’Ian McEwan, que té aquest títol amb doble sentit [Machines like me es pot traduir com Màquines com jo o com Jo agrado a les màquines]. És un llibre que tracta els problemes ètics que poden sorgir de la relació amb un robot, com ara si algú té dret a pegar-li, qui l’ha de configurar primer o com es gestiona la privacitat de cada membre de la parella.

Què li diries a una nena o una noia jove a qui agrada la ciència i que pensa que s’hi pot dedicar?

En primer lloc, que hi ha dues idees preconcebudes errònies que frenen les noies a l’hora d’escollir les ciències i la tecnologia. Una és que la gent que es dedica a aquestes disciplines està tancada en laboratoris i aïllada del món. I com que les noies tendeixen a demanar que la seva feina tingui implicació social, acaben pensant que això no és per a elles. Però la tecnologia ara és molt present a la vida de tothom i han de pensar que poden tenir molta influència social, ja sigui amb el desenvolupament d’aplicacions per a mòbils o de tecnologia robòtica com la que fem nosaltres. L’altra idea preconcebuda és que hem d’escollir ciències o lletres, tecnologia o humanitats. Doncs no: es poden fer totes dues coses. Jo ho he fet. A més, han de creure en la seva curiositat i creativitat, les han de deixar anar i entendre que el seu futur no té límits, que no se’n posin d’artificials, que el planeta les necessita.