Carme Torras: “Cuando alguien recibe ayuda de un robot, debe sentir que controla la situación”

Imaginemos un hospital donde varios robots llevan la ropa sucia a la lavandería. O una residencia de ancianos en la que brazos robóticos se ocupan de dar de comer a los usuarios. O una casa en la que, de nuevo, un robot ayuda a una persona dependiente a vestirse. No son escenas habituales, pero ya no suenan tanto a ciencia ficción. La investigación, y en particular la robótica, se orienta hacia esos escenarios. Un ejemplo de esta tendencia es Clothilde (CLOTH manIpulation Learning from DEmonstrations), el proyecto europeo que lidera desde hace cuatro años Carme Torras, profesora de investigación en el Instituto de Robótica e Informática Industrial (CSIC-UPC) de Barcelona. Financiado con 2,5 millones de euros, Clothilde es uno de los programas de investigación Horizonte 2020 para el periodo 2018-2022, aunque ya ha sido prorrogado un año más debido a la pandemia.

El aspecto más innovador del proyecto es que las máquinas diseñadas deben ser capaces de manipular prendas, es decir, objetos que son deformables y, al moverlos, cambian no solo de posición, también de forma. Esto difiere mucho de la manipulación de objetos rígidos propia de la robótica industrial, como sucede en las cadenas de fabricación de coches. “Nos propusimos diseñar una teoría para la manipulación versátil de ropa, basándonos en la combinación de dos técnicas: la topología, una disciplina matemática que caracteriza la forma de las cosas a grandes rasgos (no de forma geométrica), y el aprendizaje automático o machine learning”, resume Torras.

La investigadora se refiere a su campo de investigación como robótica asistencial, y no social, que sería un concepto más amplio. “Nuestra robótica es de contacto, de interactuar mucho con la persona a nivel físico”, afirma. El equipo de Torras trabaja en el desarrollo de tres aplicaciones: “Una es para ayudar a vestirse a personas con movilidad reducida; otra se relaciona con la logística hospitalaria, por ejemplo, hacer camas o recoger ropa usada; la tercera, que se aleja más de la robótica asistencial, se centra en la devolución de ropa en las compras online, en cómo hacer que esas prendas vuelvan a la cadena de producción en buen estado, bien guardadas o colgadas donde corresponda”.

Torras reflexiona sobre lo realizado hasta ahora y lo que queda por hacer hasta que finalice Clothilde. El principal logro ha sido desarrollar el software que sirve para representar el estado de la ropa: “El estado de un objeto rígido, con su localización a partir de la posición y la orientación, no cambia de forma aunque lo manipules. En cambio, los objetos deformables, sí, por eso hay que representar los diferentes estados con muchos parámetros”. Además, han diseñado técnicas para enseñar al robot a doblar una camisa o poner un mantel, algo más complicado que poner una taza. “En estos casos no es posible programar al robot para que realice estas acciones, hay que enseñar a la máquina por demostración [learning for demonstration] para que copie”. Y continúa: “También hacemos aprendizaje por refuerzo; si la demostración que hace la persona no es óptima -por ejemplo, el mantel queda un poco arrugado-, el robot puede ejercitarse para ir haciéndolo cada vez mejor. Esto implica desarrollo de software, pero el robot también incorpora hardware, cámaras y distintos tipos de sensores, para ver cómo va quedando el mantel”, es decir, tiene que captar la información recibida para después combinar y fusionar todos esos datos.

Aunque han logrado muchos avances, aún están en fase de investigación. Básicamente, tienen por delante una gran labor de integración, un ensamblaje de todas esas piezas separadas. “En nuestro laboratorio tenemos seis prototipos de robots; uno dobla camisas, otro da de comer, otro pone la mesa… Cuando alguien termina la tesis, el robot se suele desmontar para hacer otra cosa. Ahora estamos poniendo en marcha un laboratorio abierto de robótica asistencial, una especie de spin off del proyecto Clothilde, que sea un punto de encuentro entre empresas de asistencia domiciliaria y de desarrollo de tecnología, escuelas de enfermería, asociaciones de pacientes, administraciones, etc. Queremos que los prototipos integrados se queden en ese laboratorio para hacer demostraciones y que los actores interesados puedan venir y probarlos”, resume.

Clothilde cuenta con un equipo multidisciplinar en el que participan bastantes matemáticos, pero también informáticos, ingenieros industriales, de telecomunicaciones y mecánicos, algún ingeniero físico y una filósofa que examina la vertiente ética, una parte que para Torras tiene una importancia crucial: “Al desarrollar el software y toda la interacción persona-robot, hay que detectar qué elementos son especialmente sensibles. La persona, cuando recibe ayuda del robot, debe sentir que controla la situación y puede ordenar a la máquina que pare si siente miedo. No debe sentirse como una pieza más en una cadena de fabricación de coches”, explica.

El riesgo de los robots con sensaciones

Premio Nacional de Investigación en 2020, a lo largo de su carrera profesional, Torras, matemática y con un doctorado en informática, se ha interesado por las implicaciones éticas de la robótica y ha cuestionado aspectos derivados de los avances tecnológicos. En más de una ocasión se ha manifestado en contra de que los robots simulen tener emociones. “Eso es un engaño y puede ser peligroso. Con personas mayores, el principal problema es el aislamiento, que la persona crea que la máquina se preocupa por ella, siente afecto y le cuida. Eso le puede llevar a descuidar su vida social, aunque en una residencia, donde hay muchas personas, tener una especie de mascota puede ser beneficioso. Si hablamos de niños y niñas, rechazo este uso porque puede interferir en el desarrollo de la empatía. Si reducen el contacto con personas porque pasan mucho tiempo con el robot, pueden ser menos tolerantes y menos hábiles para la negociación. El robot siempre hará lo que ellos quieran”, explica.

Otro problema que plantean algunas tecnologías es la posible destrucción de empleos en determinados sectores. En este punto, Torras señala que sus robots están concebidos para ayudar a otros profesionales asumiendo tareas repetitivas. “Cuando hacemos demostraciones en residencias, los cuidadores están encantados con la idea de disponer de un robot que les ayude a dar de comer. Durante la comida, estos profesionales casi tienen que convertirse en máquinas para alimentar a toda prisa. Si tuvieran esta tecnología, una especie de prolongación de los cubiertos controlable abriendo la boca y mirando a la cámara, las personas se podrían alimentar por sí mismas y los cuidadores tendrían más tiempo para hacer otras actividades”.

¿Podemos inculcar valores éticos a los robots?

Desde hace décadas, Torras compagina la carrera investigadora con incursiones en la literatura. En una de sus novelas, La mutación sentimental, la investigadora habla de los dilemas éticos que salpican a la robótica. “Cuando se publicó hace 14 años, ya estaba preocupada por la evolución de esta disciplina. Al plantearme qué tipos de robots íbamos a diseñar en mi grupo, desarrollé un curso de ética en robótica social e inteligencia artificial basado en mi novela. La editorial del MIT [Instituto de Tecnología de Massachusetts] publicó los materiales del curso junto con la novela con el título The Vestigial Heart y ahora se utilizan en algunas universidades de EEUU, Europa y Cataluña, por ejemplo, en la Universidad Politécnica de Cataluña”, cuenta.

El debate en torno a si es posible implantar programas éticos en los robots, una especie de software que les dé directrices en este sentido, arrecia en un momento de eclosión tecnológica de la mano de la inteligencia artificial, la tecnología block chain, el big data o todo el campo que se abre en torno a la manipulación genética. “En La mutación sentimental reflexiono sobre si es posible introducir una moralidad en los robots y alinearlos con los valores humanos. Hay toda una línea de investigación al respecto”, afirma.

Sin embargo, el tema es complejo y está lleno de ambigüedades. Según Torras, el primer obstáculo para implementar estos programas éticos es el desconocimiento. A veces los programadores no son conscientes de que están introduciendo información sesgada en las máquinas. Por eso, a su juicio, es clave formar, concienciar y suscitar el pensamiento crítico en estos perfiles profesionales. Los programas de aprendizaje automático se entrenan con muchos datos históricos que pueden contener sesgos.

“Pensemos en un programa para ofrecer puestos de trabajo. Tradicionalmente los hombres han sido médicos y las mujeres, enfermeras; si se entrena bajo esta premisa, cuando las personas soliciten trabajo en el ámbito sanitario, las ofertas tendrán un sesgo de género”, explica. Hay otros hándicaps: “Hablamos de valores como si estos fueran universales, pero cada cultura y cada país tiene los suyos. Cuando se intenta consensuar unos valores nos fijamos en los derechos humanos, pero después hay mucho trabajo en particularizar en cada entorno. No es lo mismo el educativo que el hospitalario o el militar”, añade.

Y luego está la cuestión de los tiempos. La tecnología avanza tan rápido que los expertos en filosofía, humanidades o derecho no pueden desarrollar la normativa a esa velocidad. No obstante, sí está habiendo avances en roboética y la Unión Europea es el regulador por excelencia, un rol que tampoco está exento de problemas. “En Europa es donde más se cuida el desarrollo ético de la tecnología y más normativa hay. Esto, al mismo tiempo, ralentiza la investigación por la cantidad de controles que hay que pasar. Otros países son más laxos. Es bueno que existan controles, pero quizá haya que relajar un poco; si no, acabaremos comprando la tecnología que están desarrollando EEUU, Japón y China”, reflexiona.

Mónica Lara del Vigo | CSIC Comunicación

comunicacion@csic.es