Representantes de las 88 sociedades científicas de COSCE participaron en la celebración de la Jornada de Sociedades Humanos y Máquinas: oportunidades y riesgos para la ciencia española, organizada en colaboración con FACME y conducida por el periodista científico Pere Estupinyà .
La presidenta de COSCE Perla Wahnón dio la bienvenida y la presidenta del CSIC, Eloisa del Pino, inauguró el acto.
Humanos y máquinas como aliados
La presidenta de COSCE, Perla Wahnón, inició su discurso de bienvenida haciendo alusión a la ceremonia de investidura de Alberto Núñez Feijóo que estaba teniendo lugar el mismo día, para recalcar que ciencia y política están intrínsecamente unidas:
“Muy probablemente todos los aquí presentes estamos atentos al desarrollo de la investidura y a lo que ocurrirá después. Estamos atentos como ciudadanos, pero especialmente como científicas y científicos porque, de principio a fin, el buen desarrollo de la ciencia está sujeto a decisiones políticas que nos afectan directamente en el desempeño de nuestro trabajo”
Así, Perla Wahnón subrayó el importante papel de COSCE como interlocutor y nexo entre los científicos y los poderes políticos.
“La base de COSCE es la política científica y hoy, en la celebración de la Jornada de Sociedades, desde la Confederación Española de Sociedades Científica reiteramos el compromiso de seguir llamando a la puerta del Parlamento para que la clase política cuente de una vez con la ciencia con el peso que la ciencia merece”.
A continuación, la presidenta de COSCE explicó por qué dedicar la Jornada más relevante de las sociedades científicas españolas a Humanos y máquinas:
“En un mundo cada vez más interconectado y tecnológicamente avanzado, la Jornada de Sociedades COSCE 2023, Humanos y Máquinas: retos y oportunidades para la ciencia española, servirá para comprender y reflexionar sobre cómo la comunidad científica está aprovechando el espectacular desarrollo de la tecnología, el uso de las máquinas, de las supermáquinas a las nanomáquinas, que está transformando nuestra sociedad de maneras nunca antes vistas”
Perla Wahnón concluyó su discurso de bienvenida con un llamamiento a la responsabilidad en el desarrollo tecnológico:
“Debemos abordar estos avances con precaución y ética, considerando las implicaciones y responsabilidades que conllevan. Humanos y máquinas tenemos la responsabilidad de ser aliados”.
El efecto sociopolítico del avance tecnológico
La presidenta del CSIC, Eloísa del Pino, inició su discurso de inauguración de la Jornada de Sociedades COSCE 2023 haciendo alusión al mito de Prometeo y la vasija de Pandora que le regaló Zeus:
“La vasija de Pandora en realidad era una trampa. Al abrirla los humanos recibimos el hambre y la guerra… Es una analogía perfecta para centrar el debate: esta idea de las maravillas y ventajas que la tecnología aporta a la sociedad, desde la invención de la rueda hasta el día de hoy, pero también avisa de la necesidad de regularlas, en particular la inteligencia artificial, y tener en cuenta todos los retos que supone, fundamentalmente regulatorios, pero también en cuestiones éticas y de sostenibilidad socioeconómica”.
Eloísa del PIno, presidenta del CSIC, en la Jornada de Sociedades COSCE 2023.
Eloísa del Pino destacó la relevancia de abordar los efectos sociopolíticos del avance tecnológico:
“Tenemos algunos datos preocupantes, por ejemplo, de que cuando la clase media pierde trabajos a consecuencia de la tecnología. Lo que vemos es que en algunos casos modifican sus ideologías políticas. Algunos se vuelven antisistema, o votan a partidos de ultraderecha”.
La presidenta del CSIC mostró su interés por la sostenibilidad de los avances tecnológicos y por cómo hacerlos llegar a la sociedad:
“Tenemos que pensar, por ejemplo, cómo el Sistema Nacional de Salud puede incorporar tecnología muy costosa. Tenemos que ver cómo integrarlo desde un punto de vista socioeconómico”.
Eloísa del Pino terminó su discurso de inauguración mostrando su acuerdo con la presidenta de COSCE, Perla Wahnón, en la necesidad de integrar política y ciencia:
“Todas las organizaciones de ciencia deben estar ahí donde se toman decisiones políticas”
La guerra de los chips y la última oportunidad de Europa
El periodista científico Pere Estupinyà , conductor de la Jornada de Sociedades COSCE 2023, introdujo a los primeros conferenciantes mostrando su fascinación por el desarrollo tecnológico: “Es algo que acaba de comenzar y no alcanzamos a ver hasta dónde va a llevarnos”.
Mateo Valero, director del Centro Nacional de Supercomputación (BSC), ofreció a la sala una conferencia magistral sobre la super computación, el momento de espectacular desarrollo que vive, y los conflictos que hay que afrontar para que España, y Europa, compitan en primera línea de juego: “No podemos jugar la liga si no tenemos jugadores”.
“A mí no me extrañará que el próximo premio Nobel de medicina se lo den a un informático, o el de literatura”, comentó Mateo Valero.
En su discurso, Mateo Valero hizo especial hincapié en la brecha tecnológica: “Los países que no tienen estas máquinas no pueden hacer investigación con inteligencia artificial”, y en la dependencia que tiene Europa de países como EE UU o Taiwán:
“Ninguna máquina en Europa lleva procesadores o aceleradores europeos, y no podemos seguir así, por cuestión de estratégica y de supervivencia. La guerra de los chips es el problema geopolítico más importante del momento, tanto como la guerra de Ucrania”.
Así, el director del BSC explicó la consistencia del programa europeo EuroHPC, desde el que trabajan en un intenso plan de desarrollo de hardware libre y de chips fabricados “en casa”.
“Participamos de un acuerdo mundial por desarrollar un juego de instrucciones libre, que sea de todos y de nadie, en el que todo el mundo va a poder ejecutar esos chips, en un hardware libre. Es la última oportunidad de Europa para tener acceso a tecnologías que puedan implementar las ideas del presente y del futuro, las que generará la inteligencia artificial. Si no tenemos esta tecnología vamos a ser los árbitros de un partido sin jugadores”.
Mateo Valero finalizó su charla increpando a las universidades, porque de ellas depende la formación de los expertos que reclama el futuro:
“Sin universidades, no hay chips”, señaló Valero.
Confiar en el algoritmo para diagnosticar a pacientes
Inteligencia artificial y diagnóstico
Tras la intervención de Mateo Valero, Josep Munuera, director de radiodiagnóstico del Hospital de Sant Pau, Barcelona y responsable Científico de la Sociedad Española de Radiología Médica (SERAM) ofreció diversos ejemplos del uso de inteligencia artificial para ofrecer diagnósticos. Munuera detalló tanto las ventajas que obtienen en la práctica clínica, como los problemas con los que se encuentran. Entre ellos, la dificultad de hacer llegar los nuevos desarrollos al sistema público de salud:
“En cuestión de un año el número de aplicaciones disponibles, con marcado FDA, para hacer radiografías de fracturas óseas probablemente se ha quintuplicado. Todo va tan deprisa, que no tenemos posibilidad de evaluar adecuadamente las herramientas que se van a utilizar en la práctica clínica”.
Josep Munuera terminó su exposición con una reflexión dirigida a médicos y pacientes:
“Vamos a tener que tomar decisiones basadas en datos, los entendamos o no. Y, como científicos, hay que ver el cambio de paradigma. Nosotros tradicionalmente nos basamos en síntomas, signos, evolución del paciente, comparación de otros casos y experiencia propia. Ahora, sin entender nada, sin conocer todo lo anterior, el punto prometéico es que la inteligencia artificial nos puede estar dando la solución, y a esto vamos a tener que acostumbrarnos en el futuro. Tenemos que trascender de la explicabilidad y confiar en el algoritmo. Aceptarlo”.
Trabajo, agricultura, matemáticas, nanoinmunología y ChatGpt
El primer bloque de la tarde en la Jornada de Sociedades COSCE reunió las charlas de cinco ponentes, en representación de distintas sociedades científicas.
Juan José Dolado, Catedrático de Fundamentos del Análisis Económico de Universidad Carlos III de Madrid y representante de la Sociedad Española de Economía, desarrolló los puntos críticos para que el desarrollo tecnológico, y especialmente la inteligencia artificial, sirvan como oportunidad en el mercado laboral. Dolado hizo especial hincapié en la educación:
“El factor educación es básico. En aquellos países con mejores sistemas educativos el empleo y los salarios suben más cuando hay desarrollo tecnológico”.
Dolado significó la necesidad de diferenciar en qué tecnologías invertir y en cuáles no.
“Por ejemplo, las tecnologías desplazante, como las máquinas de cobro automático de los bares, deberíamos desestimaras. Esas tecnologías so so, mediocres, habría que desincentivarlas mediante gravamen”.
Raúl Jiménez, investigador ICREA del Instituto de Ciencias del Cosmos de la Universidad
de Barcelona. Mostró los pasos que aún ha de dar la inteligencia artificial hasta convertirse en un concepto, como la Relatividad de Einstein o la Evolución de Darwin.
“De momento, solo tenemos aproximaciones a la inteligencia artificial, modelos subjetivos, que hacen que no estemos ante algo inteligente aún. Su evolución hacia un concepto nos permitirá abordar de un modo nuevo, desde una auténtica revolución, el conocimiento del cosmos y de las leyes de la naturaleza”.
África González Fernández, catedrática de inmunología en la Universidad de Vigo, planteó en su charla si la nano inmunoterapia es realidad o ficción. Algo que resolvió con una afirmación:
“Ya tenemos más de 80 nanomateriales aprobados por la FDA para su uso en medicina. Con nanotecnología podemos, por ejemplo, crear células artificiales, del tamaño que queramos, para hacer terapias más eficaces”.
María José Aranzana, investigadora del IRTA (Instituto de investigación y tecnología agroalimentarias)-CRAG (Consorcio CSIC-IRTA-UAB-UB, Centro de investigación en agrigenómica), mostró en su exposición robots ya en desarrollo especializados en la recolección de frutas como fresas y manzanas. Aranzana también explicó el proyecto GenoDarwin, con el que han demostrado la capacidad de la inteligencia artificial de predecir el fruto a partir de los genes.
“Le damos a la inteligencia artificial 150 snips (polimorfismos) y la IA construye la manzana. Del mismo modo que ChatGpt te da una imagen a partir de palabras, hemos demostrado que la inteligencia artificial puede darte una imagen acertada del fruto dándole como punto de partida las “palabras clave” de su genoma»
El principal desarrollo del grupo de investigación de Aranzana son los marcadores moleculares que permiten reconocer genes y regiones genómicas responsables de cada característica del árbol y la fruta.
“Desarrollamos marcadores moleculares que permiten identificar, por ejemplo, genes resistentes a una plaga”.
Julio Gonzalo, catedrático del área de Lenguajes y Sistemas Informáticos, vicerrector adjunto de investigación y transferencia de la UNED expuso el alcance de ChatGpt:
“ChatGpt no es ni un loro repetidor ni una super inteligencia. ChatGpt es un cuñado (metáfora que en España se entiende muy bien), eso sí, es un súper cuñado, porque ChatGpt, aunque sin reflexionar, lo ha leído todo”
Julio Gonzalo se hizo eco de la sensación general ante las redes neuronales y los modelos de lenguaje:
“Con ChatGpt ni siquiera los expertos sabemos lo que hemos hecho. Es un salto tecnológico que cuestiona quienes somos como humanos”.
El cerebro y la ética
Mara Dierssen, jefa de equipo del programa Biología de Sistemas en el Centro de Regulación Genómica de Barcelona, abrió con su conferencia magistral el tercer y último bloque de la Jornada de Sociedades COSCE 2023.
Mara Dierssen destacó que estamos ante un tsunami tecnológico, que afecta especialmente a la biología, y anunció la neurorevolución a la que nos enfrentamos:
“Ya hace años que podemos decodificar las señales entre neuronas. La propuesta de Neuralink y los chips implantables de Elon Musk significan el salto popular de los chips que ya estamos utilizando en experimentación y clínica. La neurorevolución llegará cuando la sociedad pueda acceder a ellos para remodelar su cerebro”.
Mara Dierssen señaló que los implantes en clínica ya hace años que se utilizan:
“Por ejemplo en personas con epilepsia, en la retinitis pigmentaria, para que una persona pueda ver, o para entender cómo se activan en el cerebro las emociones humanas».
Dierssen describió un caso real, el proyecto Brainpolyphony, con un paciente cero: Mark Guardia. «Sufre una parálisis cerebral que le impide hablar. Sus padres querían entender qué siente, si está contento, si se aburre. Generamos un algoritmo que permitía reconocer las emociones, y conseguimos leerlas en la mente de Mark».
Tras la intervención de Mara Dierssen tuvo lugar la mesa redonda con el título «La ética y la inteligencia artificial: dos retos transversales para la investigación actual», moderada por Lluís Montoliu, investigador Científico del CSIC y vicedirector del Centro Nacional de Biotecnología (CNB).
Lluís Montoliu abrió el debate con una reflexión:
“No todo lo que podemos hacer lo deberíamos hacer. Nuestros códigos éticos los hemos acordado con la sociedad, y partir de esas normas podremos decidir si todas las innovaciones que tenemos entre manos están justificadas, si los beneficios superan los riesgos, y señalar aquellas que no lo están”.
Para Montoliu ya vamos tarde en el diseño de un sistema normativo:
“Necesitamos normas, un entorno legislativo, nos ha pillado el toro. Llevamos tiempo aplicando marching learning, pero todo se ha puesto patas arriba con ChatGpt y todas sus variantes, que son capaces de lo mejor, como por ejemplo diagnosticar a un paciente, o de lo peor, cuando suplantan la identidad humana, como hemos visto estos días (en referencia al caso de las niñas de Almendralejo (Badajoz))».
Xecho Auxin, presidente del comité de ética del CSIC, señaló en su intervención que la tecnología no es neutra y el mal uso que están haciendo de ella las grandes corporaciones tecnológicas:
“La ética se está utilizando como coartada para evitar la regulación. Y la ética por sí sola no es regulación, como pretenden algunas corporaciones. La ética ha de ser la base de una regulación imprescindible, y no se puede usar espuriamente”.
Julián Isla, ingeniero de Software en Microsoft y asesor de la agencia europea del medicamento y miembro de la fundación 29, mostró su posición a favor del desarrollo tecnológico y su necesaria aplicación especialmente en casos clínicos donde la medicina actual no tiene respuestas:
“Es mejor algo que nada. Los pacientes estamos desamparados. Nadie contrala los errores médicos, o que los médicos sean cajas negras. La tecnología puede ayudar a tener herramientas útiles”.
Alicia Troncoso, catedrática de la UPO y presidenta de la Asociación Española de Inteligencia Artificial señaló los puntos críticos del uso de la inteligencia artificial:
“Antes de usar cualquier modelo tenemos que saber cómo funciona, con transparencia, y hacerlo explicable. Tenemos que abordar el dilema ético de la responsabilidad del uso de la inteligencia artificial, la equidad, el sesgo, los prejuicios… Si los marching learning aprenden del pasado y el pasado está lleno de prejuicios… ¿vamos a trasladar al futuro los prejuicios del pasado?».
Javier García Alegría, director del Área de Medicina Interna del Hospital Costa del Sol de Marbella (Málaga) y Presidente de FACME, dio valor a la presencia humana ante cualquier diagnóstico y al necesario examen que deberían pasar los algoritmos y las aplicaciones destinadas a la salud:
“La irrupción de la inteligencia artificial debería estar sometida al mismo escrutinio que los fármacos. Es una base fundamental de la medicina que cualquier acto médico entraña daño potencial, físico, moral, económico… Tenemos que considerar que las tecnologías cuando se producen pueden generar más beneficio que daño».
García Alegría puso el acento en el epicentro de la profesión médica:
“No olvidemos que tratamos a personas, seres únicos en sus marcos de sufrimiento, y con sus valores. Será fundamental siempre un médico que haga una historia clínica y una aproximación individual y humana a cada paciente”.
La presidenta de COSCE, Perla Wahnón, clausuró la jornada con un agradecimiento a las Sociedades Científicas que forman parte de la Confederación, base fundamental del encuentro, y especialmente al presidente de FACME, por su colaboración.
“Tras el éxito de esta jornada que ha abordado un tema tan transversal como el desarrollo tecnológico, ahora el objetivo es pensar en el año próximo, en la Jornada de Sociedades 2024”.
Vídeo completo de la Jornada de Sociedades COSCE 2023
