«La mayoría de las aplicaciones de los móviles están diseñadas para ser adictivas»

-¿Qué es la inteligencia artificial (IA)?

-La inteligencia artificial (IA) es una disciplina que existe desde los años cincuenta dentro de la ingeniería o la informática cuyo objetivo es desarrollar sistemas computacionales inteligentes, tomando como referencia la inteligencia humana. Del mismo modo que la inteligencia humana es compleja y múltiple, existen muchas áreas de conocimiento dentro de la inteligencia artificial que intentan replicar algunas de las habilidades humanas. Históricamente ha habido dos acercamientos a la IA: la escuela simbólico-lógica (top-down) y la escuela conexionista (bottom-up), basada en el aprendizaje a partir de datos.

-¿Pero en los últimos años la IA ha experimentado un desarrollo imparable aplicada a la rutina diaria?

-En los últimos quince años hemos sido testigos de tres factores que han contribuido al desarrollo exponencial de las técnicas de IA basadas en el aprendizaje a partir de datos. En primer lugar, la disponibilidad de cantidades ingentes de datos, el Biga Data. En segundo lugar, la existencia de grandes capacidades de computación a bajo coste. Y en tercer lugar, el desarrollo de arquitecturas complejas de aprendizaje automático conocidas como técnicas de aprendizaje profundo. Como resultado de estos tres factores, hemos conseguido hitos inimaginables hace tan solo una década, como conseguir que un programa de ordenador gane a un humano en el juego de Go o en Poker, o construir coches autónomos, sin conductor… La IA está en el corazón de la cuarta revolución industrial, en la que estamos inmersos. Más de cincuenta países del mundo ya han elaborado sus estrategias nacionales de IA, entendiendo que es una de las disciplinas estratégicas para que sean más competitivos y para ayudarnos a abordar retos tan importantes como la emergencia climática o el envejecimiento de la población.

-¿Qué papel desarrolla la Fundación ELLIS?

-La Fundacion ELLIS de Alicante es una de las 34 unidades distribuidas en 14 países europeos e Israel. Es una red de excelencia científica europea cuyo objetivo es atraer, retener y educar a la próxima generación de talento investigador excelente en IA para que se quede en Europa. No podemos olvidar que Europa se ha quedado atrás en IA frente a Norteamérica y China. La Fundacion ELLIS de Alicante tiene como sobrenombre el «Instituto de Inteligencia Artificial centrada en la Humanidad». Nuestra labor principal es la investigación científica en Inteligencia Artificial centrada en las personas, para contribuir al impacto positivo de la IA en la sociedad.

-¿La inteligencia artificial convierte a los humanos en meros espectadores de la nueva realidad?

-Idealmente, la IA es una aliada para ayudarnos a tomar mejores decisiones, para complementarnos. Las decisiones deberíamos tomarlas los humanos.

-Pero se puede hacer un buen y un mal uso de la inteligencia artificial. Por eso será necesario un control.

-Por supuesto. La inteligencia artificial debería contribuir al bien social, a la mejora de la calidad de vida de las personas –de todas, no solo de algunas—del resto de seres vivos en el planeta y del planeta en sí mismo. Sin embargo, este impacto social positivo no está garantizado. Por ello es importante que exista una regulación de la IA.

-¿Vamos a vivir un Gran Hermano o ya lo hacemos al estar tan controlados por los aparatos tecnológicos?

-Dos de los principios éticos fundamentales en el contexto de la tecnología son la preservación de la privacidad y la autonomía humanas. Considero que deberíamos siempre hacer un análisis de coste y beneficio antes de adquirir o utilizar una cierta tecnología, donde el coste no es simplemente el coste monetario, sino el coste relativo a las implicaciones de privacidad por ejemplo que puede conllevar el uso de una cierta app o tecnología. Al mismo tiempo, no podemos olvidar que la IA tiene un grandísimo potencial para ayudarnos a abordar los grandes retos a los que nos enfrentamos, desde la emergencia climática, la crisis energética, el envejecimiento de la población o las pandemias.

-Da miedo que te pueda gobernar un algoritmo.

-Las características que considero fundamentales para el desarrollo de una Inteligencia Artificial con impacto social positivo se resumen en el acrónimo en inglés FATEN.

-¿Y a qué responde?

-F de fairness o justicia. Es decir, desarrollando tecnología que no discrimine. Además, es muy importante la colaboración entre naciones y sectores. A de accountability, es decir, con clara atribución de responsabilidad; A de autonomía, valor central en la ética occidental, que asegure la libre elección de las personas, su libertad de pensamiento y acción; y A de aumento de inteligencia, en lugar de sustitución de esta. T de trust, o confianza, pilar básico para conseguir un desarrollo tecnológico aceptado socialmente. La confianza se consigue con la competencia, la fiabilidad y la transparencia y honestidad. E de equidad, es decir, contribuyendo a disminuir la desgraciadamente hoy creciente brecha entre los más ricos y los más pobres; de educación, invirtiendo en educación en todos los niveles, desde educación obligatoria a educación a los profesionales, a la ciudadanía y a la clase política y E de beneficencia, es decir, maximizando el impacto positivo, con sostenibilidad, diversidad y veracidad. Y la N, finalmente, es la no maleficencia, es decir, minimizando el impacto negativo, con fiabilidad, reproducibilidad, seguridad y siempre preservando la privacidad de las personas

-¿La superinteligencia es una amenaza para la Humanidad?

-El concepto de superinteligencia es controvertido y ahora mismo forma parte de la ciencia ficción. Sin embargo, no podemos olvidar que no necesitamos superinteligencia para que la IA ya esté aquí, ya representa un mercado de billones de euros y ya esté teniendo un impacto profundo en nuestra sociedad.

-¿Las grandes empresas tipo Google o Amazon son casi ya más importantes que los gobiernos? ¿Unos pocos dominan el mundo? ¿Somos manipulados?

-Sí, en el contexto tecnológico, vivimos una situación de oligopolio sin precedentes por parte de un puñado de empresas tecnológicas norteamericanas y chinas. Esta realidad deja a Europa en una situación de vulnerabilidad que es importante abordar. Por ello creamos ELLIS, para contribuir a la soberanía tecnológica europea en investigación en inteligencia artificial.

-Hablaba de la educación, tanto en los primeros niveles como en la decisión de los gobernantes.

-La cuarta revolución industrial en la que nos encontramos inmersos está cambiando profundamente todos los ámbitos de la sociedad. Aparecerán nuevos trabajos y muchos otros trabajos existentes ya se están viendo profundamente impactados por la IA. Por ello es prioritario invertir en educación a todos los niveles: en la educación obligatoria -incluyendo una asignatura troncal y transversal de Pensamiento Computacional así como reforzando la creatividad, el pensamiento crítico y las inteligencias social y emocional de los estudiantes- y en la educación a profesionales, sobre todo aquellos cuyas profesiones se van a ver afectadas por la IA, educación a la ciudadanía, educación a los representantes políticos y a los miembros de la administración pública.

-Estamos alerta por el conflicto entre Rusia y Ucrania, que afecta al resto del mundo. Aquí la inteligencia artificial puede formar parte desde el uso más básico de una guerra hasta en el papel de las noticias falsas.

-Efectivamente, la IA adolece de limitaciones que es necesario abordar, como son la asimetría con respecto a quien tiene acceso a los datos necesarios para entrenar los algoritmos de IA y a las capacidades y conocimientos para hacerlo. Otro reto que nos plantea es la generación de contenido sintético -audio, video, texto e imágenes- indistinguible del contenido veraz, pero totalmente inventado, conocido como deep fakes. Finalmente, al consistir fundamentalmente en programas de ordenador, la IA no es invulnerable a ser hackeada. Asimismo, al ser una disciplina transversal, puede ser utilizada para todo tipo de fines, tanto constructivos como destructivos. Por ello es prioritario tener definida una clara regulación de la Inteligencia Artificial para asegurarnos de que el desarrollo e implantación de la IA tienen impacto social positivo: una Inteligencia Artificial por y para la sociedad. Precisamente he dedicado mis más de 25 años de experiencia investigadora a contribuir a que la Inteligencia Artificial tenga impacto positivo en las personas. Es lo que motiva mi trabajo.

-Uso un aplicación de móvil que me permite seguir el rastro de mi hija cuando sale a pasear con sus amigas. No sé si invado su privacidad pero me aporta tranquilidad. El debate sobre si los humanos deben incorporar un microchip existe. ¿Es partidaria de ese tipo de usos?

-Todo depende del coste y beneficio. No podemos olvidar que hoy en día hay multitud de dispositivos implantables que salvan o mejoran la calidad de vida de millones de personas, como son los marcapasos, los implantes cocleares o retinales. La clave está en el beneficio y coste que genera. Un buen uso de la IA nos permitirá tener una medicina de precisión o una educación personalizada, por ejemplo.

-He leído que usted no tendría un Alexa o un Google Home en casa. Es algo que me choca porque en teoría esos aparatos facilitan muchas tareas.

-Efectivamente, en mi caso concreto, el coste -perdida de privacidad- es superior al beneficio -simplificar ciertas tareas- de estos altavoces inteligentes.

-Hemos cumplido dos años de pandemia y ha sido una buena prueba de fuego para el uso de la inteligencia artificial. De hecho el trabajo desarrollado por la Fundación ELLIS ha sido galardonado por la Fundación XPRIZE.

-La inteligencia artificial ha ayuda en la lucha contra la pandemia en distintos ámbitos. En primer lugar, contribuyendo a acelerar el descubrimiento de fármacos y tratamientos eficaces. En segundo lugar, apoyando la toma de decisiones clínicas gracias a, por ejemplo, modelos IA para el diagnóstico de Covid-19 a partir de pruebas radiológicas o de síntomas, o a modelos predictivos sobre la eficacia de ciertos tratamientos o la probabilidad de precisar un respirador en base a los síntomas, el perfil demográfico y el historial médico de las personas. Finalmente, la IA es una aliada para ayudar en la toma de decisiones públicas. Es precisamente en este ultimo ámbito en el que hemos trabajado a través del Grupo de Ciencias de Datos contra el Covid-19, una experiencia pionera a nivel mundial.

-¿En qué ha consistido su labor?

-Hemos trabajado en cuatro grandes áreas: en primer lugar, en el modelado de la movilidad humana a gran escala para determinar el impacto de las medidas de confinamiento; en segundo lugar, el desarrollo de modelos epidemiológicos computacionales para predecir la evolución del número de casos. En esta línea, desarrollamos tres modelos distintos, incluyendo un modelo basado en redes neuronales profundas que fue nombrado ganador mundial de la competición XPRIZE Pandemic Response Challenge, siendo la primera vez que un equipo español gana una competición XPRIZE; en tercer lugar, el desarrollo de modelos predictivos de ocupación hospitalaria en planta y UCI, así como de prevalencia de la enfermedad; y finalmente, una gran encuesta ciudadana llamada Covid19ImpactSurvey.org que, con más de 720.000 respuestas, es una de las mayores del mundo. Esta encuesta nos permite, semana tras semana, entender la situación y percepción de la ciudadanía durante la pandemia, así como el impacto de la misma en sus vidas. Estas líneas de trabajo son un ejemplo de cómo las Ciencias de Datos y la Inteligencia Artificial pueden ayudar en el contexto de las pandemias, contribuyendo a que la toma de decisiones públicas este basada en la evidencia y el conocimiento científico.

-¿Siente que se han tomado las decisiones públicas en función de su trabajo?

-Sí, nuestra colaboración con la Generalitat ha sido positiva y nuestro trabajo ha sido respetado y valorado.

-Es cierto que se han puesto en marcha mecanismos como RADAR Covid vinculados a la inteligencia artificial pero que no han dado el resultado esperado.

-Es cierto, pero no sólo ha pasado en España sino también en otros países, como describimos en un reciente artículo publicado en Nature Scientific Reports. Creo que es un ejemplo que ilustra la complejidad de una pandemia cuyo abordaje requiere acercamientos holísticos y multidisciplinares.

-El móvil es nuestro nuevo mejor amigo.

-Sin duda, el móvil tiene el potencial de ser nuestro mejor amigo aunque también tiene el potencial de convertirse en nuestro peor enemigo.

-Da la sensación de que los jóvenes están cada vez más aislados. El cordón umbilical con sus amigos son los móviles, las consolas, las tablets. ¿Cómo se puede superar esa sensación de cierta soledad en la juventud?

-Me gustaría citar el trabajo de la profesora Sherry Turkle de MIT, experta en el estudio de las implicaciones sociales de la tecnología. La profesora Turkle ha escrito varios libros sobre el impacto de las redes sociales y los móviles en los jóvenes, en particular «Alone, Together» y «Reclaiming Conversation». Creo que es vital que consigamos un equilibrio entre nuestra vida digital y nuestra vida en el mundo físico, entre nuestras relaciones mediadas por la tecnología, y nuestras relaciones cara a cara. El reto es conseguir dicho equilibrio ya que la inmensa mayoría de las aplicaciones, juegos y servicios digitales que utilizamos en nuestros móviles han sido diseñados para ser adictivos. Sin embargo, no podemos olvidar que somos una especie biológica social y que evolutivamente hablando nuestras inteligencias social y emocional han sido clave para nuestra propia supervivencia como especie, así como para nuestra salud física y mental. Las palabras de los sabios griegos aplican perfectamente a la tecnología: «De nada demasiado».