Pedro Mújica: «Tenemos que frenar el avance de la deshumanización de la tecnología»

Por ello, expertos como Pedro Mújica investigan y trabajan en el desarrollo de una regulación europea que ponga al ser humano en el centro de la tecnología. Mújica es ingeniero superior en Ciencias de la Computación, Tecnólogo Humanista y Consultor Experto en Transformación Digital e Industria 4.0 y 5.0. Además, es impulsor del proyecto IANética y curador de sus contenidos junto al ayuntamiento de Valencia y el centro de Innovación Social Las Naves. También es creador del movimiento TecnoHumanista, su manifiesto y propuesta de derechos digitales fundamentales.

Con motivo de la V edición del Congreso de Tecnologías Emergentes para Ecosistemas 4.0., organizado por la Asociación de Empresas de Tecnología, Consultoría e Innovación de la Comunitat Valenciana (AECTA), Mújica visitará Valencia el próximo 4 de noviembre para participar como ponente estrella sobre esta materia. En concreto, él será el encargado de arrancar la cita con la ponencia inaugural 'Tecnohumanismo y empoderamiento humano; Bases de la 5ª revolución industrial'.

En LAS PROVINCIAS hemos podido hablar con él para que nos avance algunas cuestiones que abordará en el congreso. La primera pregunta trata de tomar la temperatura de la situación actual:

-¿Cuál es el punto de partida en el que se encuentra la sociedad europea?

-Hay una muy buena noticia y es que como llevamos años planteando esta reflexión, ya empezamos a ver algunos avances en Europa. En los últimos cuatro años no han parado de surgir propuestas, se aborda la ética de las máquinas y de la IA. Se ha creado un contexto y desde Valencia llevamos dos años con el proyecto IANética, un proyecto que ha redactado unos objetivos para estar a la vanguardia del humanismo tecnológico y poner a las personas en el centro.

-¿En términos legislativos qué avances se han visto?

-Por fin Europa ha cerrado un proyecto de ley que entrará en vigor en abril de 2023, que habla sobre la IA, la vigilancia masiva y el crédito social. En concreto, prohíbe el crédito social en Europa. Este crédito social se aplica en China y Polonia intentó trasladarlo, pero Europa se puso las pilas. Además también se prohibirá cualquier tecnología que afecte a la privacidad del ser humano y la recaudación de datos que afecten a nuestra intimidad, salvo que la usen los gobiernos para medidas de seguridad y un bienestar mayor. Es decir, nuestra policía europea podría usar estos avances para actuar contra un delincuente, pero una empresa privada no podría instaurar un sistema de vigilancia o recabar datos biométricos de usuarios a través de gadgets y dispositivos con el objetivo de saber lo que sientes o piensas.

-¿Qué es el crédito social que intentó importar Polonia desde China?

-Consiste en una app del Estado que todo chino debe tener y a través de la cual se realiza una vigilancia masiva. Si no la tienes, incurres en un grave delito. A través de la misma, tus vecinos se convierten en vigilantes si piensan que tienes una mala conducta y pueden darte una puntuación negativa. Si sobrepasas un límite, entonces el Estado puede castigarte de múltiples formas, como privándote de tu libertad para viajar.

-¿China sería el ejemplo de lo que no queremos en Europa?

-Hay tres bloques geopolíticos con tres enfoques diferentes sobre el desarrollo de la tecnología. En China, el ser humano es lo último. Priman los avances tecnológicos ante todo y nos recuerda a un mundo distópico como el de 1984 de Orwell. También usan sistemas de videovigilancia y con la ayuda del Big Big data tratan de predecir, a través de algoritmos de IA, posibles futuros delitos n el próximo año. Entonces, si predicen que alguien va a cometer un delito, lo detienen antes de que lo haga y lo juzgan. Lo llaman Unidad de Precrimen como en Mi origy Report y ya funciona en determinnadas zonas.

Luego, está EE UU, que es neoliberal. No son como los chinos, evidentemente respetan los Derechos Humanos, pero prima el libre mercado. Se intenta regular, pero se incentiva que las investigaciones científicas y tecnológicas salgan al mercado y que éste sea el que regule ese producto. No hay leyes, son mucho más permisivos. Sólo cuando se llegan a escándalos mayores es entonces cuando ponen remedio, como el caso de Facebook. Esa es la postura americana: lo hacemos y luego ya vemos cómo lo arreglamos. Pero hay cosas que no son fácilmente revertibles.

Europa, por su parte, es el bastión de la defensa de los DDHH. Menos mal que existe Europa. Se han detectado riesgos existenciales, es decir, que ponen en peligro nuestra especie. Se ha visto que que hay cosas que no se pueden revertir, como la devastación medioambiental. Abordamos el lento avance en energías renovables limpias y de los los frenos que ponen las empresas para que la aplicación de las mismas se haga más progresivamente y así no mermar su cuenta de resultados. Dentro de Europa, evidentemente, hay luchas con los poderes fácticos, pero tiene instituciones y organizaciones que se han preocupado. Estamos hablando de la necesidad de que la ley regule estos desarrollos tecnológicos y frene la locura de China y EEUU.

-¿Este humanismo se podría aplicar en el novedoso metaverso? ¿qué riesgos existen?

-Hasta ahora hemos podido ver que hay asistentes como Alexa, Siri, Cortana, Google Assistant que aprenden de ti y puedes establecer una comunicación con ellos. Ahora mismo tienen una forma sencilla que no nos asusta. En el metaverso, la IA actuará a través de avatares. No todo lo que vas a ver son personas, sino agentes de IA. Si tu te acercas a un avatar y te presentas, las nuevas gafas captarán tu lenguaje corporal y facial y lo pueden incorporar en el avatar. Con esta mimetización, pueden crear un vínculo empático muy fuerte. Incluso, si no te dice que es una máquina, puedes creer que te está hablando otra persona en el metaverso, cuando en realidad es un agente que te manda un mensaje subliminal para venderte un producto. Esto debe ser regulado. Adenás, con creciente soledad e individualidad en la que estamos metidos, habrá muchos que caerán en la creación de vínculos con estos agentes creyendo que son personas y en realidad están es a merced de una empresa que intenta venderte sus productos.

-Usted dice que estamos en la quinta revolución industrial, ¿qué la caracteriza?

-Habrá progreso tecnológico siempre que se ponga al servicio de la persona y es ahí donde se desarrolla la quinta revolución. El ser humano debe estar en el centro. No queremos tecnologías invasivas con la intimidad del ser humano. De hecho, ya hemos perdido demasiado tiempo en la deshumanización y tenemos que retomar el foco, que el ser humano sea lo más importante. Tenemos que alejarnos de planteamientos como el que hace tan alegremente Elon Musk sobre la neuro-implantación en personas sanas...

-¿Y qué hay de la robotización del empleo? ¿Qué puede hacer Europa?

-Con la robotización se destruirán más empleos de los que se crean, por eso debe haber una regulación en la que se reintegre a toda la gente que va a perder su trabajo o preofesión. Los avances deberían prosperar si son para el beneficio de toda la humanidad, no solo para el 1% del planeta.

Las empresas no tienen la responsabilidad de velar por hacia donde va el mundo, es papel de los estados e instituciones...por eso es tan importante que se pongan las pilas y conozcan esto cuanto antes. La digitalización necesita la implicación de las instituciones y de todas las edades. Aquí tiene que trabajar todo el mundo. Nos tenemos que unir más que nunca. Más que nunca hay que ser idealista porque no vamos a tener segundas oportunidades. El egocentrismo no es el camino. Este nuevo camino del empoderamiento humano para frenar este avance de la deshumanización.

-¿En qué punto se encuentra Valencia en el desarrollo de ese tecnohumanismo?

-Todas las acciones e iniciativas que desarrolla las situaría al mismo nivel que Barcelona y Madrid. No debe desmerecerse, a pesar de tener muchos menos recursos. Es increíble lo que ha ido ocurriendo en los últimos años en cuanto a concienciación. Está en buena posición de seguir creciendo. Tiene otra forma de ver las cosas y de adaptarse al siglo XXI.