Cuidado con la magIA

El 'conejo malo' no es la primera víctima de falsificaciones con IA. Hace un año y medio los rusos utilizaron la imagen de Zelenski para desactivar la resistencia de los ucranianos con un vídeo falso, en el que supuestamente el presidente llamaba a la población a deponer la resistencia. Otros famosos como la actriz Emma Watson, el expresidente Obama y el creador de Facebook han protagonizado -a su pesar- vídeos «ultrafalsos», término recomendado por Fundéu para los contenidos 'deep fake', en los que se imita la imagen o la voz con inteligencia artificial. Dirán que le ha estado bien empleado al cantante por suplantar al conejo de Looney Tunes, pero el nombre artístico del puertorriqueño, aunque afortunado, tiene origen en una anécdota familiar. NostalgIA es, en definitiva, un tema ultrafalso y la historia de la primera batalla entre un humano y un robot por la inteligencia generativa. El selfie de un mono desencadenó hace algunos años en Estados Unidos una fuerte polémica relacionada con los derechos de autor, porque un fotógrafo especializado vendió la imagen a una agencia de noticias. El caso llegó a los tribunales y la justicia estadounidense decretó que las obras creadas por entes no-humanos no podrían ser sujetas a derechos de autor.

Bad Bunny ha reaccionado con virulencia, pero los artistas musicales no son los únicos expuestos al plagio digital. Aunque la radiotelevisión pública de Canadá se ha comprometido a no recrear con IA la voz o la imagen de periodistas o celebridades, una aplicación permite utilizar las voces de famosos para crear todo tipo de mensajes. Le pregunto a ChatGPT cómo frenar los «ultrafalsos». Por ahora mediante análisis forense de imágenes, es decir, con técnicas especializadas para detectar inconsistencias. Menciona otros, pero tardarán en desarrollarse: algoritmos de detección, marcas de agua digitales, herramientas de verificación y regulación. De momento, los vídeos de @Flowgptmusic han sido eliminados de la Tik-tok. Ahora quien protesta indignado es el robot.