María Dapena (Women in AI): «En el desarrollo de IA es necesario la supervisión y la autonomía humana»

La embajadora en España de Women in AI, María Dapena, protagonizó uno de los momentos más destacados del encuentro con su ponencia titulada 'IA y diversidad, la nueva asignatura pendiente de la IA'. En su intervención, Dapena abordó cómo la falta de representación en la toma de decisiones tecnológicas perpetúa desigualdades y sesgos que pueden afectar gravemente a la sociedad. «Solo el 18% de las personas involucradas en el desarrollo y toma de decisiones en IA son mujeres u otros grupos sociales poco representados», destacó Dapena, citando cifras alarmantes. Además, recordó que el 99% de las víctimas de 'deepfakes' son mujeres, y el 70% de los trabajadores desplazados por sistemas de IA también son mujeres.

Dapena explicó cómo la IA puede ser una herramienta para acelerar la igualdad de género y reducir sesgos si se desarrolla de manera responsable: «Cuando a la IA se le enseña a detectar y mitigar sesgos ocultos en las decisiones humanas, puede generar resultados más equitativos. Pero para ello es fundamental garantizar dos aspectos: supervisión humana y autonomía humana», afirmó. La experta detalló que la supervisión humana implica monitorizar cómo los sistemas llegan a sus decisiones, ajustando el nivel de control según el impacto potencial en las personas. Por otro lado, en cuanto a la autonomía humana, la experta subrayó la importancia de formar a la sociedad para interactuar con estos modelos con conocimiento de sus limitaciones y riesgos, asegurando que la tecnología sea un agente de cambio y no un factor de exclusión.

La sostenibilidad fue otro de los temas centrales del congreso. Marc Serra, socio fundador y CEO de Grupo Mática, inauguró el evento con una ponencia que hizo hincapié en la necesidad de integrar principios éticos y sostenibles en el diseño de algoritmos y sistemas. Según Serra, la IA consume alrededor del 1% del total de energía en España y emitió 0,3 millones de toneladas de CO2 solo en 2023, lo que plantea preguntas urgentes sobre su impacto medioambiental. «Cada vez que utilizamos IA para generar una imagen o buscar información, estamos consumiendo energía cuya huella ecológica desconocemos. La industria tecnológica debe ser transparente con los niveles de CO2 y agua que consumen sus centros de datos», denunció Serra. Además, advirtió sobre la acumulación de poder económico y político en manos de unas pocas empresas tecnológicas. «Innovar sin restricciones puede llevar a situaciones peligrosas, como la perpetuación de sesgos y la creación de modelos opacos que escapan al control humano», añadió. Serra también abogó por una educación tecnológica que permita a las personas entender y controlar el uso de la IA en su vida diaria.

Ampliar

El papel de Valencia

La concejala de Turismo, Innovación y Captación de Inversiones del Ayuntamiento de Valencia, Paula Llobet, destacó el compromiso de la ciudad con la tecnología ética e inclusiva. Durante la inauguración, Llobet subrayó la importancia de la IA como herramienta para la sostenibilidad, la recuperación económica y la seguridad: «Hoy reafirmamos que nuestra apuesta no es solo por la tecnología, sino por su uso ético al servicio de las personas», afirmó. Por su parte, la presidenta de AECTA, Nuria Lloret, habló del enfoque humanista del congreso, que busca ponderar tanto las oportunidades como los riesgos de la IA. Lloret destacó que la Comunitat se está consolidando como un centro tecnológico de referencia en España, con empresas innovadoras trabajando en áreas como emergencias, transporte y sostenibilidad. A su vez, AECTA anunció su cambio de sede, trasladándose de la Confederación Empresarial Valenciana (CEV) a La Harinera de Valencia. «Este cambio de ubicación nos permitirá conectar a las empresas tecnológicas con proyectos públicos en áreas como sostenibilidad, transporte y emergencias, creando un ecosistema más dinámico y efectivo», explicó Lloret. Entre las acciones que impulsará AECTA en su nueva ubicación destacan un estudio sobre la adopción de políticas de sostenibilidad en empresas tecnológicas, charlas y eventos para fomentar el emprendimiento y la participación en proyectos de transferencia tecnológica.

El congreso dejó claro que el desarrollo de la inteligencia artificial debe estar guiado por principios éticos, humanos y sostenibles. Desde la necesidad de un marco regulatorio hasta la importancia de formar equipos diversos y comprometidos, los expertos coincidieron en que el camino hacia una IA responsable pasa por la colaboración entre gobiernos, empresas y ciudadanos. Los expertos han abogado por un procedimiento de evaluación de impacto ético, análogo al de las medicinas, antes del uso de sistemas de Inteligencia Artificial (IA) para evitar lanzar al mundo versiones de modelos de IA que no han sido lo suficientemente testadas. Junto a esta idea, también han destacado que las compañías no deben sacrificar la sostenibilidad en la búsqueda de beneficios a corto plazo en la incorporación de la IA. Y es que, crear IAs de propósito general, genera grandes necesidades energéticas y de consumo sobre las que hay que tomar conciencia en el hábitat.

Las conclusiones de este evento no solo ofrecen una hoja de ruta para enfrentar los desafíos actuales de la tecnología, sino que también colocan a Valencia como un referente en el uso innovador y ético de las tecnologías emergentes. Como señaló Dapena: «La IA no es solo un reto tecnológico, es una oportunidad para construir un futuro más justo, siempre que pongamos a las personas en el centro del desarrollo». La VII edición del Congreso de Tecnologías Emergentes para Ecosistemas 4.0 fue más que un espacio de reflexión: fue un llamamiento a la acción para garantizar que la inteligencia artificial sea una herramienta al servicio de todos.