aiaiai. Exploraciones críticas sobre la inteligencia artificial y la cultura digital
Hangar presenta aiaiai, un ciclo de actividades públicas dedicado a explorar y debatir sobre las transformaciones que están configurando las realidades digitales contemporáneas. Este programa, concebido desde el Lab de soft/hardware e interacción y el Lab de interfaces y redes, se enmarca dentro de los Jueves Abiertos, un espacio pensado para compartir procesos de investigación y experimentación tecnológica con la comunidad.
A lo largo de tres sesiones, diferentes profesionales —artistas, tecnólogxs, activistas y pensadorxs— compartirán saberes, experiencias y perspectivas críticas sobre temas clave que atraviesan nuestro presente digital. En esta segunda edición, el eje se centrará en cuestiones urgentes y complejas como la inteligencia artificial y su impacto social, las estrategias de desintoxicación corporativa en entornos digitales, y los retos éticos que plantean los nuevos paradigmas tecnológicos.
aiaiai busca generar un entorno abierto y horizontal donde el conocimiento no solo se transmite, sino que se construye colectivamente. A través de charlas, demostraciones, debates y acciones participativas, se invita al público a imaginar, cuestionar y redefinir, las formas en que nos relacionamos con la tecnología.
1. Sesgo y diversidad: lenguas, culturas y colectivos no hegemónicos
5 de noviembre
De 19 a 21 h
Sala Ricson, Hangar
Entrada Libre
Lo que el modelo no ha visto, no existe.
Los grandes modelos de IA se entrenan, en su inmensa mayoría, con datos del norte global: en inglés y con una visión del mundo culturalmente anglosajona. Ese sesgo no es un fallo puntual que se pueda parchear, es estructural: está en el corpus, en las anotaciones y en quién decide qué es “normal”. Y cuando estos modelos se usan de forma masiva para escribir, traducir, resumir o responder, devuelven el mundo filtrado por ese centro.
El resultado es una erosión lenta de todo lo que no encaja en el promedio: lenguas como el catalán, que el modelo conoce pero deforma; comunidades como la sorda y su lengua de signos, que apenas tienen datos y quedan fuera; y la diversidad en sentido amplio —género, cuerpos, formas de vida— que aparece simplificada, caricaturizada o directamente ausente. Lo que el modelo no ha visto, no existe.
En esta sesión hablaremos de dónde salen esos datos, de qué se pierde por el camino y de cómo construir alternativas: modelos pequeños y soberanos, y procesos de participación que pongan a las comunidades afectadas en el centro del diseño.
Xavi Vinaixa explicará cómo el sesgo de los grandes modelos afecta a lenguas, culturas y colectivos no hegemónicos a partir de su experiencia desde Cataluña. Empezará por el origen de los datos: el “muro de datos”, el momento en que el texto disponible en internet, mayoritariamente en inglés, se agota, y lo que ocurre a partir de ahí. Presentará su investigación “L’espoli silenciós”, publicada con Marçal Font, que documenta la compra masiva y opaca de libros de segunda mano en Europa —a través de intermediarios y rutas logísticas que ocultan el cliente final— con el entrenamiento de IA como destino declarado, y el riesgo que eso supone para los libros descatalogados en lenguas minorizadas, de los que a veces solo queda un ejemplar. Con su investigación sobre cómo los grandes modelos deforman el catalán (“Coca is not cocaine” y los modelos FLAMA, entrenados específicamente en catalán), mostrará cómo opera el sesgo en la práctica: traducciones que calcan el inglés, referentes culturales sustituidos por los dominantes y matices que desaparecen. Hablará también de Signària, un proyecto con la UPF de reconocimiento y voz sintética para la lengua de signos catalana (LSC), un caso límite de comunidad y lengua que la IA ignora porque apenas hay datos.
Lluís Gómez Bigorda nos presenta el proyecto InterVisions, una iniciativa participativa e interdisciplinaria que explora cómo los sistemas de inteligencia artificial pueden reproducir sesgos y desigualdades en la manera en que representan el mundo. El proyecto invita a diversas comunidades a reflexionar sobre estas tecnologías y a imaginar colectivamente herramientas de IA más inclusivas, responsables y respetuosas con la diversidad. A través de una mirada crítica y feminista interseccional, InterVisions propone abrir espacios de diálogo, experimentación y creación alrededor del futuro de la inteligencia artificial.
Programa:
— De donde proceden los datos con los que se entrenan las IA?
— Que ocurre con las minorías no anglosajones?
Participantes:
— Xavi Vinaixa, Informático, CTO de Sorensen.ai, investigador y divulgador en programas de televisión y radio conversando sobre tecnología ética con prespectiva humanista.
— Lluis Gómez Bigorda, investigador RyC en la UAB en el departamento de Ciencias de la Computación, Computer Vision Center.
2. De lo etéreo a lo físico
12 de noviembre
De 19 a 21 h
Sala Ricson, Hangar
Entrada libre
Todo el mundo habla de “utilizar tal modelo de inteligencia artificial para que me haga un resumen, que me haga un diseño, que me haga la compra, que me escriba un correo”. Pero queda pendiente la cuestión: ¿Dónde se ejecutan estos modelos?
Las gigafactorías de IA están acaparando todos los recursos del planeta en muchos ámbitos: desde la explotación de minerales hasta la contaminación ambiental. También están afectando al mercado del usuario medio debido a la apropiación de muchos componentes que iban dirigidos a este.
Las absurdas cantidades de dinero que mueven estas grandes compañías han provocado que los fabricantes de todo tipo de memoria y GPU prefieran proporcionar sus productos a la gran industria centralizada de los centros de datos antes que al usuario medio, provocando un incremento exponencial y escandaloso de los precios de componentes fundamentales de los ordenadores modernos.
Un proceso de recentralización diametralmente opuesto al que, en la primera década del nuevo milenio, permitió a personas alejadas de la gran industria interactuar con una gran diversidad de productos electrónicos, tomar el control y optimizar su utilización según las necesidades de sus usuarias. Este proceso ha sido posible gracias a la aparición de placas de desarrollo de hardware accesibles, que permiten construir dispositivos digitales e interactivos capaces de detectar y controlar objetos.
El proyecto Arduino ha sido pionero en proporcionar hardware de bajo coste y programación de reducida complejidad, siguiendo la filosofía del hardware y el software libre. Esto ha permitido la aparición de diversos proyectos y de comunidades denominadas makers: personas que han contribuido a acercar el mundo del software libre al mundo del hardware, y el mundo de la experimentación libre al de la electrónica y los productos industriales, abriendo el camino a nuevos formatos artísticos.
En la situación actual, en medio de un nuevo paradigma marcado por la irrupción de los modelos de IA y la escasez de hardware para consumidores que permitiría su implementación local y descentralizada, ¿qué futuro se perfila para las comunidades makers, para la experimentación artística y para las comunidades humanas que todavía valoran la importancia de reunirse físicamente, de hacer y deshacer, de probar y entender?
Hablaremos presencial y virtualmente con uno de los fundadores y divulgadores del proyecto Arduino.
Programa:
— ¿Dónde se ejecutan estos modelos?
— ¿Hacia dónde se dirige el futuro maker?
— ¿Qué alternativas tenemos para descentralizarnos del sistema?
Participantes:
— David Cuartielles, cofundador de Arduino y profesor-investigador en la universidad de Mälmo.
— Andrea Noni, jardinería informática y enfermería para software libre.
— Miguel Ángel de Heras, responsable de hardware y software libre en el laboratorio de interacción de Hangar
3. Micromodelos especializados y agentes
19 de noviembre
De 19 a 21 h
Sala Ricson, Hangar
Entrada libre
La IA ha venido para quedarse, pero ¿tiene que vivir en un servidor de otro? Los grandes modelos generalistas lo saben todo a medias y lo cobran todo entero: dependencia de unas pocas empresas, datos privados que salen de nuestra máquina (hasta el punto de usarlos como psicólogo personal), un consumo energético desmesurado y una fábrica de semiconductores y tierras raras detrás de cada respuesta.
Hay otro camino. Un modelo pequeño, entrenado o destilado para una tarea concreta —transcribir, traducir, clasificar, responder sobre un dominio cerrado— cabe en un ordenador doméstico, funciona sin conexión y, en su especialidad, rinde igual o mejor que el gigante. Y si a ese modelo le damos herramientas y lo dejamos actuar, tenemos un agente: local, auditable y nuestro.
En esta sesión explicaremos cómo se generan estos micromodelos, qué hardware hace falta de verdad, qué se puede hacer hoy con ellos y por qué esta es la vía con sentido en términos de soberanía, energía y ecología. Con demostraciones en directo.
Programa:
— Por qué el modelo gigante no es la respuesta a todo: dependencia, privacidad y consumo.
— Qué es un micromodelo especializado: tamaño, tareas y límites.
— Cómo se fabrican: datos propios, fine-tuning y destilación a partir de modelos grandes.
— Hardware doméstico: qué cabe en un portátil, en un miniPC o en una Raspberry, y qué no.
— Agentes en local: darle herramientas al modelo para que actúe, con control y sin fugas de datos.
— Soberanía, energía y ecología: los números detrás de cada opción.
— Demostración en directo.
— Debate: ¿qué IA queremos tener en casa?
Participantes:
— Xavi Vinaixa, informático, CTO de Sorensen.ai, investigador y divulgador en programas de televisión y radio, donde conversa sobre tecnología ética desde una perspectiva humanista.
— Lluís Gómez Bigorda, investigador Ramón y Cajal en la UAB, en el Departamento de Ciencias de la Computación y el Computer Vision Center.
— Iván Paz, profesor en la FIB, en el Departamento de Ciencias de la Computación, y uno de los fundadores del colectivo de live coding TOPLAP y del colectivo Axolot.cat.
Con el apoyo de Arduino CC y David Cuartielles
