aiaiai. Exploracions crítiques sobre la intel·ligència artificial i la cultura digital

Hangar presenta aiaiai, un cicle d’activitats públiques dedicat a explorar i debatre les transformacions que estan configurant les realitats digitals contemporànies. Concebut des del Lab de soft/hardware i interacció i el Lab d’interfícies i xarxes, aquest programa s’emmarca en els Dijous Oberts, un espai pensat per compartir amb la comunitat processos de recerca i experimentació tecnològica.

Al llarg de tres sessions, professionals de diferents àmbits —artistes, tecnòlogues, activistes i pensadores— compartiran coneixements, experiències i perspectives crítiques sobre qüestions clau que travessen el nostre present digital. En aquesta segona edició, el cicle se centrarà en qüestions urgents i complexes, com ara la intel·ligència artificial i el seu impacte social, les estratègies de desintoxicació corporativa en entorns digitals i els reptes ètics que plantegen els nous paradigmes tecnològics.

aiaiai pretén generar un entorn obert i horitzontal on el coneixement no només es transmeti, sinó que també es construeixi col·lectivament. A través de xerrades, demostracions, debats i accions participatives, es convida el públic a imaginar, qüestionar i redefinir les maneres com ens relacionem amb la tecnologia.

1. Biaix i diversitat: llengües, cultures i col·lectius no hegemònics
5 de novembre
De 19 a 21 h
Sala Ricson, Hangar
Entrada lliure

Allò que el model no ha vist, no existeix.

Els grans models d’IA s’entrenen, en la seva immensa majoria, amb dades del nord global: en anglès i des d’una visió del món culturalment anglosaxona. Aquest biaix no és un error puntual que es pugui corregir amb un pedaç, sinó que és estructural: és present en el corpus, en les anotacions i en qui decideix què es considera «normal». I quan aquests models s’utilitzen massivament per escriure, traduir, resumir o respondre preguntes, ens retornen una visió del món filtrada per aquest centre.

El resultat és una erosió lenta de tot allò que no encaixa en la mitjana: llengües com el català, que el model coneix però deforma; comunitats com la sorda i la seva llengua de signes, de les quals amb prou feines hi ha dades i que, per tant, queden excloses; i la diversitat en un sentit ampli —gènere, cossos, formes de vida—, que apareix simplificada, caricaturitzada o directament absent. Allò que el model no ha vist, no existeix.

En aquesta sessió parlarem de la procedència d’aquestes dades, de tot allò que es perd pel camí i de com construir alternatives: models petits i sobirans, i processos participatius que situïn les comunitats afectades al centre del disseny.

Xavi Vinaixa explicarà com el biaix dels grans models afecta les llengües, les cultures i els col·lectius no hegemònics, a partir de la seva experiència a Catalunya. Començarà per l’origen de les dades: el «mur de les dades», el moment en què s’esgota el text disponible a internet, majoritàriament en anglès, i què passa a partir d’aquí. Presentarà la seva recerca L’espoli silenciós, publicada amb Marçal Font, que documenta la compra massiva i opaca de llibres de segona mà a Europa —a través d’intermediaris i rutes logístiques que n’oculten el client final— amb l’entrenament de sistemes d’IA com a destinació declarada. Aquesta pràctica posa en risc els llibres descatalogats en llengües minoritzades, dels quals de vegades només en queda un exemplar. A partir de la seva recerca sobre com els grans models deformen el català (Coca is not cocaine i els models FLAMA, entrenats específicament en català), mostrarà com es manifesta el biaix a la pràctica: traduccions que reprodueixen literalment les estructures de l’anglès, referents culturals substituïts pels dominants i matisos que desapareixen. També parlarà de Signària, un projecte desenvolupat amb la UPF per al reconeixement i la generació de veu sintètica en llengua de signes catalana (LSC). Es tracta d’un cas paradigmàtic d’una comunitat i una llengua que la IA ignora per la manca de dades disponibles.

Lluís Gómez Bigorda presentarà el projecte InterVisions,, una iniciativa participativa i interdisciplinària que explora com els sistemes d’intel·ligència artificial poden reproduir biaixos i desigualtats en la manera com representen el món. El projecte convida diverses comunitats a reflexionar sobre aquestes tecnologies i a imaginar col·lectivament eines d’IA més inclusives, responsables i respectuoses amb la diversitat. Des d’una mirada crítica i feminista interseccional, InterVisions proposa obrir espais de diàleg, experimentació i creació al voltant del futur de la intel·ligència artificial.

Programa:
— D’on provenen les dades amb què s’entrenen les IA?
— Què passa amb les minories no anglosaxones?

Participants:
— Xavi Vinaixa, informàtic, CTO de Sorensen.ai, investigador i divulgador en programes de televisió i ràdio, on conversa sobre tecnologia ètica des d’una perspectiva humanista.
— Lluís Gómez Bigorda, investigador Ramón y Cajal a la UAB, al Departament de Ciències de la Computació i al Computer Vision Center.

2. D’allò que és eteri a allò que és físic
12 de novembre
De 19 a 21 h
Sala Ricson, Hangar
Entrada lliure

Tothom parla d’utilitzar un model d’intel·ligència artificial perquè li faci un resum, li dissenyi alguna cosa, li faci la compra o li redacti un correu electrònic. Però hi ha una qüestió que continua pendent: on s’executen aquests models?

Les gigafactories d’IA estan acaparant recursos del planeta en molts àmbits, des de l’explotació de minerals fins a la contaminació ambiental. També afecten el mercat de consum, ja que s’apropien de molts components que abans estaven destinats a les usuàries i els usuaris particulars.

Les quantitats ingents de diners que mouen aquestes grans companyies han fet que els fabricants de tota mena de memòries i GPU prefereixin subministrar els seus productes a la gran indústria centralitzada dels centres de dades abans que al consumidor mitjà. Això ha provocat un augment exponencial i escandalós dels preus de components fonamentals dels ordinadors actuals.

Es tracta d’un procés de recentralització diametralment oposat al que, durant la primera dècada del nou mil·lenni, va permetre que persones allunyades de la gran indústria poguessin interactuar amb una gran diversitat de productes electrònics, prendre’n el control i optimitzar-ne l’ús segons les seves necessitats. Aquest procés ha estat possible gràcies a l’aparició de plaques de desenvolupament de maquinari accessibles, que permeten construir dispositius digitals i interactius capaços de detectar i controlar objectes.

El projecte Arduino ha estat pioner a l’hora d’oferir maquinari de baix cost i una programació relativament senzilla, seguint la filosofia del maquinari i el programari lliures. Això ha afavorit l’aparició de nombrosos projectes i de comunitats makers: persones que han contribuït a apropar el món del programari lliure al del maquinari, i el de l’experimentació lliure al de l’electrònica i els productes industrials, obrint el camí a nous formats artístics.

En el context actual, enmig d’un nou paradigma marcat per l’arribada dels models d’IA i per l’escassetat de maquinari de consum que en permetria una implementació local i descentralitzada, quin futur s’obre per a les comunitats makers, l’experimentació artística i les comunitats humanes que encara valoren la importància de trobar-se físicament, de fer i desfer, de provar i comprendre?

En parlarem, tant presencialment com virtualment, amb un dels fundadors i divulgadors del projecte Arduino.

Programa:
— On s’executen aquests models?
— Cap a on es dirigeix el futur maker?
— Quines alternatives tenim per descentralitzar-nos del sistema?

Participants:
— David Cuartielles, cofundador d’Arduino i professor investigador a la Universitat de Malmö.
— Andrea Noni, jardineria informàtica i infermeria per al programari lliure.
— Miguel Ángel de Heras, responsable de maquinari i programari lliures al Laboratori d’Interacció d’Hangar.

3. Micromodels especialitzats i agents
19 de novembre
De 19 a 21 h
Sala Ricson, Hangar
Entrada lliure

La IA ha arribat per quedar-se, però ha de viure necessàriament en un servidor d’altre? Els grans models generalistes ho saben tot a mitges i t’ho cobren tot sencer: dependència d’unes poques empreses, dades privades que surten de la nostra màquina —fins al punt d’utilitzar-les com si fossin les d’un psicòleg personal—, un consum energètic desmesurat i tota una indústria de semiconductors i terres rares darrere de cada resposta.

Hi ha un altre camí. Un model petit, entrenat o destil·lat per a una tasca concreta —transcriure, traduir, classificar o respondre preguntes sobre un àmbit delimitat— cap en un ordinador domèstic, funciona sense connexió i, dins la seva especialitat, pot oferir un rendiment igual o superior al dels grans models. I si li donem eines i el deixem actuar, tenim un agent: local, auditable i nostre.

En aquesta sessió explicarem com es generen aquests micromodels, quin maquinari necessiten realment, què se’n pot fer avui i per què són una via coherent des del punt de vista de la sobirania tecnològica, l’energia i l’ecologia. Ho farem amb demostracions en directe.

Programa:
— Per què el model gegant no és la resposta a tot: dependència, privacitat i consum.
— Què és un micromodel especialitzat: dimensions, tasques i limitacions.
— Com es creen: dades pròpies, fine-tuning i destil·lació a partir de models grans.
— Maquinari domèstic: què cap en un portàtil, en un miniPC o en una Raspberry Pi, i què no.
— Agents locals: dotar el model d’eines perquè pugui actuar, amb control i sense filtracions de dades.
— Sobirania, energia i ecologia: les xifres que hi ha darrere de cada opció.
— Demostració en directe.
— Debat: quina IA volem tenir a casa?

Participants:
— Xavi Vinaixa, informàtic, CTO de Sorensen.ai, investigador i divulgador en programes de televisió i ràdio, on conversa sobre tecnologia ètica des d’una perspectiva humanista.
— Lluís Gómez Bigorda, investigador Ramón y Cajal a la UAB, al Departament de Ciències de la Computació i al Computer Vision Center.
— Iván Paz, professor a la FIB, al Departament de Ciències de la Computació, i un dels fundadors del col·lectiu de live coding TOPLAP i del col·lectiu Axolot.cat.

Amb el suport d’Arduino CC i David Cuartielles