La Vanguardia, 31/07/2021 (enllaç)

Governar és ja en gran mesura -i ho serà encara més- un acte algorítmic; una bona part de les decisions de govern són adoptades per sistemes automatitzats. Podria anomenar-se algocracia a aquest sistema en què s'utilitzen algoritmes per recollir, comparar i organitzar les dades a partir dels quals es prenen les decisions. La governança algorítmica potència enormement les capacitats de gestió a través de grans quantitats de dades i en relació amb problemes complexos.

L'extensió de sistemes de decisió conduïts per algoritmes i dades significa que les màquines donen suport als humans en les seves decisions i fins i tot els substitueixen, en part o completament. La qüestió que tot això planteja és fins a quin punt i de quina manera la utilització de sistemes de decisió automatitzada és compatible amb el que considerem un sistema polític de presa de decisions. Què significa realment la introducció massiva de procediments de decisió automatitzada per a l'acció de govern? És congruent aquest tipus de governança amb la democràcia?

La gran promesa d'aquesta tecnologia és que permet conèixer la voluntat real de la gent. Amb un món ple de sensors, algoritmes, dades i objectes intel·ligents es configura una mena de sensorium social que permet personalitzar la salut, els transports o l'energia. Gràcies a l'enginyeria de les dades ens estem movent cap a una comprensió cada vegada més granular de les interaccions individuals i uns sistemes més capaços de respondre a les necessitats individuals.

Els sistemes algorísmics serveixen per categoritzar als individus i preveure les seves preferències a partir d'una gran quantitat de dades sobre ells. El model de negoci de moltes empreses digitals es recolza en el fet que coneixen als usuaris millor que ells mateixos i, en virtut de la previsió del seu comportament, els ofereixen el més adequat en el moment oportú. El còmode paternalisme de les societats algorítmiques consisteix en que dóna a les persones el que aquestes volen, que governa amb incentius proporcionats, que s'avança, convida i suggereix. Traslladar aquest model a la política no tindria més problemes si no fos perquè el preu d'aquestes prestacions sol ser el sacrifici d'alguna esfera de llibertat personal. Tenint en compte que hi ha una discrepància en l'autodeterminació que suposadament exigim i la que de fet estem disposats a exercir quan hi ha comoditats i prestacions de per mig, el resultat és que la satisfacció de necessitats es fa amb freqüència a canvi d'espais de llibertat.

Quin és llavors el valor democràtic de dades, recomanacions i prediccions? Hi ha qui dirà que tot això són les nostres decisions lliures de el passat, invitacions a decidir en el present o apostes sobre com decidirem en el futur, és a dir, es tracta de les nostres decisions en qualsevol cas. Des d'aquest punt de vista no hi hauria cap tensió entre big data i democràcia, sinó tot el contrari. Però la democràcia no és la traducció immediata i agregada del que vam decidir individualment; el caràcter dinàmic i transformador de la vida democràtica inclou un element de canvi, descobriment i emergència per al que no serveix un sistema pensat per fer-nos descobrir únicament el que ja sabem. Ara com ara la intel·ligència artificial no sembla apropiada per a realitzar aquesta voluntat de transformació, que constitueix un element essencial de la nostra decisió democràtica.

El problema rau en el fet que la major part de les previsions algorítmiques es basen en la idea que el futur serà el més semblant al passat, que les nostres preferències futures representaran una continuïtat del nostre comportament anterior tal com queda registrat en les dades de la nostra mobilitat o consum. Ara bé, la política no aspira només a reflectir el que hi ha sinó a canviar certes coses d'alguna manera intencional. Potser el més insatisfactori d'aquesta revolució dels càlculs és que no és gens revolucionària. L'anàlisi de dades actua com un dispositiu de registre, fins al punt de tenir grans dificultats per identificar el que en aquesta realitat hi ha d'aspiració, desig o contradicció. Però és que, a més, si hem de prendre'ns la nostra llibertat de debò, també en forma part la nostra aspiració de modificar el que hem estat donant així lloc a situacions fins a cert punt impredictibles. I referent a això els algoritmes que es diuen predictius són molt conservadors. Són predictius perquè formulen contínuament la hipòtesi que el nostre futur serà una reproducció del nostre passat, però no entren en la complexa subjectivitat de les persones i de les societats, on també es plantegen desitjos i aspiracions. Com volem entendre la realitat de les nostres societats si no introduïm en les nostres anàlisis, a més dels comportaments dels consumidors, les enormes asimetries en termes de poder, les injustícies d'aquest món i les nostres aspiracions de canviar-ho?

La governança algorítmica no constitueix una amenaça per a la democràcia perquè condiciona les nostres decisions presents sinó, sobretot, perquè es desentén de les nostres decisions futures. La democràcia no és fer el que volem sinó, moltes vegades, poder canviar el que volem. Coneixen realment els algoritmes nostra voluntat profunda o només la seva dimensió més superficial, les rutines més que els anhels?

La política no és una simple administració continuista de el passat sinó la possibilitat sempre oberta de trencar aquesta inèrcia de l'passat. D'aquesta força no tenen els algoritmes en la mesura que fan prediccions sense altra referència que el passat. Com especifiquem els nostres objectius de manera que les màquines no hagin de fer res més que perseguir-eficientment? Estem segurs que el que desitgem ara serà el que desitgem en el futur? Els algoritmes de l'machine learning poden anticipar les nostres propensions futures i amenaçar així que no puguem escollir futurs alternatius. Shoshana Zuboff formulava encertadament aquesta tendència quan escrivia que en l'era digital està en joc un dret a el futur.