El País, 7/08/2021 (enlace)

La idea de Alain Turing del ordenador como una “máquina universal” no significa que valga para resolver cualquier problema. La gobernanza algorítmica es muy adecuada para mejorar ciertos aspectos del proceso político, pero resulta de escasa utilidad para otros; puede corregir deficiencias y sesgos humanos, sirve para identificar determinadas preferencias, para medir los impactos, pero es inadecuada para aquellas dimensiones del proceso político que no son susceptibles de computación y optimización, áreas que no tienen una fácil cuantificación y medida, o sea, para el momento genuinamente democrático en el que se deciden los criterios y objetivos que posteriormente la tecnología puede optimizar.

La razón de que los algoritmos sean políticamente limitados reside en su carácter instrumental. Los algoritmos sirven para conseguir objetivos pre-determinados, pero ayudan poco a determinar esos objetivos, tarea propia de la voluntad política, de la reflexión y deliberación democrática. La función de la política es decidir el diseño de las estrategias de optimización algorítmica y mantener siempre la posibilidad de alterarlas,  especialmente en entornos cambiantes. En una democracia todo debe estar abierto a momentos de repolitización, es decir, a la posibilidad de cuestionar los objetivos establecidos, las prioridades y los medios. Para esto es para lo que sirve la política y para lo que no sirven los algoritmos. El gobierno algorítmicamente optimizado no tiene capacidad para resolver los conflictos propiamente políticos o la dimensión política de esos conflictos, es decir, cuando están en cuestión los marcos, fines o valores. Como decía Lucy Suchman en otro contexto, los robots actúan muy bien cuando el mundo ha sido dispuesto del modo en que debía ser dispuesto.

La gobernanza algorítmica se orienta a realizar objetivos que no han sido discutidos, que ella misma no establece ni pone en cuestión. Ahora bien, la política democrática no es un mero procesamiento de información sino su interpretación en un contexto de pluralismo garantizado; no se trata de cómo realizar mejor ciertos objetivos sino de cómo decidirlos. La resolución de problemas de carácter administrativo es muy diferente de la política entendida como el conflicto de interpretaciones acerca de la realidad, donde no se trata de optimizar resultados como de establecerlos.

Hay una gran diferencia entre cómo aprenden los sistemas algorítmicos y cómo se toman las decisiones democráticas. Los sistemas automáticos de decisión procesan información para realizar lo mejor posible ciertos objetivos, mientras que la política democrática, en contraste, no trata de optimizar objetivos pre-definidos sino sobre todo de averiguar cuál deberían ser esos objetivos. Lo político empieza allí donde se ha de debatir acerca de qué deben satisfacer los algoritmos, qué valores deben cumplir, a qué concepción de lo justo deben servir.

Hay un ejemplo cotidiano de esa diferencia entre decidir objetivos e implementarlos en la inadvertencia con la que se confunde lo uno y lo otro. Me refiero a ese lugar común según el cual no debería importarnos quién gobierna, si es de derechas o de izquierdas, sino que gestione bien, como si esa gestión pudiera valorarse sin recurrir a estimaciones ideológicas (lo podríamos llamar “el Principio Bertín Osborne”). Ese tópico resulta plausible solo en la medida en que, efectivamente, derecha e izquierda ya no son lo que eran y como categorías rígidas cada vez explican menos. Pero quien lo defiende no suele estar deseando una política desideologizazada sino una política despolitizada.

Como ocurre en la política en general, también cuando hablamos de gobernanza algorítmica la idea de producir mejores decisiones con la ayuda de máquinas requiere que haya previamente un criterio acerca de qué es una buena decisión. Es cierto que la inteligencia artificial sirve para informar decisiones y optimizar resultados pero, aunque algunos economistas hayan intentado cuantificar y medir el bienestar agregado, no hay una noción predefinida e incontestable de qué es un resultado satisfactorio en política. La democracia es un sistema político que parte de la ignorancia acerca de qué pueda ser una buena decisión, que recela de que alguien pretenda saberlo y pone en marcha procedimientos de aprendizaje colectivo para superar esa perplejidad.

El sentido de las instituciones de la mediación en una democracia consiste en establecer una distancia entre la voluntad inmediata y la decisión política. El procedimiento para ello es la apertura de espacios en los que sea posible algo así como una desaceleración de las decisiones para permitir el libre intercambio de las opiniones y los puntos de vista. Una democracia requiere esta capacidad cuando se trata de satisfacer preferencias e intereses diversos, que no pocas veces plantean exigencias disparatadas.

A este respecto, la presencia del pueblo en la democracia algorítmica es más de voluntad de todos que de voluntad general, por utilizar la terminología de Rousseau, de agregación que de configuración, de soberanía que de democracia: nuestras preferencias de partida son tomadas en consideración, por supuesto, pero se nos priva del momento de construcción deliberativa en el que esas preferencias ya no son meramente agregadas sino que interaccionan con otras. El problema de la gobernanza algorítmica es que gracias a los algoritmos intervenimos en la expresión de preferencias e intereses pero no en la construcción de una totalidad social deseable que nos habría permitido eventualmente modificarlos. Nuestra presencia en el proceso democrático algorítmico sería la de poner nuestros rastros y huellas a disposición de los sistemas de decisión, pero no la de intervenir en el diálogo en el que se ponderan esos datos y se delibera acerca de la idea de sociedad deseable a partir de ellos. En una democracia algorítmica ser ciudadano consistiría en tener el derecho a emitir deseos pero no a ponderarlos con los de otros e incluso modificar esos deseos propios.

La gran promesa de la gobernanza algorítmica es que unos resultados óptimos nos hacen olvidar los procedimientos deseables. Es un tipo de gobernanza que parece preferir la efectividad aunque sea al precio de ser excluidos de la toma de decisiones (o reducidos a una presencia mínima, implícita e individual, bajo la forma de requerimientos y preferencias presentes en nuestras huellas digitales). Pero si la ciudadanía no puede supervisar ni controlar de algún modo las decisiones algorítmicas, no podemos llamar a eso autogobierno del pueblo.

Siendo muy importante los resultados del gobierno, lo definitorio de la democracia es más el procedimiento que el resultado. El gobierno democrático no consiste en proporcionar ciertos outputs, sino en garantizar determinados inputs, concretamente aquel que asegura la igual libertad de todos los ciudadanos para tomar parte en el proceso de formación de la voluntad política y en los procesos de decisión. La gobernanza algorítmica únicamente puede ser democrática cuando sus objetivos y procedimientos han sido expresamente autorizados por el pueblo en un acto de naturaleza política. Esta gobernanza tiene al menos tres debilidades desde el punto de vista democrático: que pensemos que al emitir señales digitales ya hemos expresado suficientemente lo que queremos, que lo hayamos hecho sin interiorizar explícitamente la compatibilidad de nuestra voluntad con la de otros, que no advirtamos la profunda heterodeterminación que esto supone. Una gobernanza que parece legitimarse porque no impone sino que complace corre el riesgo de que estemos tan satisfechos que dejemos de preocuparnos por las condiciones en que se ha producido esa satisfacción.