Si eres usuario frecuente de plataformas de redes sociales, probablemente hayas advertido algo equivalente a ser observado o incluso monitorizado. De repente aparece un anuncio de un producto que puedes haber mirado en Amazon o eBay. A la derecha de tu página de YouTube aparece una serie de vídeos relacionados con algo que viste hace unos días. Facebook solo te muestra surtidos de noticias para posts con lo que puedes haber interactuado e ignora a todos tus otros amigos. Los ejemplos son múltiples.
La respuesta está en los algoritmos. Estos son ecuaciones lógicas matemáticas que están pensadas para producir cierto resultado. Un examen sencillo sería: si A>B y B>C, entonces A>C. Dicho de otra manera, si John prefiere los plátanos a las naranjas y las naranjas a las manzanas, entonces John prefiere los plátanos a las manzanas. ¿Pero es siempre así?
El positivismo en la economía
En el estudio de la economía, la Escuela de Chicago, Harvard y el MIT hace mucho tiempo que defienden lo que se conoce como positivismo económico. Esta teoría económica matemática basada en modelos se basa en ciertos supuestos normativos y también positivos. Si una anomalía no se ajusta al supuesto normativo, sencillamente se ignora. El economista continúa ignorando ciertos “casos atípicos” y llega a alguna conclusión definitiva. Estas conclusiones luego se implantan como políticas públicas por el estado o las instituciones bancarias, como la Reserva Federal. De una forma similar a los algoritmos usados por las redes sociales, el positivismo económico está casi totalmente basado en las matemáticas y se basa en buena medida en “en igualdad de condiciones”, o mejor dicho, “siendo todo cuantificable”.
Igual que en nuestro ejemplo anterior, ¿cómo puede un economista cuantificar el gusto por la fruta de John? En términos económicos adecuados, ¿cómo puede un economista cuantificar una utilidad? Es decir, ¿cómo puede un economista asignar un valor numérico a la satisfacción o preferencias de alguien? Pero eso es lo que la ortodoxia ha estado haciendo durante más de 100 años.
Haciendo ciertas suposiciones de “talla única”, la economía ortodoxa ha estado tratando a los consumidores como rebaños. Esta mentalidad de “pesebre” ignora al individuo en la vastedad del mercado. Lo hacen porque nuestra multitud de distintas preferencias y decisiones no son cuantificables. Sería una tarea imposible reducir matemáticamente todas nuestras decisiones y preferencias a una simple ecuación. Pero, al dejar de lado la individualidad, la economía ortodoxa puede determinar positivamente el éxito o fracaso de las decisiones de política pública. Es así como acabamos con burbujas inmobiliarias, burbujas en el mercado de bonos, burbujas en los prestamos escolares, burbujas bursátiles y muchas más.
Volvamos a los algoritmos
¿Pero qué tiene que ver el positivismo económico con Facebook? De forma similar, estos algoritmos reducen las preferencias de los usuarios de las redes sociales a algo cuantificable, determinante y predecible. ¿Realmente quieres leer ese post? ¿Qué pasa con los cientos más que no te dejamos ver?
Matt Stoller, del Open Market Institute dice que estos algoritmos son dañinos y pueden llevar a la gente a tomar malas decisiones. Exponen a un lector o un espectador de YouTube a contenido que en otro caso no habría buscado. YouTube es conocido por poner vídeos relacionados en una columna en la parte derecha de la página. Algunos haciendo afirmaciones aún más extravagantes que las que estás viendo. De repente, un espectador se encuentra dentro de una conejera muy profunda que no tiene intención de seguir.
Además, estos algoritmos de las redes sociales tratan de evaluar a un usuario como un tipo predefinido, como teórico de la conspiración, fanático de los deportes, sicofante de la cultura popular, etcétera. Este usuario verá contenido que de dirigirá por un camino determinado. Con cada clic de ratón, el usuario está siendo categorizado inconscientemente en un subgrupo concreto de la sociedad. Según Matt Stoller, esta exposición limitada al contenido solo puede ser dañina para la sociedad en su conjunto.
Algoritmos e IA
La inteligencia artificial es también una ciencia basada en algoritmos. Como hemos dicho antes, estos algoritmos se basan en ciertos comportamientos humanos axiomáticos y respuestas a distintas situaciones. Aun así, siempre predecibles y determinantes.
Las grandes máquinas comerciales de búsqueda son muy dependientes de la IA para conseguir sus resultados de búsqueda. Los datos reunidos sobre cada uno de nosotros por Google, Microsoft y Yahoo se usan para determinar lo que nos gusta y nos disgusta, qué intereses tenemos o no y ordenarlos de acuerdo con ello. Es el contenido que se guarda sobre nosotros el que determina el tipo de usuarios de interés en que nos convertiremos. Nuestra actividad en internet está predeterminada y ni siquiera lo sabemos. Estamos siendo encajados en grupos y subgrupos concretos de personas por IA en internet.
Los servicios automatizados confían enormemente en estos algoritmos. Tu café favorito de Starbucks los servirá un dispositivo de IA. El cómo te gusta tu Big Mac, pizza y multitud de otros servicios al consumidor ya están convirtiéndose en procesos controlados por IA. La revolución tecnocrática ha empezado bajo nuestras narices y no nos hemos dado cuenta. La mayoría de estas cosas son positivas y llevan a una experiencia de consumo cómoda y disfrutable. Pero eso solo el principio.
Conclusión
¿Qué tienen entonces de malo los algoritmos? En sí mismos, pueden ser una herramienta útil, pero cuando se usan para disponer la sociedad en grupos y subgrupos concretos de personas y se trata de determinar resultados, entramos en problemas. Cuando se depende de algoritmos para hacer leyes, realizar diagnósticos médicos y recomendaciones, determinar nuestro consumo permitido de energía, lo que comemos, nuestras decisiones de carrera, si nos casamos o tenemos hijos o cualquier otra decisión personal, se han convertido en nuestros amos. Estos ejemplos están siendo discutidos hoy por los tecnócratas en el gobierno que dirigen nuestras vidas cotidianas.
Basarse en algoritmos para tomar la decisión correcta para cada persona es una vía peligrosa. Los resultados no serán distintos de lo que han hecho los econometras a la economía. Reduciendo la humanidad a una serie de ecuaciones, la IA algorítmica creará una versión distorsionada de la sociedad igual de mala que la economía artificial en la que vivimos. Creo que artificial será la nueva palabra de moda para el futuro previsible.
