Gobernados por los algoritmos

logos redes sociales
Usando Facebook, Amazon, YouTube, Netflix, motores de búsqueda, teléfonos inteligentes, GPS, entre otros, el individuo conectado “confiere a ciertas entidades el poder de introducirse en su vida, de proponer la oferta y orientar sus elecciones. Así, las sugerencias, consejos, asistencias, incitaciones, se transforman en herramientas para actuar sobre el comportamiento de los individuos”.
 
08/04/2019
  • facebook
  • twitter
  • linkedin

 

Por Nicolás Guillot Leclerc

En su libro La nueva servidumbre voluntaria, investigación sobre el proyecto político de la Silicon Valley, Philippe Vion-Dury nos sumerge en las sombras de un nuevo modelo de sociedad que estaría siendo impulsado en buena medida desde la Silicon Valley, meca de la alta tecnología ubicada en California, Estados Unidos.

Sin ser muy consciente de ello, usando Facebook, Amazon, YouTube, Netflix, motores de búsqueda, teléfonos inteligentes, GPS, entre otros, el individuo conectado “confiere a ciertas entidades el poder de introducirse en su vida, de proponer la oferta y orientar sus elecciones. Así, las sugerencias, consejos, asistencias, incitaciones, se transforman en herramientas para actuar sobre el comportamiento de los individuos”, según el autor.

La piedra angular de todo este engranaje son los algoritmos, están omnipresentes: en Amazon nos recomiendan los libros que podrían gustarnos, en YouTube nos sugieren videos, en Facebook “confeccionan el hilo de lo que vemos y lo que no vemos, anticipan nuestras preferencias en materia de compras” y nos proponen la publicidad que se nos ajusta, y en Netflix “se estima que el 75% de los contenidos son consumidos tras una recomendación de la plataforma. Se trata entonces de proponerle al abonado o al usuario lo que quiere, incluso antes de que lo sepa o lo solicite”, sostiene Vion-Dury.

En palabras del autor, los algoritmos son los nuevos mediadores, los que dirigen la experiencia que vivimos en los espacios digitales que frecuentamos, y “lo que se perfila a través de la multiplicación de los algoritmos predictivos es un empobrecimiento de la diversidad a la que un individuo puede tener acceso” a través de estos espacios. Nos estaríamos volviendo entonces simples espectadores de un entorno en el que todo es calibrado para cada uno de nosotros.

En una diciente entrevista publicada el 1 de julio de 2017 en un reconocido semanario colombiano, el vicepresidente de innovación de Netflix, Chris Jaffe, sostiene justamente que “el algoritmo lo es todo”.

La sociedad que se está diseñando sobrepasa sin embargo la mera personalización y la esfera de los espacios digitales.

Vion-Dury cuenta por ejemplo que, en Estados Unidos, durante las denominadas midterm elections de 2014, el Comité Nacional Republicano acudió a especialistas en “escuchar” las redes sociales. “Gracias al software Sprinklr estas personas monitorearon lo que se decía en las redes sobre unos cincuenta temas nacionales e internacionales. La idea era identificar los temas que eran tendencia de manera geolocalizada”, ya que lo que les preocupa a los electores de un Estado no es necesariamente lo que les interesa a los de otro.

“El objetivo era unirse a la conversación, mostrar por ejemplo en un debate televisado que el candidato republicano conoce lo que les preocupa a los electores de su Estado”. La tecnología al servicio de la manipulación y el triunfo electoral. El candidato puede no hablar entonces con base en sus convicciones o su ideología, sino al son de las inquietudes manifestadas en las redes por sus electores potenciales. Sobra decir que esta práctica no es únicamente asunto del partido mencionado en este ejemplo.

El libro señala que el análisis predictivo también se ha instalado en el mundo de los seguros. “Pay as you drive” (paga de acuerdo a la manera en la que conduzcas) sería el modelo en el sector automotriz. Gracias a captores embarcados en el vehículo o instalados en los teléfonos inteligentes, la cobertura o la prima serían ajustadas con base en el comportamiento del conductor. “Todo es registrado: kilómetros recorridos, horas de conducción, lugares frecuentados, velocidad, curvas, intensidad de las frenadas (…), y cruzado con datos meteorológicos y de tráfico. Una vez filtrados por los modelos predictivos, estos datos permiten determinar quién es buen o mal conductor -según los criterios de la aseguradora-. El objetivo reivindicado sería mejorar el comportamiento de los conductores”.

El autor sostiene sin embargo que las primeras en beneficiarse serían las aseguradoras, en la medida en que buscan reducir los riesgos relacionados con la salud o los bienes de sus clientes con el fin de reducir sus propias pérdidas o aumentar su beneficio.

Citando al periodista Andrew Leonard, Vion-Dury insinúa que no conviene ver el Internet de los objetos conectados únicamente como algo que nos facilitará la vida, ya que “también será desplegado para controlarnos”.

Se avecina entonces, en otras palabras, un mundo en el que los humanos serán gobernados por los cálculos.

La seguridad y los recursos humanos, entre otros, son sectores que están delegando parcialmente actividades a los algoritmos. “El proceso de selección algorítmico es presentado [por ciertos científicos] como una solución al sesgado reclutamiento humano”, escribe Vion-Dury, quien cita por ejemplo el caso de Cornerstone, una empresa pionera en la materia, que habría colaborado hace algunos años con Xerox para ayudarle a paliar el problema de alta rotación de personal que estaba enfrentando. La misma tecnología estaría siendo utilizada por algunas universidades norteamericanas, que, en vez de emplear consultores externos, estarían acudiendo a modelos predictivos en los procesos de selección de los estudiantes, obteniendo supuestamente mejores resultados que cuando la evaluación es realizada por un humano.

Según el autor, la Silicon Valley nos estaría preparando por lo tanto para una “prisión algorítmica […], una sociedad en la que la mayoría de los aspectos de nuestras vidas serían asistidos por algoritmos”, con la ciencia –y no la política- como eje fundamental “para apaciguar todos nuestros males y responder a todos nuestros problemas”.
 

Compartir

  • Logo Facebook
  • Logo Twitter
  • Logo Linkedin