Alfredo Moreno - Análisis
La sociedad actual está caracterizada, entre otros
aspectos, por la aparición de las nuevas tecnologías de la información, las
comunicaciones y el conocimiento (las TIC), accesibles por medio de
smartphones, tablets, computadoras y todo dispositivo que se conecte a
internet. En este contexto, asistimos a una serie de relevantes
transformaciones en el ámbito psicosocial, afectando a todos los colectivos
sociales en medio de un ambiente de euforia electrónica, cuando no en un modo
de "murmullo" o "parloteo" i.
Como señala Huici, la primer gran expansión de
Facebook coincidió con la primera crisis económica del año 2007, que potenció
el desarrollo digital de servicios de plataformas digitales orientados a la
individualización, orientación u guía de cada navegante de la red de redes. En
el 2015 Facebook tenía 1.350 millones de usuarios, miembros (registrados), que
se comunicaban en 70 idiomas y utilizaban 50.000 servidores (computadoras de
alta capacidades de procesamiento y almacenamiento). Facebook se ha constituido
así en uno de los “dueños de Internet” controlando Instagram desde el 2012 y
Whatsapp desde el 2014; un enorme negocio que representa más de 25.000 millones
de dólares anuales y un volumen de datos muchísimo mayores a los millones de
dólares estimados.
El valor político del flujo de datos permanente de
esta plataforma digital, fue visible en el 2013 cuando la Agencia de Seguridad
Nacional de USA reconoció la utilización de Facebook para el seguimiento de
ciudadanos que aportaban sus datos “inocentemente”, información que durante
años había sido un objetivo de los trabajos de inteligencia. Algo similar
sucede con los buscadores del tipo Google que llevan invisibles cookies
(pequeños softwares) que permite identificar al usuario y trazar un mapa de su
navegación por las webs y profundidad de penetración en cada una, estos datos
configuran nuevos productos del negocio digital.
Comprender los alcances de los algoritmos y sus
contextos de aplicación, nos ayudará a comprender cómo la digitalización de la
vida cotidiana y nuestra relación con las plataformas y servicios digitales
está orientada por una infraestructura de cómputos que conforman el proceso de
los algoritmos. Por ello, se hace necesario comprender, discutir y criticar la
manera como los algoritmos, que no conocemos, marcan nuestros días.
El famoso cantautor Peter Gabriel, anticipa:
“Parece inevitable que el decreciente costo del escaneo de la mente, junto al
creciente poder de la computación, nos lleve pronto al punto en que nuestro
propio pensamiento será visible, descargable y abierto al mundo en nuevos modos.
Los pasados años hemos presenciado robots que construyen puentes y casas,
directamente de impresoras 3D. Pero pronto seremos capaces de conectarnos con
el pensamiento del arquitecto e imprimirlo y ensamblarlo en un edificio
inmediatamente. Lo mismo ocurrirá con el cine, la música y todo proceso
creativo”.
Se define algoritmo como "un conjunto ordenado
y finito de operaciones que permite hallar la solución de un problema. Basta
pensar en una receta de cocina o como enseñamos a nuestros pequeños a dar sus
primeros pasos y caminar. Estas acciones operan sobre datos para obtener
conclusiones y conocimientos. En la sociedad contemporánea, los algoritmos han
adquirido un rol cada vez más central, haciendo que algunos los definan como
una suerte de mano invisible que toma decisiones por nosotros.
La expansión de los métodos de cálculos expresados
como algoritmos, algunos disponibles desde 1950, se debe en gran parte al
encuentro de estas herramientas y la informática, particularmente con al
binomio software (aplicaciones APP) y las capacidades crecientes de velocidades
en los procesadores de las computadoras, que posibilita procesamiento a gran
escala hoy determinados por el Big Data.
Los cálculos penetran tan íntimamente nuestra vida,
que no logramos percibir con claridad cómo se conducen nuestros datos a
infraestructuras estadísticas ubicadas en lejanos servidores ii.
Así, un número creciente de dominios de conocimientos como la cultura, el
conocer y la información, pero también la salud, la ciudad, el trasporte, el
trabajo, las finanzas e incluso el amor y el sexo son modelados y mediados por
algoritmos.
Dos dinámicas avanzan para hacernos entrar en una
“sociedad del algoritmo”. La primera es la digitalización de la sociedad; la
segunda el desarrollo de los procesos. Estos últimos entregan a las
computadoras las instrucciones matemáticas para clasificar, ordenar, agrupar,
predecir, tratar agregar y representar la información. Por medio de datos cada
vez más desapercibidos (desplazamientos de personas, tickets de compras, clics
en Internet, consumo online, tiempo de lectura de un libro digital, tiempo de
escucha de música y permanencia en video por demanda), los algoritmos cifran el
mundo, lo clasifican y predicen nuestro consumo presente y futuro. Pueden medir
cada una de las acciones que realizamos en la red internet.
Omnipresentes en nuestras vidas, los algoritmos son
presentados como misteriosos a nuestros conocimientos por no saber de su
existencia y funcionalidad. Una nueva religión con nuevos actos de fe.
Raramente nos cuestionamos cómo estos procesos de lógica y cálculo se producen
y la visión de mundo que conllevan. Por ejemplo, que los algoritmos usados por
los gigantes tecnológicos, conocidos como GAFAM (Google, Amazon, Facebook,
Apple y Microsoft), no sean siempre justos en las decisiones que toman. Los
algoritmos operan dentro de lo que se conoce como "cajas negras", lo
que significa que no sabemos cómo están tomando esas decisiones. Es decir, no
conocemos sus funcionalidades. Los errores en los sistemas de reconocimiento
facial son una muestra.
La dependencia en aprendizaje automático, un
conjunto de técnicas de aplicación computacional para entrenar algoritmos con
datos, ha hecho que el problema de los sesgos sea cada vez más importante para
la comunidad vinculada a iniciativas de Inteligencia Artificial. Parte del
problema es que las bases de datos empleadas para entrenar a los algoritmos no
siempre es lo suficientemente diversa en el criterio de selección en la
representación social de los datos.
Esos sesgos también pueden afectar a decisiones
como el seguro médico u obra social o prepaga, la escolaridad o el registro
criminal, la aceptación a una candidatura laboral.
En el sector público a medida que las decisiones
gubernamentales se vuelven más automatizadas estos riegos son ciertos. Por lo
tanto, el sector público y de gobierno no debería utilizar algoritmos de caja
negra. La Estadística Estatal debe ser publicada y conocida por
los ciudadanos. Además, es necesario políticas públicas que regulen al sector
privado. Los ciudadanos deben conocer las implicancias funcionalidades de los
algoritmos que son utilizados en Internet, es una responsabilidad de cada
estado. Una radiografía crítica de los algoritmos es una necesidad democrática
tan esencial como desapercibida.
El contexto cultural definido por “los dueños de
internet”iii y
los líderes de la digitalización del mundo (las GAFAM) y el valor que mueve el
cálculo algorítmico no es otro que el de la personalización, el del
individualismo. Poder medir cada acción personal en los recorridos de la red
internet, sus gustos y consumos. Este sesgo en la confección del software que
implementa el algoritmo (programación del algoritmo) responde a modelos
políticos y culturales de relaciones sociales y distribución del conocimiento y
la riqueza.
En el caso de la web su valor es el de la
“popularidad”. Su forma de medición es similar a aquella de las audiencias
offline. Primero indexaron los contenidos de las webs y nos entregaron el
buscador Google. Ahora el valor de la medición (Google Analytics) dispone de la
infraestructura de contenidos globales que permite medir los recorridos y
consumos de los datos en las webs.
La caja de herramienta para medición Google
Analytics construye el principio rector de sus herramientas: la autoridad.
Explicitada en su forma de medición la del ranking.
Para ello, se capacitan ejércitos de analistas de Marketing y estrategas de
modelos de consumo. Google analiza los datos del tráfico en Internet que
generan las propias marcas. La reputación de estas mediciones dar el valor de
credibilidad que permite que el resultado del análisis de los datos sea un
producto de mejor venta, las instituciones más confiables y los servicios de
mejor garantía. Así Google Analytics se ha convertido en el “regulador” del
“estado internet”.
Los métodos de predicción completan este
tablero Estadístico, estos resultados orientan la conducta sobre el consumo de
los navegantes que surfean las webs. ¡De la Estadística cuantitativa a la
cualitativa logran predecir las emociones!
En este sentido, el Big Data se centra más en la
ciencia de datos y los modelos de análisis que en la acumulación de datos. Las
medidas se han vuelto más fácilmente calculables; las categorías persiguen
singularizar a las personas y las correlaciones estadísticas no van de la causa
hacia las consecuencias, sino de las consecuencias hacia un número probable de
causas.
Las políticas neoliberales de los años 1980, indica
Dominique Cardon, hicieron perder autoridad a las categorías tradicionales
(profesión / clase social) y les han entregado un nuevo uso a los instrumentos
estadísticos. Estos sirven menos para representar lo real que para actuar sobre
ello. De este modo, una medida particular se ha convertido en la realidad misma
que se pretende medir; los buenos resultados de un colegio en una prueba estandarizada
es manifestación de la calidad de ese colegio; los científicos más citados se
han convertido en los mejores científicos, los músicos más producidos y
escuchados son los que hacen mejor música. Es el mundo el que se vuelve
directamente medible y calculable.
Otra transformación importante del cálculo
algorítmico es el desbordamiento de las categorías. Allí donde la existencia de
la sociedad era supuesta, hoy es puesta en suspenso para purificar relaciones
entre variables. Ya no es relevante saber por qué la gente hace lo que hace, lo
importante es que lo hace y ahora es posible regístralo como nunca antes.
Los datos
permiten cuantificar cosas que antes resultaban desconocidas.
Si nuestro mundo es imperfecto señala
Dominique Cardon, era porque faltaban datos para corregirlo. Si la
investigación científica quiere ser parte de las gigantescas infraestructuras
de cálculos, ella debe tomar distancia de ciertas mitologías que encubren al
Big Data. Se debe tener presente que toda cuantificación es una
construcción que implica un dispositivo de medida y registro la cual establece
convenciones para interpretarlos.
Los datos
no hablan más que en función de los cuestionamientos e intereses de quienes los
interrogan.
Nos inducen a pensar que las máquinas/computadoras
como inteligentes y poseedoras de un espíritu. En la actualidad, los
realizadores de computadoras han abandonado esta pretensión y han optado por
hacer a las máquinas estadísticas en vez de inteligentes. Si las máquinas se
vuelven estadísticas, los individuos se volverían lo que Gilles Deleuze
denominó un “dividuo” en la sociedad de control. Un ciudadano fragmentado en un
capitalismo de producto. De ciudadano a consumidor, de masa a mercado.
En una época de cultura neoliberal, donde las
personas por medio de sus representaciones, ambiciones y proyectos, se piensan
como sujetos autónomos, por fuera de modelos políticos incluyentes o
excluyentes. Los cálculos algorítmicos atrapan sus deseos a la regularidad de
sus prácticas personales. El rol de las políticas públicas es transferido a las
políticas del mercado donde la concentración tecno científica en las GAFAM
define el nuevo estado.
Otras políticas públicas son necesarias para la
sociedad de los algoritmos. Los procesos y sesgos deben estar explicitada para
los ciudadanos, como alertas en el mundo de internet y en la Estadística
Estatal.
Es necesario conocer la visión política y cultural
que se implementa en los procesos algorítmicos y el sesgo de los datos que
arrojan resultados como verdades. Hay que instalar una mirada crítica al
funcionamiento de los cálculos. Es necesario saber ¿Qué sentido y objetivo
implementan los algoritmos? Estos sentidos configuran un posible mundo donde el
reconocimiento de los méritos no encuentra trabas; donde la autoridad se
obtiene únicamente en torno a la calidad.
Las mediciones de autoridad (ranking) a las
primeras posiciones aumentarían las desigualdades. La ley de Pareto de reparto
de desigualdades -que señala que el 20% de la población obtiene el 80% de los
bienes a distribuir- se incrementa en la web, donde menos del 1% de los actores
se llevan el 90% de la visibilidad.
Los algoritmos hacen soñar a las personas
entregando herramientas para que éstas reconozcan sus afinidades y se
autoorganicen. Las posibilidades de aplicaciones/herramientas que entrega las
redes sociales para que los individuos se relacionen y organicen de acuerdo a
sus gustos, intereses, valores e ideas compartidas, es un vector de
socialización que rompe con la crisis de confianza imperante.
La recomposición de la sociedad a partir del
involucramiento expresivo de los individuos, es sin duda la parte más positiva
de las nuevas formas de vida digital. Las políticas públicas que logren
canalizar estas representaciones permitirán contener y construir una democracia
más representativa basada en la economía solidaria.
Las GAFAM persiguen instalar un ambiente
tecnológico invisible que permita a las personas orientarse, sin contrariarlos.
Gran parte de nuestras elecciones diarias, son efectuadas por una
infraestructura socio-técnica; comprar un billete de avión, traducir automática
de lenguajes, encontrar el mejor restaurante, conseguir una cita personal,
llenar la heladera o cargar la SUBE (tarjeta digital para utilizar transporte público
en Argentina). De este modo, la sensación de elegir se encuentra socialmente
distribuida.
Uno de los riesgos del ceder las elecciones
cotidianas a infraestructuras tecnológicas, son los procesos digitales
irreversibles. Otro riesgo que comportan estos nuevos procesos socio-técnicos
sería el traspaso de habilidades complejas (manejar un avión, realizar diseños,
leer una radiografía digital), desde los humanos hacia los instrumentos o
dispositivos. De esta manera, es más necesario que nunca aprender a no
desaprender.
Sin embargo, no hay que olvidar, señala Dominique
Cardon, que los sueños no son más que sueños y que el uso que hacen los
utilizadores son siempre más fluidos, vagabundos y complejos de lo que los
realizadores de estos cálculos imaginaron. Así, más que dramatizar el conflicto
entre los humanos y las máquinas, sería juicioso considerarlos como una pareja
que no deja de retroalimentarse e influenciarse mutuamente.
En la breve conclusión de su texto: “La ruta y el
paisaje”, Cardon señala que, como el GPS, los algoritmos no nos dicen dónde ir
(no definen nuestros objetivos), sólo nos muestran la ruta (su ruta) más
conveniente a nuestros intereses. Estos serían el producto del deseo de
libertad y de autonomía del individuo.
A pesar de ello, los algoritmos obligan al
internauta, como al conductor, a una ruta calculada, eficaz y automática que se
adapta a nuestros deseos y se rige en función del tráfico de otros. Así, es
difícil reconocer que implica nuestro trayecto en relación a otros posibles
(rutas alternativas, periféricas), o como éstas representan un conjunto más
amplio. Con el mapa hemos perdido el paisaje, afirma el autor. Es por ello que
se hace más necesario que nunca ser vigilantes y pedirles a los algoritmos que
nos muestren tanto la ruta como el paisaje.
Los algoritmos guían nuestras preferencias y atan
nuestras elecciones a nuestras conductas pasadas. Vuelven realidad el sueño
liberal de la elección sin ataduras, pero este sueño esconde también su
contracara. Una libertad tecnológicamente pautada y guiada.
Alfredo Moreno
Profesor TIC en Universidad
Nacional de Moreno
Ingeniero TIC en ARSAT
i Vicente Huici (2017) Crisis y zoom elektronikón.
ii Cardon Dominique “Con que sueñan los algoritmos”
iii Natalia Zuazo “Los dueños de Internet”
