16 Motivos para no sucumbir en pánico: acerca de “The Social Dilemma” (1°parte)

Por Agustina Lassi * 

La nueva pieza documental/drama del gigante Netflix, extrañamente lanzada a un mes de las elecciones norteamericanas, expone declaraciones de “testigos” ex empleados de Silicon Valley que escribieron con la punta de sus dedos los códigos que hoy maldicen nuestras sociedades. Mezclando el estilo documental, explicativo, gráfico y ficcionado, pretende apuntar básicamente a Facebook, y por qué no, espantar a cuantos más espectadores se pueda. En este artículo repasamos aspectos a tener en cuenta para verlo más como una lucha de gigantes en su propia arena que un problema de los usuarios. En el cierre (segunda parte que también será publicada en Zigurat) hablaremos de qué sí podemos hacer y qué se puede rescatar de este docu-drama netflixeano.


1. La elección del nombre no va de suyo.

El problema de toda traducción del inglés al español es que suele arruinar buenos títulos. En la traducción se “escapa” algo que es extremadamente relevante. El título en inglés es “The social dilemma”; mientras que traducido al español leemos “El dilema de las redes sociales”. Puedo asumir que social puede entenderse como “el mundo de las redes sociales” en inglés. Pero si miramos el documental con los lentes que propongo, descubrirán que refiere al mundo social, al ser social. Una pena, pues creo que algo del planteo existencialista que se podría hallar -siendo muy generosos con esta pieza mala de Netflix-, se perdió en la traducción. No es lo mismo plantear un dilema en lo social, que en las redes sociales. Allí, la responsabilidad se adjudica a dos entidades completamente distintas. Una es el ser humano, y la otra algunas de las tecnologías desarrolladas por él, y su interacción y potencialidad con lo humano. Esto es algo que se mezclará durante todo el show. La técnica con la cultura. Como si una no fuese determinante de la otra, como si no fuesen ambas actividades humanas. Aquí, el determinismo tecnológico, ganó por goleada. Sumado a este enorme detalle, la definición habitual dice que un dilema es una “Situación en la que es necesario elegir entre dos opciones igualmente buenas o malas”. La pregunta disparadora de este planteo será: ¿quiénes son los que están frente a ese dilema? Difícil elección para comenzar, pero algo me dice que ellos ya tienen la respuesta.

 

2. Dime donde lo miras, y te diré que lo que estás viendo

Jaron Lanier dice que Wikipedia, al ser 100 % basada en donaciones y non profit, nos brinda a todos los mismos contenidos, sin perfilización. Entonces será la fuente de información para aclarar qué es la plataforma en la que se exhibe este horror show estilístico de 1 hora y 34 minutos. Netflix, Inc. es una empresa de entretenimiento estadounidense que opera a nivel mundial, cuyo servicio principal es la distribución de contenidos. Al final del primer trimestre de 2020, la plataforma contaba con aproximadamente 183 millones de clientes en todo el mundo, la mayoría fuera de Estados Unidos. Ahora el lector sabe dónde está viendo un documental que habla de perfilización, economía de la atención, humanos como nodos informacionales, y no sé cuántos términos simplistas y reduccionistas que enumeran: en una plataforma gigante, con llegada inmensa a nivel mundial y, sobre todo, que hace exactamente lo mismo que el documental denuncia con sus usuarios.

 

3. Nacidas de un repollo. ¡Que orgánica la huerta!

Todo comienza con una cita de Sófocles: “Nada extraordinario llega a la vida de los mortales sin una maldición”. La traducción al español sugiere que WITHOUT A CURSE significa “separado de la desgracia”. Nuevamente las traducciones jugando una mala pasada. Pero no es ese el foco del detalle al que se pretende arribar sino a la utilización del verbo “llegar”. Aquí seré extremadamente injusta con la historia de los desarrollos computacionales. Los fines son nobles y con intención de no aburrir. Un profesor mío al que admiro mucho dice que las tecnologías no vienen de Marte, y nos enseñó bien a lo Manovich que el mito de lo digital no es un pop-up, sino parte de un proceso mayor. Las mal llamadas (intencionalmente, simbólicamente) plataformas se remontan a avances como la teoría matemática de la información, el álgebra booleana que permite los avances de Turing en 1936. Al computador de Von Neumann y sus bocetos para mejorar la ENIAC. También a Shannon que, con su metáfora de Alicia reducida a su mínimo valor de expresión, entró en el rabbit hole, y salió completa del otro lado creando el bit y el bite. A los avances del microprocesador de Noyce (fundador de Intel), a Cibernética y sociedad de Wiener, a la inversión de institutos de investigación de telefonía como Bell y universidades de financiamiento mixto como MIT. A las decisiones vinculadas con la sociedad de la información, a partir de las que se incorporó lo cultural al estatuto industrial dominante, se le agrega la necesidad de profundizar la internacionalización de la economía,  la presión a los estados para que cedan a las fuerzas de mercado, y la gestión y usufructo de los bienes de la información y el entretenimiento mediante la desregulación. Es decir, las tecnologías de las que se habla no nacieron de un repollo. Nada de eso aparece en este film. Y no es que sea imperante que así sea, pero dice mucho de las intenciones de quien lo produce.

 

4. El algoritmo marca el género y docu-drama será (algo saben que nosotros no, respecto de este género)

El esquema es de segmentos. Tal como Netflix midió la exacta duración de los episodios de 40 minutos antes de que el cansancio de la vida moderna nos prive de brindarles su atención. 5 minutos de insiders (arrepentidos, pero no culposos) y especialistas en variados temas. Algo debe tener que ver ese esquema, con el tiempo de atención que se presta a declaraciones a sujetos en banquitos con fondos blureados. Esos segmentos están mezclados de manera regular, con narrativa ficcionada de malas actuaciones. No sólo es pobre en construcción del relato, sino en representación. Mucho hombre, mucho caucásico, poca mujer. Y si la hay, es con estilo de vestimenta profesional o el otro extremo, la hacker salida de un episodio de Mr. Robot de pelo azul. Todos estos ex empleados de las big tech companies nos cuentan que lo que crearon parece ser un Frankenstein imparable. Y se les da entidad, están orgullosos por haber creado el botón Like, o el modelo de negocios por monetización de Facebook, hablan de girar la perilla imaginaria para aumentar audiencias en un país insignificante a piaccere del malvado de Mark (como si fuese el único malo en la historia). Todos así, relajados, chill, como se dice en la Gen Z. Amigables. Crearon algunos de los algoritmos más dañinos y poderosos para incrementar el poder de la economía de la atención y el capitalismo de vigilancia, pero tienen conciencia social y lo denuncian en un documental en Netflix. La pregunta que nadie les hizo es si conocían las políticas internas de esas compañías para las que trabajaron. Cuando el hombre que creó el botón “Me gusta” consideró que era una forma de “diseminar el amor y la positividad en el mundo” ¿se recibió de utópico y naif de la década, o nos estará mintiendo en la cara?

La pregunta que nadie les hizo es si conocían las políticas internas de esas compañías para las que trabajaron. Cuando el hombre que creó el botón “Me gusta” consideró que era una forma de “diseminar el amor y la positividad en el mundo” ¿se recibió de utópico y naif de la década, o nos estará mintiendo en la cara?

5. El problema son las bicicletas

Aquí llegamos a la metáfora preferida del documental. Dice Tristan Harris (a quien dedicaré un punto más adelante) que una bicicleta es una herramienta de transporte que está ahí. Que no hace nada por si sola. Que su creación no afectó a la sociedad. No solo sus declaraciones son poco acertadas, sino que son históricamente incorrectas. No sé por qué, pero esta falta de reconocimiento de los factores culturales en los desarrollos de la técnica no me sorprende en absoluto.

Nuevamente recurro a Wikipedia para reconstruir parte de la historia. En 1817, el barón alemán Drais von Sauerbronn inventó el primer vehículo de dos ruedas, al que llamó máquina andante. La persona se mantenía sentada sobre una pequeña montura, colocada en el centro de un pequeño marco de madera. Este invento estaba basado en la idea de que una persona, al caminar, desperdicia mucha fuerza por tener que desplazar su peso en forma alternada de un pie al otro. Una nota de la BBC cuenta que la bicicleta fue un invento liberador para las mujeres, pues para subirse en ellas debían deshacerse de los corsés y las faldas reforzadas y usar ropa más confortable. Las mentes conservadoras expresaron su preocupación: temían que la «inmodesta bicicleta» diese lugar a la masturbación e incluso a la prostitución. Además, los fabricantes de bicicletas desarrollaron técnicas simples y fácilmente replicables que fueron aprovechados por los fabricantes de autos como Henry Ford. De hecho, la primera bicicleta segura fue hecha en 1885 en la fábrica Rover en Inglaterra. Rover, como la marca de autos. Cómo no podía ser de otra forma, a veces, los genios de las tech companies no son genios en todos los aspectos. Conocer y reconocer la historia es muy relevante para comprender los efectos que pueden tener las tecnologías en el tejido social.

 

6. Nadie es culpable, el capitalismo de vigilancia es el culpable.

El discurso instalado que asocia las grow engagement techniques de la mano del machine learning de los algoritmos casi nada controlados por humanos, a la manipulación de nuestras decisiones y acciones, es correcto; pero falla en explicar algo muy importante. Hay sujetos detrás de esos códigos, departamentos de ética y políticas de empresa. Es decir, puede haber adjudicación de responsabilidades y sanciones. Es evitable el abuso que ellos llaman manipulación con la soltura de un teórico comunicacional que explicaba la propaganda de los totalitarismos.
Zuboff te da la derecha (o la izquierda) en esta Harris. El capitalismo de vigilancia, los datos, generan certeza, trazabilidad, gran problema ético-normativo de la era. Permiten la monitorización de nuestros pasos, gustos, ritmo cardiaco, tiempos de visualización. Generan previsión. Mercados de humanos futuros, como bien dicen en el documental Not in a scary way. Pero también es real que la publicidad siempre se trató de predecir y construir mercados futuros. Quizá no con tanta efectividad y a un nivel tan macro. Lo único que cambia es que, en este relato, el pasado es idílico y el futuro es horrendo.

En un mundo crecientemente desigual, con crisis pandémica, deslegitimación de la clase política, del periodismo como institución, y de las religiones como guía, es lógico asociar todos los males al diseño maligno y conductista de las plataformas. Pero ¿qué pasa con el criterio y contexto de los sujetos? Menos sobre simplificación, más análisis. No estoy con esto alegando que en los algoritmos no haya una causa a la que prestar enorme atención, pero sí que no es la única razón por la que habitamos el mundo que nos toca.

El discurso instalado que asocia las grow engagement techniques de la mano del machine learning de los algoritmos casi nada controlados por humanos, a la manipulación de nuestras decisiones y acciones, es correcto; pero falla en explicar algo muy importante. Hay sujetos detrás de esos códigos, departamentos de ética y políticas de empresa. Es decir, puede haber adjudicación de responsabilidades y sanciones.

7. Tristan Harris ex diseñador del área de ética de Google. Cofundador de Humane Tech.

Es el personaje central que brinda testimonios claves, y es actor político al prestar declaraciones en conferencias de anti-monopolios tecnológicos. Es decir, como activista. Dio charlas TED con casi 2 millones 800 mil visitas, traducidas a 18 idiomas. Un verdadero rock star. Detrás de él, se ve una frase “A RACE TO BE HUMANE”. En un juego de palabras bastante obvio que asocia raza-humana con carrera-por ser humanos, lo que propone es quizá lo más rescatable de su acto performativo. Escapar del capitalismo de vigilancia para abrazarse a una tecnología humana que busque empoderar a los usuarios, no estrangularlos. Pareciera que “el capitalismo” movilizó las intenciones de las plataformas hacia su modelo, y no a la inversa. Y Sillicon Valley es casi una víctima de ello. “There is no one to blame” dice Harris. Eso debería asustarnos, 94 minutos de personas declarando todo lo que está mal en el sistema, sin embargo, no hay a quien culpar.

 

8. Estereotipos que estigmatizan y reproducen la misma cultura que dicen despreciar.

Familia de cuatro. Hija menor solitaria y depresiva, hijo del medio con perfil de loser y la hija mayor Casandra, con convicciones. Leyendo el libro de Zuboff. Su nombre, elegido adrede por ser la sacerdotisa de Apolo, la hija de los reyes de Troya, la que descubrió el caballo, y nadie escuchó. La que termina presa con Ben por las fuerzas policiales de poder coercitivo tradicional estatal en una manifestación que no tiene un porqué. Luego tenemos a Ben, el protagonista y pobre avatar manejado por los tres algoritmos (engagement, goals, revenue) de los que ya hablaremos. La madre preocupada y protectora que pretende establecer límites, y la hija que los rompe solo para terminar llorando frente al espejo por sufrir cyberbullying. El padre que no caza una, que piensa que la madre exagera. Esta formación clásica, de manual, fue diseñada para generar identificación. A todos nos hace pensar en alguien (y eso que la caracterización es bien norteamericana clase mediera con el pryus hibrido en la puerta de la casa). Busca disparar emociones, encender mil alarmas, querer borrarse de las redes. El problema es que tras dos o tres mails de notificaciones contándote lo que te estás perdiendo, volvemos.

Continuará…

 

* Docente-investigadora en UNLaM- UNAJ. Es licenciada en Comunicación Social por Universidad Nacional de La Matanza. Maestrando en Periodismo en la Universidad Nacional de Buenos Aires. Mail. alassi@unlam.edu.ar.