Prisioneros de los algoritmos. Entrevista con Frances Haugen

1.218

Los conceptos vertidos en esta sección no reflejan necesariamente la línea editorial de NODAL. Consideramos importante que se conozcan porque contribuyen a tener una visión integral de la región.

Frances Haugen *

En vísperas de una temporada electoral en Estados Unidos que promete ser más acalorada que nunca y verse marcada por la «desinformación profunda», las plataformas de redes sociales están dando marcha atrás en la denuncia de noticias falsas. En lugar de aumentar la vigilancia tras la alarma suscitada por las injerencias en las últimas elecciones y las violentas secuelas de 2021, YouTube, Facebook y X (antes Twitter) han anunciado drásticas reducciones en el personal de moderación de contenidos.

Esto es en parte resultado de una campaña de la derecha contra la «censura de los conservadores» y la supuesta guerra contra la libertad de expresión y opinión, una justificación también invocada por Trump durante los juicios por insurrección. La campaña se ha visto amplificada por Elon Musk, quien, bajo la bandera de la libertad de expresión, ha convertido Twitter en una plataforma al servicio de la “alt-right”. Mientras Fox News se ha visto obligada a moderar su tono debido a costosas sentencias por difamación, Trump, durante una entrevista en directo con Tucker Carlson en X, pudo formular repetidas acusaciones falsas de fraude electoral generalizado por parte de Biden.

La cuestión de las redes sociales sigue sin resolverse porque, como explica Frances Haugen en esta entrevista por Zoom con la prensa extranjera en Los Ángeles [Luca Celada recogió sus declaraciones para il manifesto], el modelo de plataforma sigue basándose en la extracción de datos y los algoritmos como motores del «capitalismo adictivo» que se apoya en la modificación del comportamiento de los usuarios, lo que resulta decisivo para adquirir y comerciar con datos personales.

Ingeniera electrónica licenciada en Harvard, Haugen emprendió una brillante carrera nada más terminar sus estudios, empezando por Google, donde colaboró en una patente de indexación de resultados de búsqueda, pasando luego a Yelp, Pinterest y, por último, Facebook, donde se convirtió en 2019 en responsable del programa de «integridad cívica» destinado a limitar la desinformación en la plataforma.

Acabó, sin embargo, denunciando la insuficiencia del programa, desvelando miles de documentos internos al respecto, testificando ante el Congreso norteamericano y escribiendo un libro, The Power of One. Haugen sostiene que la máxima prioridad sigue consistiendo en optimizar el tráfico y los beneficios. Afirma que las plataformas disponen de cientos de personas cuyo único trabajo es conseguir que pasemos más minutos en su aplicación. «Tenemos que dejar de considerar a estas tecnologías como neutrales u objetivas. Eso es lo que quieren hacernos creer. La tecnología nunca es neutral; toda tecnología tiene una ideología».

¿En qué punto estamos respecto a la regulación de las plataformas?

-Es difícil exagerar la importancia de la Ley de Servicios Digitales en la Unión Europea. Y lo interesante es que otros países están adoptando leyes de ese tipo. Parece que el gobierno canadiense aprobará este año una ley de seguridad en línea similar a la Ley de Servicios Digitales.

La Ley de Servicios Digitales es muy diferente de lo que creo que oirías si parases a un norteamericano medio en la calle y le dijeras: «Vale, vamos a arreglar las redes sociales, ¿qué vamos a hacer?». Facebook se ha gastado enormes sumas de dinero tratando de establecer una historia según la cual la única manera de resolver estos problemas es la moderación de contenidos, como la censura. La mayoría de las personas, creo, si les parásemos en la calle, diría: «Oye, no quiero que aprobemos una ley así. Porque yo creo en la libertad de expresión».

La Unión Europea entró en la cuestión desde un ángulo muy diferente y dijo: «Eh, aquí el verdadero problema es, en realidad, el de los desequilibrios de poder». Todas las cosas de las que nos quejamos son consecuencia del hecho de que tenemos este enorme desequilibrio de poder en el que Facebook puede ver lo que está pasando, y nosotros, no. Así que, como mínimo, tienen que decirnos si saben que existe un riesgo, tienen que decirnos cómo van a intentar reducir ese riesgo, y tienen que darnos acceso a suficientes datos para que sepamos que realmente están haciendo progresos al respecto.

En el caso de los Estados Unidos, creo que lo que ha cambiado es que el Cirujano General ha publicado un aviso sobre las redes sociales. Esto es algo muy, muy importante. Sólo para dar algo de contexto, solamente ha habido menos de quince avisos especiales generales desde la década de 1960. Y todos ellos referidos a cuestiones que podríamos considerar como momentos importantes en la historia de la salud pública. Cosas como que los cigarrillos provocan cáncer, o que los cinturones de seguridad salvan vidas. Cosas ante las que hoy en día nos encogemos de hombros y decimos «¡Claro!». Pero todas esas cuestiones eran ambiguas antes de que el Cirujano General declarase: «Eh, esta es la última palabra sobre la cuestión». A los dos o tres años de esas declaraciones anteriores, solía producirse algún tipo de movimiento de envergadura, ya fuera a escala federal o por parte de los estados.

Mientras tanto, las propias plataformas no paran quietas, como se ha visto con el lanzamiento de Threads por parte de Meta para competir con Twitter.

Cuando aparece Mark Zuckerberg y declara: «No queremos que Threads trate de noticias, no queremos que trate de política. Queremos que sea un lugar feliz. Queremos sustituir a Twitter», creo que eso debería hacernos reflexionar, porque la discusión política a veces no es agradable. Por poner un ejemplo de una decisión de producto que han tomado en Threads, no puedes configurar Threads para que solo te muestre contenido de tus amigos. Tienes que aceptar lo que Meta te ofrezca. Tienes que ponerte en sus manos y dejar que el algoritmo dirija la experiencia.

Una de las cosas fundamentales que intento explicar en mi libro es por qué una vez que dejamos de tener sistemas de medios sociales a escala humana en los que ves cosas porque un ser humano dijo específicamente: «Quiero poner esto delante de ti», y pasas a tener un ordenador que toma esas decisiones por ti, que centra tu atención, es absolutamente necesario disponer de transparencia. Porque, ahora, quien controla el algoritmo controla la conversación, y me gustaría que reconocieran más que están llevando a cabo intencionadamente una experiencia en la que tienen aún más poder y control del que tenían antes.

¿Qué opina de Mark Zuckerberg?

-Siento una gran empatía por Mark Zuckerberg, porque nunca llegó a madurar. La verdad es que creo que a Mark le ha hecho un flaco favor el hecho de que haya sido dueño unilateral del control de Facebook desde que tenía 19 años. Incluso en comparación con Larry y Sergei en Google…pueden disponer de control unilateral conjuntamente, pero todavía tienen que negociar, ¿qué debemos hacer? ¿Qué significa esto? ¿Cómo debemos dirigir la empresa?

En un caso como el de Mark, es todo un sistema el que está configurado para hacer feliz a Mark. Las personas que están a su alrededor son las que le hacen sentirse seguro, las que validan que es un genio incomprendido que simplemente no puede tener respiro.

A veces me critican por decir que creo que debería haber un movimiento del tenor de «Liberad a Mark», como hubo un movimiento de «Liberad a Britney»…Me gusta bromear diciendo que, si alguna vez supero el estrés postraumático que me produjo escribir este libro y decido tontamente escribir otro, quiero dedicárselo a Mark y decirle: «Mark, creo plenamente en tu capacidad de grandeza y no pararé hasta que vayas a por ella». Porque dispone de un dinero funcionalmente ilimitado. Es un tipo inteligente, podría ir a resolver el problema de la malaria y en su lugar lanzó Threads. ¿Qué estamos haciendo?

¿Cuál fue el efecto de TikTok en los medios sociales?

-Cuando apareció TikTok, se demostró que había otra manera de hacerlo, que era que si tenías un algoritmo realmente bueno, en realidad no necesitabas una red social, no necesitabas un gráfico social, no necesitabas que la gente conociera a la gente de la que estaban recibiendo cosas. Puesto que, mientras que les dieras cosas de alta calidad que los entretuvieran, la gente volvería a por más. Y hoy resulta mucho más fácil hacer crecer tu sistema…

Los seres humanos lo hacen de veras muy bien a la hora de gobernarse a sí mismos a cierta escala…Sabemos gobernar el tamaño de un diálogo hasta [unas decenas de miles de personas]. Si se trata de un diálogo entre un millón de personas, hay que utilizar un algoritmo. Y el problema con los algoritmos es que cada uno de ellos tiene su sesgo… Y a menos que se impongan requisitos legales de transparencia, ahora estamos a merced de quien tenga el algoritmo….

En buena medida, la razón por la que escribí este libro es que necesitamos, como sociedad, comprender que los sistemas que son opacos y los que son transparentes son sistemas muy, pero que muy diferentes. Y que tenemos que actualizar nuestras leyes para discutir el hecho de que eso supone un desequilibrio de poder. Y que si vamos a vivir en un mundo en el que las formas de IA dirijan nuestra atención, tomen decisiones por nosotros, como consumidores deberíamos tener derecho a saber qué es lo que estamos consintiendo.

Así pues, ¿no estamos avanzando en la dirección correcta?

-En el libro intento hablar de los valores que queremos ver en las redes sociales. Porque ahora mismo tenemos un marco agnóstico cuando se trata de estas cosas. Decimos que son empresas privadas, que pueden hacer lo que quieran. No estamos reconociendo que estos son ahora los lugares principales en los que muchas personas llevan a cabo su socialización…Y, sin embargo, dejamos que estas empresas privadas, controladas a veces por una sola persona, gestionen estos elementos vitales de la infraestructura social…A medida que ponemos más y más de nuestra economía, más y más de nuestra sociedad en manos de ordenadores para que la dirijan, ¿cuáles son los controles y equilibrios que acompañan a eso? Sólo conseguiremos más concentración económica, sólo conseguiremos más concentración de poder, a menos que digamos que los seres humanos son importantes. Y necesitamos que la tecnología lo reconozca y esté a la altura de ello.

*Frances Haugen estudió Ciencias de la Computación e Ingeniería Eléctrica en la Escuela de Ingeniera Frank W. Olin y una Maestría en Administración de Empresas en la Escuela de Negocios de Harvard. Autora de “The Power of One”, ha trabajado para Google, Yelp, Pinterest y Facebook, sobre cuyas actividades declaró ante el Senado norteamericano en septiembre de 2021. 

Sin Permiso

Más notas sobre el tema