Los algoritmos tóxicos no los dejaban en paz; ahora Australia quiere un interruptor de apagado.

Advertencia: Este artículo contiene un relato sobre la vida con un trastorno alimentario.

Varsha Yajman ya se sentía acomplejada por su aspecto cuando se unió a las redes sociales a los 13 años.

Un sinfín de vídeos de ejercicios con promesas imposibles inundaban sus redes sociales. A través de la pantalla, chicas que no conocía la animaban a participar en peligrosos retos de calorías. Otras presumían con orgullo de su estatura y peso —e incluso del número de veces que habían sido hospitalizadas— en sus perfiles, en una especie de competencia macabra.

Cada noche, antes de dormirse, Varsha veía en internet a un desconocido que escribía en un diario sobre lo que había consumido ese día.

«Pensé: ‘No necesito comer. Puedo simplemente mirar a los demás comer'», cuenta Varsha a la BBC.

«Me encontraba metido en auténticos laberintos… era como si, por mucho que intentaras salir, no pudieras.»

Varsha, que ahora tiene 24 años y se está recuperando de la anorexia, dice que todavía recibe contenido sobre pérdida de peso en las redes sociales, a pesar de tener activadas todas las medidas de seguridad y una lista exhaustiva de palabras prohibidas.

Tiffanie Turnbull / BBC Varsha, con una blusa blanca de flores y un collar de luna, mira a la cámara.Tiffanie Turnbull / BBC
Varsha Yajman afirma que las redes sociales agravaron su trastorno alimentario.

El gobierno australiano afirma que intenta proteger a personas como ella con un nuevo conjunto de leyes que endurecen las medidas contra las grandes empresas tecnológicas, las cuales fueron presentadas al parlamento esta semana.

La pieza central de sus reformas propuestas: un cambio de algoritmo que obligaría a las plataformas de redes sociales a permitir a los usuarios desactivar las recomendaciones de contenido. La idea es que solo se vean publicaciones de las cuentas que se siguen.

No es el primer gobierno que intenta esto, pero los controles algorítmicos existentes suelen ser transitorios y conllevan desventajas en la funcionalidad de las aplicaciones.

Australia se ha propuesto endurecer su legislación para frenar esta práctica. Y espera que sus nuevas leyes, que también impondrían un deber legal de diligencia a los servicios en línea, contribuyan a que los australianos sean más felices y saludables.

Sin embargo, a los críticos les preocupa que el gobierno del primer ministro Anthony Albanese se haya metido en un lío demasiado grande en su lucha contra las grandes empresas tecnológicas, mientras que otros, incluida la administración Trump, afirman que las reformas amenazan la libertad de expresión.

La elección

Flynn Martin sabe lo que es verse atrapado en una espiral algorítmica.

Andrew Tate, un influencer autoproclamado misógino, y otras figuras de la manósfera comenzaron a inundar las redes sociales del joven, que entonces tenía 20 años, hace unos cuatro años.

Fue una época en la que Flynn, a quien finalmente se le diagnosticó trastorno bipolar, se sentía inseguro, frustrado con su vida y con problemas de salud mental. Él afirma que se dejó engañar por la retórica.

Pronto se hizo viral en Australia por dos vídeos: uno en el que despotricaba sobre si estaba bien ser un hombre blanco heterosexual, y otro en el que criticaba el pedido de yogur helado de una cita.

«Te encuentras en una especie de burbuja… Es fácil dejarse llevar por eso», le dice a la BBC.

«Me convenció por completo la idea de que vivíamos en una especie de matriz, con un sistema sumamente negativo diseñado en nuestra contra. Y la única forma de escapar de él era convertirnos en un macho alfa.»

El habitante de Melbourne solo fue apartado de la manósfera después de un período de psicosis y una estancia en el hospital.

Daniel Fermer / ABC News Flynn Martin, que tiene el pelo oscuro y rizado, mira a la cámara mientras sostiene un teléfono móvil que ilumina su rostro.Daniel Fermer / Noticias ABC
Flynn Martin dice que todavía está buscando un equilibrio saludable con las redes sociales.

Hoy en día, le resulta difícil recordar esa versión de sí mismo: «Si bien hay algo de vergüenza y bochorno… creo que hay algo de empatía por ese hombre más joven».

Mientras estudiaba el tema en la universidad, la activista, que ayudó a reformar los estándares de educación sobre el consentimiento sexual en Australia , ideó una campaña para lograr el cambio.

La campaña «Arreglemos nuestros feeds» exigió que los algoritmos de recomendación se desactivaran por defecto y que los usuarios de redes sociales tuvieran la opción de activarlos o desactivarlos.

Contos vislumbró un regreso nostálgico a las redes sociales de principios de la década de 2010, una época en la que las redes sociales de una persona estaban llenas de publicaciones de amigos o personas a las que realmente seguía, y sus feeds eran finitos.

Más de 15.000 personas firmaron su petición, y la campaña también obtuvo el respaldo de dos ex primeros ministros, varios diputados, figuras influyentes, defensores de la salud mental y expertos en seguridad en línea.

En septiembre, el gobierno afirmó haber escuchado a los australianos que habían apoyado la campaña de Contos y anunció una versión de su propuesta: obligar a las grandes empresas tecnológicas a introducir un interruptor de algoritmo, pero sin llegar a exigir que se desactive automáticamente.

«No se trata de darle el control al gobierno, sino de darle el control a la gente», dijo Albanese.

«Si la gente quiere pasar el tiempo viendo noticias negativas… está bien, es cosa suya.»

Hilary Wardhaugh/Getty Images Los dos políticos se encuentran en atriles frente a un grupo de padres con la bandera australiana detrás y puertas abiertas que dan a la terraza del Parlamento en Canberra.Hilary Wardhaugh/Getty Images
La ministra de Comunicaciones, Anika Wells (en el podio de la izquierda), y el primer ministro australiano, Anthony Albanese (en el podio de la derecha), anuncian el próximo proyecto de ley sobre el deber de diligencia digital.

Esta política forma parte del proyecto de ley gubernamental sobre el deber de diligencia digital, que exigiría a los servicios en línea (empresas de redes sociales, sitios de juegos, chatbots y otros) «garantizar, en la medida de lo razonablemente posible, un entorno en línea seguro».

Los niños deben estar protegidos de contenido y elementos de diseño «perjudiciales» —por ejemplo, pornografía y material que fomente trastornos alimenticios o actitudes dañinas hacia las mujeres—, y los adultos deben estar protegidos de contenido y conductas «gravemente perjudiciales», una lista mucho más reducida de contenido ilegal. Las infracciones de la ley podrían acarrear multas de hasta 100 millones de dólares australianos (52 millones de libras esterlinas, 70 millones de dólares estadounidenses).

«El deber de diligencia digital responde a muchas de las incógnitas de la ley sobre la edad mínima en las redes sociales, porque es mucho más amplio; abarca todos los servicios en línea y traslada la responsabilidad de las víctimas a las grandes empresas tecnológicas que buscan lucrarse a costa de los usuarios australianos», declaró la ministra de Comunicaciones, Anika Wells, a la BBC.

Los desafíos

La respuesta de las grandes tecnológicas ha sido discreta. Meta, Snap, TikTok, X y Google, propietaria de YouTube, han declinado las solicitudes de comentarios de la BBC y no han emitido declaraciones públicas sobre la legislación.

En los días posteriores al anuncio, el director de Instagram, Adam Mosseri, argumentó que los feeds no algorítmicos significarían que los usuarios verían menos publicaciones de amigos, y dijo que no creía que su aplicación fuera adictiva, aunque un jurado estadounidense dictaminó recientemente lo contrario .

«Creo que confundimos el uso coloquial que le damos a la palabra ‘adicto’ —como, ‘Soy adicto a esta serie y la estoy viendo sin parar’— con la adicción clínica», declaró en una rueda de prensa en Sídney.