L'Australie veut un interrupteur pour désactiver les algorithmes toxiques

Le gouvernement australien intensifie ses efforts pour limiter l'influence des géants de la technologie et protéger les utilisateurs des environnements en ligne toxiques. Au cœur de ces réformes se trouve un interrupteur algorithmique obligatoire qui obligerait les plateformes de réseaux sociaux à permettre aux utilisateurs de désactiver les contenus recommandés. Grâce à cette option, les flux se limiteraient strictement aux publications chronologiques des comptes suivis activement par l'utilisateur.

La motivation derrière cette législation découle des préjudices subis par des utilisateurs vulnérables piégés dans des spirales numériques destructrices. Pour des personnes comme Varsha Yajman, qui a lutté contre l'anorexie après avoir été submergée par des contenus dangereux sur la perte de poids durant son adolescence, les paramètres de sécurité et les listes de mots bloqués se sont avérés insuffisants. Malgré sa guérison, elle affirme que les algorithmes continuent de lui suggérer des contenus déclencheurs.

De même, Flynn Martin est tombé dans une spirale algorithmique lors d'une période de vulnérabilité, voyant ses fils d'actualité inondés d'influenceurs misogynes et de rhétorique extrémiste. Ces comptes exploitent la détresse psychologique des jeunes, créant des chambres d'écho dont il est extrêmement difficile de s'extraire. Le gouvernement australien espère qu'en donnant aux utilisateurs le pouvoir de couper ces moteurs de recommandation, il atténuera ces torts et favorisera une expérience en ligne plus saine.

Le projet de loi va au-delà d'un simple interrupteur, en imposant une obligation légale de diligence aux services en ligne pour protéger activement leurs abonnés. Toutefois, l'initiative se heurte à d'importants obstacles et critiques. Des analystes de l'industrie technologique et des défenseurs de la liberté d'expression estiment que ces réglementations sont trop larges et menacent l'expression libre en ligne.

Les détracteurs s'interrogent également sur la capacité du gouvernement à mener à bien ce bras de fer avec les géants technologiques. Bien que certaines plateformes proposent déjà des modifications temporaires de flux, la législation australienne cherche à imposer des normes strictes et applicables. Alors que les débats se poursuivent au parlement, cette décision audacieuse pourrait créer un précédent mondial en matière de responsabilité des réseaux sociaux face au bien-être de leurs utilisateurs.