Partager

Accueil > Nos projets > L'IA responsable > L’IA responsable en gouvernance des réseaux sociaux

L’IA responsable en gouvernance des réseaux sociaux

Malgré l’influence des plateformes de médias sociaux sur la circulation d’information au sein de la société, les inquiétudes augmentent quant à leur mauvais usage, lequel peut être préjudiciable et servir la désinformation, à promouvoir l’extrémisme et la violence et à favoriser de nombreuses formes de harcèlement et d’abus. Par ailleurs, il existe un consensus croissant sur la nécessité pour les gouvernements de revoir l’efficacité des réglementations actuelles concernant l’influence des plateformes de médias sociaux sur la dynamique du discours public afin que ces processus soient entrepris de manière démocratique et systématique, et non seulement par des entreprises privées.

Parmi les différentes inquiétudes liées aux plateformes de médias sociaux, ce projet abordera les problèmes liés aux systèmes de recommandation, qui diffusent du contenu sur les réseaux sociaux, exacerbent la polarisation et la radicalisation des opinions et contribuent à l’adoption de points de vue violents ou extrêmes des utilisateurs.

Pour faire face à ce problème, nous envisageons un projet visant à parvenir à un consensus entre les gouvernements, les organisations de la société civile, les groupes communautaires et les entreprises de médias sociaux. La discussion a pour objectif d’élaborer des protocoles inclusifs, réactifs et axés sur la collectivité qui permettront de déterminer la façon dont les questions pertinentes sur les systèmes de recommandation peuvent être posées en toute sécurité, sans enfreindre les droits des personnes à la liberté d’expression, au respect de la vie privée, à un processus démocratique juste, et sans porter atteinte à la propriété intellectuelle des entreprises.

L’objectif de ce projet est d’identifier un ensemble de lignes directrices et de techniques que les gouvernements peuvent adopter pour poser en toute sécurité des questions portant sur les effets des systèmes de recommandation des réseaux sociaux sans enfreindre les droits des personnes au respect de la vie privée, à la liberté d’expression et à un processus démocratique juste, et sans porter atteinte à la propriété intellectuelle des entreprises.

 Responsible AI for social media governance: A proposed collaborative method for studying the effects of social media recommender systems on users (novembre 2021)

Objectifs à court terme

Les résultats à court terme du projet sont les suivants :

  • La définition détaillée d’un exercice d’établissement des faits qui précise les conditions dans lesquelles l’exercice est justifié, la manière dont il doit être mené et les types de questions de recherche pouvant être posées;
  • Un ensemble de lignes directrices et de méthodes basé sur le travail susmentionné qui pourrait favoriser un consensus international sur la manière dont les gouvernements peuvent légitimement mandater un exercice de ce type dans le respect des droits de la personne.

Livrable à long terme

Les principaux résultats à long terme du projet sont les suivants :

  • Une entente officielle de mise en œuvre de l’exercice d’établissement des faits avec les plateformes de réseaux sociaux et les gouvernements des pays sélectionnés;
  • Un exercice d’établissement des faits qui est réellement mené et qui fournit des propositions afin de renseigner les gouvernements sur les mécanismes spécifiques susceptibles de fonctionner au sein des entreprises étudiées.