Question d'origine :
Quels sont les recours pour contester une modération abusive et automatisée d'une plateforme de média social ne permettant pas à l'usager·e de contester et de se défendre ? Je pensais saisir la CNIL mais si j'ai bien compris, elle ne s'occupe que du RGPD et pas du DSA...
Réponse du Guichet
Le Règlement européen sur les services numériques (RSN), ou en anglais Digital Services Act (DSA), prévoit pour les plateformes en ligne et les réseaux sociaux, des obligations de transparence dans les décisions de modération automatisées ou non, tant vis-à-vis des utilisateurs individuels que vis-à-vis du public. L'ARCOM publie sur son site les outils de signalement des principaux réseaux sociaux et plateformes en ligne. En cas de manquement au DSA, vous pouvez saisir l'ARCOM via son formulaire de contact.
Si la plateforme en question refuse de vous expliquer le fonctionnement de l'algorithme qui a modéré vos contenus, s'il n'y a aucun humain pour réviser la décision, ou si elle refuse de vous donner accès aux données qui ont mené à ce blocage, vous pouvez déposer une plainte auprès de la CNIL, via le service de plaintes en ligne. Vous pouvez aussi recourir à un organisme de règlement extrajudiciaire (ODS), lorsque vous avez déjà contesté la décision, mais que la plateforme en question a rejeté votre demande ou n'a pas répondu. Pour ce faire, référez-vous à l'article 21 – Règlement extrajudiciaire des litiges du DSA.
Bonjour,
Le Règlement européen sur les services numériques (RSN), ou en anglais Digital Services Act (DSA), promulgué le 21 mai 2024, vise à encadrer les activités des plateformes en ligne et des réseaux sociaux. Le DSA prévoit des obligations de transparence dans la modération des contenus, automatisée ou non, tant vis-à-vis des utilisateurs individuels que vis-à-vis du public. D’une part, les plateformes en ligne sont tenues responsables de la bonne information des utilisateurs affectés par une décision de modération des motifs de ladite décision et des modalités de recours. D’autre part, les plateformes sont tenues de mettre à disposition du public une version anonymisée de leurs décisions de modération, à travers la base de données de transparence mise en place par la Commission européenne.
Ce Règlement désigne l'Arcom en tant que coordinateur pour les services numériques pour la France, aux côtés de deux autres autorités compétentes : la Commission nationale de l’informatique et des libertés (CNIL) et la Direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF).
Le DSA définit ainsi la "modération des contenus" :
« “modération des contenus” : les activités, qu’elles soient automatisées ou non, entreprises par des fournisseurs de services intermédiaires qui sont destinées, en particulier, à détecter et à identifier les contenus illicites ou les informations incompatibles avec leurs conditions générales, fournis par les destinataires du service, et à lutter contre ces contenus ou ces informations, y compris les mesures prises qui ont une incidence sur la disponibilité, la visibilité et l’accessibilité de ces contenus ou ces informations, telles que leur rétrogradation, leur démonétisation, le fait de rendre l’accès à ceux-ci impossible ou leur retrait, ou qui ont une incidence sur la capacité des destinataires du service à fournir ces informations, telles que la suppression ou la suspension du compte d’un destinataire ». [...]
Source : ARCOM
Sur la transparence vis-à-vis de l'utilisateur,
le RSN (article 17) [2] prévoit que tout fournisseur de services d’hébergement (plateformes en ligne incluses) qui prend une décision de modération à l’encontre d’un utilisateur doit l’en informer et lui expliquer avec clarté et de manière spécifique les raisons de ces décisions dans un « exposé des motifs ». Les informations fournies doivent être « claires et faciles à comprendre et aussi précises et détaillées que cela est raisonnablement possible » (voir art. 17.4).
Un exposé des motifs doit comprendre au minimum les informations suivantes :
- des informations sur la nature de l’action de modération (par exemple le déclassement, la restriction de visibilité, la démonétisation) ;
- les faits et circonstances sur la base desquels la décision a été prise [3] ; (voir art. 17.3.b)
le cas échéant, des informations relatives à l'utilisation de moyens automatisés pour la détection et la décision de modération ; (voir art. 17.3.c)
- une référence au fondement juridique ou aux clauses contractuelles permettant au fournisseur de services d'hébergement de considérer que le contenu est présumé illicite ou incompatible avec les conditions générales et des explications quant aux raisons l'amenant à cette analyse ; (voir art. 17.3.d et e)
- des informations quant aux possibilités de recours offertes à l'utilisateur pour contester la décision de modération, notamment celles par l'intermédiaire de mécanismes internes de traitement des réclamations, d'un règlement extrajudiciaire des litiges et d'un recours juridictionnel ; (voir art. 17.3.f)
Source : ARCOM
Sur la transparence vis-à-vis du public,
les plateformes en ligne doivent soumettre les décisions de modération et les exposés des motifs à la Commission européenne en vue de leur inclusion dans une base de données accessible au public et gérée par la Commission. Comme indiqué précédemment (I. Etape 4), il s’agit de la "DSA Transparency Database". Ainsi, toute personne peut consulter les décisions de modération prises par les plateformes en ligne au sein de l’Union européenne. [...]
La Commission européenne met à disposition du public divers outils permettant de comprendre, d’analyser et de télécharger les données communiquées par les plateformes en ligne. Il est par exemple possible de rechercher des exposés de motifs précis en utilisant des filtres avancés et de visualiser les données de modération des plateformes en ligne.
Source : ARCOM
Lire aussi 5 informations à retenir sur le Règlement sur les services numériques (RSN) ou Digital Services Act (DSA) (Site de l'ARCOM, 16 février 2024).
Le texte intégral du DSA, publié au Journal officiel de l'UE, est disponible sur https://dsa-act.eu/fr/.
L'article 17 impose l'obligation d'exposé des motifs de modération. En voici un extrait :
Les fournisseurs de services d’hébergement fournissent à tous les destinataires du service affectés un exposé des motifs clair et spécifique pour l’une ou l’autre des restrictions suivantes imposées au motif que les informations fournies par le destinataire du service constituent un contenu illicite ou sont incompatibles avec leurs conditions générales:
- a) toute restriction de la visibilité d’éléments d’information spécifiques fournis par le destinataire du service, y compris le retrait de contenus, le fait de rendre l’accès à des contenus impossible ou le déclassement de contenus;
- b) la suspension, la fin ou autre restriction des paiements monétaires;
- c) la suspension ou la fin, en tout ou en partie, de la fourniture du service;
- d) la suspension ou la suppression du compte du destinataire du service.
[...]
L'article 20 énonce l'obligation d'un système interne de réclamations :
1. Les fournisseurs de plateformes en ligne fournissent aux destinataires du service, y compris aux particuliers ou aux entités qui ont soumis une notification, pour une période d’au moins six mois suivant la décision visée dans le présent paragraphe, l’accès à un système interne de traitement des réclamations efficace qui leur permet d’introduire, par voie électronique et gratuitement, des réclamations contre la décision prise par le fournisseur de la plateforme en ligne à la suite de la réception d’une notification ou contre les décisions suivantes prises par le fournisseur de la plateforme en ligne au motif que les informations fournies par les destinataires constituent un contenu illicite ou qu’elles sont incompatibles avec ses conditions générales [...].
L'article 21 précise les modalités de règlement extrajudiciaire des litiges :
1. Les destinataires du service, y compris les particuliers ou les entités qui ont soumis des notifications, qui sont destinataires des décisions visées à l’article 20, paragraphe 1, ont le droit de choisir tout organe de règlement extrajudiciaire des litiges qui a été certifié conformément au paragraphe 3 du présent article en vue de résoudre les litiges relatifs à ces décisions, y compris pour les réclamations qui n’ont pas été résolues par le système interne de traitement des réclamations visé audit article [...].
En adaptant en droit national le règlement européen sur les services numériques (RSN), ce texte officialise la désignation de l’Arcom comme autorité chargée de coordonner pour la France la régulation des plateformes en ligne :
L’Arcom est déjà engagée dans une coopération opérationnelle avec la Commission européenne et partie prenante aux travaux européens de mise en œuvre du RSN, notamment dans le cadre des enquêtes ouvertes récemment par la Commission. L’Arcom disposera ainsi de l’ensemble des attributions lui permettant de superviser le respect, par les opérateurs établis en France, des obligations qui découlent du droit européen et, plus largement, de contribuer à garantir le respect du RSN en France et dans l’Union européenne par tous les services numériques, en étroite coordination avec la Commission européenne et les coordinateurs des autres Etats.
Pour en savoir plus sur la compétence de l'ARCOM, nous vous invitons à lire l'article du site éponyme : Superviser les plateformes en ligne et les réseaux sociaux.
Quid des moyens de recours proposés par l'ARCOM ?
L'ARCOM publie sur son site les outils de signalement des principaux réseaux sociaux et plateformes en ligne, concernant Google, YouTube, LinkedIn, Facebook, Instagram, TikTok, Snapchat, Twitter, Twitch, Pinterest, Dailymotion, Bing, jeuxvideo.com, BeReal, Yubo, Wikipédia.
Saisir l'ARCOM via son formulaire de contact -en sélectionnant comme objet de demande "Application du RSN (DSA)"- sera utile pour signaler une plateforme qui viole structurellement le DSA (absence de recours, pas d'exposé des motifs, etc.). L'objectif de l'Arcom est d'intervenir de manière graduée :
Lorsqu’elle constate un manquement lié à des obligations législatives, réglementaires ou à des engagements pris dans les conventions qu’elle signe avec les éditeurs, l'Arcom peut, suivant les cas, intervenir de manière graduée :
Lettre de rappel à la réglementation
Lettre de mise en garde
Mise en demeure
Conformément à la loi, toute sanction éventuelle (voir ci-dessous la procédure spécifique dans ce cas) doit être systématiquement précédée d’une mise en demeure. Cette dernière a valeur d’avertissement.
Source : Comment l'Arcom réagit à vos alertes ? (Site de l'ARCOM)
Quid des moyens de recours de la CNIL ?
L'article 22 du RGPD interdit en principe qu'une décision produisant des « effets juridiques » ou vous « affectant de manière significative » soit prise de façon exclusivement automatisée :
Qu’est-ce qu’une décision entièrement automatisée ?
Il s’agit d’une décision prise à l’égard d’une personne, par le biais d’algorithmes appliqués à ses données personnelles, sans qu’aucun être humain n’intervienne dans le processus. Les décisions automatisées peuvent intervenir dans de nombreux domaines d’activité (finance, fiscalité, marketing, etc.) et produire des effets juridiques ou des effets significatifs pour les personnes concernées.
[...]
Le RGPD prévoit des règles plus restrictives dans ces cas, pour éviter que l’homme ne subisse ces décisions émanant uniquement de machines. L’article 22 du RGPD encadre ainsi les processus de prise de décision entièrement automatisés, lorsqu’elles produisent des effets juridiques ou des effets significatifs.
[...]
Quelles catégories de décisions sont concernées ?
L’article 22 du RGPD s’applique aux traitements fondant exclusivement les décisions « produisant des effets juridiques » ou « affectant de manière significative » les personnes.Une décision produit un effet juridique lorsqu’elle impacte les droits et libertés de la personne. Par exemple, une décision affectant la liberté d’aller et venir des personnes, leur liberté de réunion et leurs droits contractuels, les privant du bénéfice d’une prestation sociale ou d’une prestation individuelle qu’ils avaient souscrite.
Une décision peut également avoir un impact significatif, similaire à un effet juridique, lorsqu’elle a pour conséquence d’influencer l’environnement de la personne, son comportement, ses choix ou d’aboutir à une forme de discrimination. Par exemple, une décision qui a des conséquences sur la situation financière de quelqu’un ou qui entraîne une application de tarifs plus élevés l’affecte de manière significative.
[...]
Quelles mesures doivent être prises dans le cadre d’une prise de décision entièrement automatisée ?
Les personnes concernées ont des droits supplémentaires lorsqu’une décision entièrement automatisée est prise à leur égard et les affecte particulièrement.
Des obligations spécifiques de transparence sont prévues : les personnes doivent être informées, lors de la collecte de leurs données et à tout moment sur leur demande, de l’existence d’une telle décision, de la logique sous-jacente ainsi que de l’importance et des conséquences prévues de cette décision.
Un droit à une intervention humaine leur est également accordé : toute personne ayant fait l’objet d’une telle décision peut demander qu’une personne humaine intervienne, notamment afin d’obtenir un réexamen de sa situation, d’exprimer son propre point de vue, d'obtenir une explication sur la décision prise ou de contester la décision.
Source : CNIL
Ainsi, si la plateforme en question refuse de vous expliquer le fonctionnement de l'algorithme qui a modéré vos contenus, s'il n'y a aucun humain pour réviser la décision, ou si elle refuse de vous donner accès aux données qui ont mené à ce blocage (infraction au droit d'accès), vous pouvez déposer une plainte auprès de la CNIL, via le service de plaintes en ligne.
Autres recours possibles
Vous pouvez recourir à un organisme de règlement extrajudiciaire (ODS), lorsque vous avez déjà contesté la décision, via les outils de signalement mentionnés ci-dessus, mais que la plateforme en question a rejeté votre demande ou n'a pas répondu. Pour ce faire, référez-vous à l'article 21 – Règlement extrajudiciaire des litiges du DSA.
Il est possible de saisir le tribunal judiciaire lorsque la voie amiable a échoué et/ou que le préjudice subi est lourd. Dans ce cas, les informations à connaître se trouvent sur service-public.fr : Saisir le tribunal judiciaire.
Enfin, les éléments de réponse à votre interrogation qui vous sont délivrés ici, le sont à titre indicatif dans la limite de nos compétences en tant que bibliothécaires. Une consultation juridique avec un professionnel du droit peut s'avérer utile.
Bien à vous
DANS NOS COLLECTIONS :
Ça pourrait vous intéresser :
Comment obtenir un titre de séjour pour soins en France...
Tout comprendre (ou presque) sur l’intelligence artificielle.
Tout comprendre (ou presque) sur l’intelligence artificielle.