Serons-nous bientôt tous notés sur Internet?

Souvenez-vous en 2016, la saison 3 de Black Mirror commençait par un épisode incroyable, «Chute Libre» («Nosedive» en anglais). Si vous ne l’avez pas encore vu, foncez le voir sur Netflix. Durant 1h, les scénaristes de la série dépeignent une société dans laquelle tous les individus peuvent attribuer une note allant de 0 à 5 aux autres. Ces notes régulent la vie des habitants. Impossible d’avoir un prêt, un bon travail ou d’habiter dans le quartier de ses rêves si on n’a pas une bonne moyenne. Certaines personnes ne vivent ainsi que dans l’objectif d’améliorer leur note.

Des entreprises aux individus

Six ans plus tard, ce qu’avaient imaginé les scénaristes de Black Mirror semble chaque jour devenir un peu plus une réalité. Depuis quelques années, nous nous sommes déjà habitués à noter les restaurants, les magasins et les hôtels. Et puis, peu à peu, ça a commencé à toucher les humains. Vous trouvez que votre chauffeur Uber a été désagréable? Que votre livreur Deliveroo n’a pas été assez rapide? Que votre dentiste vous a fait mal? N’importe qui peut déjà l’exprimer en notant des professionnels sur Internet, avec parfois des conséquences importantes sur la personne.

«Prends le pouvoir, note tes profs»

Rapidement, des dérives sont apparues. Des sites ont permis aux élèves de noter leurs professeurs. C’était notamment le cas de «Note2be». Avec son slogan provocateur «Prends le pouvoir, note tes profs», il proposait anonymement d’évaluer les enseignants sur 20 en fonction de six critères: intéressant, clair, disponible, équitable, respecté et motivé. Chaque professeur avait ainsi, à son insu, une fiche avec son nom, son prénom et sa note. En France, la Commission nationale de l’informatique et des libertés (Cnil) a confirmé l’illégitimité du site de notation des professeurs et il a été interdit par la justice française.

Une réalité en Chine

S’il faudra peut-être encore attendre quelques années pour que de tels systèmes de notation soient autorisés chez nous, certains pays moins regardants sur les libertés individuelles n’ont pas longtemps hésité à franchir le pas. En 2018, le président chinois Xi Jiping a présenté un système de crédit social baptisé Social Credit System. Le principe est que chaque citoyen reçoive une note basée sur des centaines de critères, comme les délits et les infractions qu’il a commis, mais aussi sur sa capacité à rembourser un crédit. Cette note peut, par exemple, l’empêcher de prendre le train ou l’avion.

Rapidement, Human Rights Watch s’était inquiétée de cette situation. «Ceux qui ont de faibles scores seront confrontés à des obstacles dans tout, de l’obtention d’emplois à placer leurs enfants dans les écoles désirées. Nous ne savons pas exactement qui va gérer le système, comment nous pourrons contester les scores, ou même si le système est légal», avait prévenu une chercheuse de l’ONG.

Le danger de critères «manipulables et subjectifs»

Au printemps 2020, Jean Tirole, prix Nobel d’économie, avait consacré un long entretien à L’Obs. Il avait notamment souligné les questions sous-jacentes que posait le système de notation chinois. «Certains critères pour déterminer une note peuvent être raisonnables, objectifs et communément admis comme bénéfiques pour la société: rembourser ses dettes, ne pas frauder le fisc, avoir un comportement respectueux de l’environnement, du Code de la Route ou de la loi… Mais d’autres sont très facilement manipulables, subjectifs, ou peuvent être liés à des comportements qui ne sont pas admis par la majorité des individus et le pouvoir central: par exemple vos opinions politiques, votre religion ou les commentaires que vous laissez en ligne», estimait le prix Nobel 2014. «Le danger, c’est évidemment que fassent partie de votre notation sociale des critères qui sont manipulables et subjectifs ou bien divisent la société comme l’orientation sexuelle: cela obligerait les individus à se conformer aux attentes de la puissance publique ou de la majorité. On n’ose imaginer ce que pourrait faire un régime autoritaire ou populiste d’un tel système!», mettait-il en garde.

Notre société note de plus en plus

Couplée à une utilisation poussée de la reconnaissance faciale, la notation des individus est à la fois redoutable et effrayante en Chine. Pourrait-on imaginer qu’elle se généralise un jour en Belgique? Une chose est sûre, nous évoluons dans une société qui a tendance à noter de plus en plus, dans des domaines de plus en plus nombreux. Selon Pierre-Marie Chauvin, enseignant-chercheur en sociologie, la pratique n’est pas nouvelle, elle remonte même à l’Antiquité mais elle a été ‘démultipliée’ par Internet. À l’heure actuelle, «des garde-fous moraux et juridiques» empêchent le développement de tels systèmes chez nous, souligne le sociologue au Parisien. Mais est-ce que ce sera encore le cas dans dix ans? Rien n’est moins sûr…

«Attention à ne pas croire les démocraties à l’abri de telles dérives, il est toujours possible de glisser d’une démocratie à une démocratie illibérale, puis à un régime autoritaire. C’est pour cela qu’il faut réfléchir dès maintenant à la notation sociale, comme on aurait dû le faire avant la crise épidémique pour le traçage des relations sociales. Il faut des remparts juridiques, des garde-fous constitutionnels. Sinon, à travers ce genre de système, une majorité pourra toujours imposer ses choix à une minorité», estime quant à lui Jean Tirole.

Elon Musk pourrait créer une telle application en deux jours

D’un point de vue technologique, les pays occidentaux pourraient aisément lancer un système de notation des individus similaire à celui utilisé en Chine. De nos dettes à nos dons, en passant par nos excès de vitesse, dans une multitude de domaines, de nombreuses données sont récoltées et stockées sur chaque citoyen. «Si un Elon Musk décide de fabriquer une application dédiée... il peut le faire en deux jours», indique au Parisien le patron d’une start-up nantaise qui accompagne les entreprises dans la gestion de leurs avis clients.