Le scoring, symptôme d’une crise de confiance ?

Loin d’être une nouveauté, le scoring, c’est-à-dire la compilation d’informations en vue de dégager un indice permettant la prise d’une décision, est une pratique ancrée dans la culture des organisations. Augmenté de la masse de données disponible sur les individus et de l’intelligence artificielle, le scoring est en pleine mutation. Ne pas avoir le droit de prendre un avion parce que l’on a eu une contravention auparavant, se voir refuser un prêt sur la motivation d’un agrégat opaque de données personnelles compilées par une intelligence artificielle… Il effraie souvent par le potentiel liberticide de ses applications. C’est pourquoi le trendbook AXA Foresight en fait l’un des facteurs de bouleversement socio-économiques au centre de son étude. L’occasion de faire le point avec Daniel Kaplan co-fondateur et délégué général de la Fondation pour l’Internet Nouvelle Génération (FING) qui met la question du scoring dans la perspective plus générale d’une crise de la confiance à l’heure du numérique. Rencontre.

Comment définiriez-vous le scoring ? Dans quelle mesure représente-t-il une tendance socioéconomique forte pour les années à venir ?

On pourrait définir le scoring comme la création par un organisme d'un indice général à partir d'éléments collectés. Cet indice fournit une information sur une situation ou sur un usager à ce même organisme qui va ensuite s’en servir dans ses prises de décision. Ce n’est pas une pratique nouvelle ni futuriste. Pour preuve, cela fait plus de 20 ans que des banques utilisent des notations à partir de données agrégées. Ce qui change profondément en revanche, c’est la masse de données disponibles à l’heure actuelle, qui ne cessent d’augmenter. C’est cela qui permet aux organisations d’utiliser cet outil dans des domaines de plus en plus variés, et de façon plus opaque.

Ce serait donc les avancées techniques qui auraient changé la donne et généralisé la pratique du scoring ?

Je tiens à souligner un point important : ce n’est pas la technique (le big data, l’Intelligence Artificielle etc.) qui change les choses, mais la manière dont les organisations décident de l’utiliser. Et l’usage actuel du scoring révèle une stratégie visant à créer un dispositif d'asymétrie informationnelle à leur avantage. Il s’agit d’accumuler une masse d’informations et de les utiliser dans les relations avec les usagers sans que ces derniers ne puissent rien y faire. Mais je le répète : ce n’est pas la technique qui induit ces comportements, ce sont des stratégies mises en place par les organisations. Pour moi cela témoigne plutôt d’une crise profonde en matière de confiance.

On attribuerait des notes pour pallier un manque de confiance ?

Le problème est plus complexe que cela : lors de mes recherches sur la confiance à l’heure du numérique, j’ai pu constater l’émergence d’une tendance au sein des organisations. Pour commencer il y a une confusion autour de la notion de confiance elle-même. Normalement quand je vous fais confiance, je ne vérifie pas vos actions, les informations que vous me donnez, etc. Malheureusement les organisations se sont organisées pour éviter de prendre le moindre risque non calculé. Au final, dans le numérique, c’est exactement la relation inverse qui se construit. Nous voyons naître une véritable défiance vis-à-vis des individus dans les usages technologiques et dans les dispositifs mis en œuvre par les organisations.

Est-ce que cela ne témoignerait pas également d’un changement dans le rapport entre les individus et les organisations ?

Il est vrai qu’avec le numérique, certaines organisations cherchent à réduire le contact humain avec leurs clients ou administrés. Entre des contacts déshumanisés et des orientations résultant de données collectées à votre insu… c’est bien l’émergence d’une forme de pression des organisations sur les individus. Le scoring fait partie intégrante de cette relation où l’humain disparait au profit d’une logique implacable, d’un script décidé par l’organisation.

Quelles perspectives se dégagent de cette tendance ? Que pouvons-nous faire pour agir ?

Pour éviter le piège de la déshumanisation et réinstaurer la confiance, il faut que les organisations expliquent leurs méthodes de scoring et assument le dialogue avec les usagers. En effet, il est normal que les entreprises utilisent les données. La question de la confidentialité doit davantage être posée dans la perspective de l'autonomie, de la capacité à agir, que de celle du secret. Il ne s'agit pas de savoir ce que l'on sait sur moi mais plutôt si cette connaissance sert à prendre des décisions dont je ne suis plus partie prenante. Une perspective intéressante consiste donc à mettre à disposition des usagers leurs propres données, et à leur permettre d’anticiper ou prévenir les décisions des entreprises à leur égard. C’est un grand marché de services qui devrait se développer pour les usagers.