Et si demain, un algorithme était élu président de la république ?

Avez-vous déjà imaginé un État gouverné par des algorithmes ? Un Européen sur quatre envisagerait cette possibilité. Pour creuser cette question épineuse, nous nous sommes entretenus avec le sociologue Yann Ferguson.
16/04/2019

 

Et si on laissait l’Intelligence Artificielle prendre les décisions sur la transition écologique ? Sur le Brexit ? Ou même sur le mur de Donald Trump ? Ferions-nous réellement confiance à des algorithmes pour des décisions aussi cruciales ? Les programmes informatiques semblent nous être d’une grande utilité lorsque l’on swipe sur Tinder ou que l’on fouille dans nos recommandations Netflix pour savoir ce que l’on va regarder après notre série préférée. En parallèle de ce que l’on pourrait appeler une robotisation sociétale, l’insatisfaction des citoyens envers la démocratie semble augmenter de jour en jour. C’est d’ailleurs ce que soulignent Yascha Mounk et Roberto Stefan Foa dans un article consacré à la désillusion démocratique. C’est donc naturellement que convergent la croissance exponentielle de l’utilisation des algorithmes et la méfiance envers la démocratie. Dans cette atmosphère complexe, la question de l’avenir en matière de politique et d’informatique mérite d’être soulevée. Selon un sondage réalisé par un centre de recherche de l’Université IE de Madrid dans huit pays européens, un citoyen sur quatre ferait confiance à l’Intelligence Artificielle pour prendre des décisions politiques. Un résultat surprenant qui peut glisser un léger froid dans le dos.

 

 

Yann Ferguson est docteur en sociologie à l’Icam (Toulouse), et chercheur associé au CERTOP. Lauréat 2018 de la Fondation des Sciences Sociales pour ses travaux sur les mutations du travail liées à l’Intelligence Artificielle, il est considéré par L’Usine Nouvelle parmi les 100 français qui font « avancer l’Intelligence Artificielle en France et dans le monde ». Yann Ferguson s’intéresse particulièrement à la relation entre les hommes et les outils : « En tant que sociologue, on est spontanément intéressé par des phénomènes qui peuvent relever des mutations. D’un côté, il y a ce qui fait changer les sociétés, c’est ce à quoi je m’intéresse. De l’autre côté, il y a les phénomènes de permanence : Pierre Bourdieu, par exemple, s’intéressait au fait que la société ne change pas. »

 

 

Dans une société de plus en plus automatisée se pose la question de la relation entre IA (Intelligence Artificielle) et politique. Il n’est alors pas surprenant que des citoyens puissent envisager un avenir algorithmique. « Il y a selon moi deux raisons au résultat de cette étude. La plus convenue, c’est qu’il y a une méfiance grandissante vis-à-vis de la classe politique, amenée par le sentiment que les motifs de leurs décisions sont plus guidés par des intérêts personnels que par l’intérêt général. Les gens peuvent avoir la sensation que l’élite politique gouverne pour d’autres élites, et à partir du moment où l’on n’a plus confiance envers les gens qui nous dirigent, on peut s’ouvrir à d’autres modalités de gouvernance » affirme Yann Ferguson. « La seconde raison, c’est la méconnaissance que les gens peuvent avoir de ce qu’est un algorithme. Le sens commun estime qu’un algorithme est neutre et que cette neutralité est la vertu dont n’est pas dotée la classe politique. Et lorsque l’on pense que l’algorithme est neutre et que la classe politique ne l’est pas, ce type de gouvernance paraît être une bonne solution » poursuit-il.

 

 

Néanmoins, une interrogation reste en suspens : des algorithmes, d’accord. Mais générés par qui ? L’étude qui stipule que 25% des Européens seraient prêts à laisser des programmes algorithmiques décider de la politique d’un État laisse un petit détail de côté : ce sont les Hommes qui génèrent et programment ces mêmes algorithmes. Cela changerait-il donc la donne en matière de politique ? « Un algorithme n’est pas neutre » rappelle Yann Ferguson. « Il a besoin de deux éléments. Il lui faut tout d’abord une base de données, qui est le passé. Il lui faut ensuite la définition du succès : on va lui dire ce qu’est un bon résultat. Et avec ces deux éléments, un algorithme ne peut pas être neutre. Le passé a une forte probabilité de se reproduire, puisque la définition du succès est dépendante de la catégorie de population qui le définit. Et les décideurs, sociologiquement, ont la même caractéristique que la classe politique. Un algorithme au pouvoir risquerait simplement de reproduire le monde imparfait que, justement, ces 25% d’Européens critiquent. C’est d’ailleurs ce que Cathy O’Neil explique en disant que si le monde était parfait, on pourrait imaginer que ce n’est pas si mal d’automatiser les décisions puisqu’elles reproduiraient ce succès. Mais ce n’est pas le cas aujourd’hui. »

 

 

« Je pense que c’est très compliqué, techniquement parlant, d’avoir un algorithme à la tête d’un État. C'est un énorme défi technique de faire un programme qui pourrait gérer plusieurs couches de règles » admet Yann Ferguson. « Dans l’armée, ils ont fait le test de gérer les paies des militaires par des algorithmes. Ça a été une catastrophe, ils n’ont soit pas été payés, soit trop. Alors, un algorithme qui prendrait des décisions politique, c'est encore plus complexe. On parlerait d’une intelligence générale qui aurait intégré beaucoup de sujets différents. Mais aujourd’hui, ce que l’on développe, ce sont des IA spécialisées et étroites : des outils très forts, certes, mais pour faire une tâche. Un algorithme qui serait capable de gérer toutes les données et de prendre la bonne décision serait une IA numérique. Et en ce qui concerne les IA numériques, il y a un problème d’explicabilité. Une décision est donnée, mais sans explication, et ce serait un problème en politique. Une démocratie non explicable, c’est un oxymore. »

 

 

Si le chiffre d’un Européen sur quatre peut paraître assez peu important, Yann Ferguson admet tout de même que ce résultat peut être, d’une certaine façon, inquiétant : « Il montre à quel point nous sommes suspicieux de la politique qui, du point de vue des gens, est totalement déshumanisée et désincarnée. Si la gouvernance européenne établissait une meilleure proximité et donc une meilleure perception des citoyens de ce qu’est la politique, il n’y aurait pas d’intérêt à aller vers l’algorithme. C’est aussi la manifestation évidente de la méconnaissance des algorithmes, alors même que ces algorithmes ont de plus en plus de prise sur nos vies. Maintenant qu’on est en train d’automatiser de plus en plus de choses, il est important que les gens aient une bonne connaissance du sujet. »

 

Ainsi, la politique algorithmique ne semble pas être envisageable dans un futur proche. Par ailleurs, si nous laissons les algorithmes nous guider dans plusieurs choix de la vie quotidienne, la lecture de cette étude montre tout de même que 75% des Européens ne seraient pas prêts à laisser des programmes informatiques prendre des décisions gouvernementales importantes. L’humain a sûrement encore de beaux jours devant lui.

 

Par Kenza Helal-Hocke.

Rechercher

×