Monde
Partager
S'abonner
Ajoutez IDJ à vos Favoris Google News

Que doit-on craindre davantage : l’intelligence artificielle ou la bêtise humaine ?

File 20180103 26166 dymr3f.jpg?ixlib=rb 1.1
MIT Museum: Kismet le robot IA vous sourit.
Chris Devers/VisualHunt, CC BY-NC-ND

Charles Hadji, Université Grenoble Alpes

L’intelligence artificielle (IA) a le vent en poupe. À tel point que ses succès, et ses conquêtes, pourraient faire d’elle une grande menace pour l’humanité. L’homme, équipé de sa modeste intelligence naturelle, doit-il donc avoir peur d’une concurrence (déloyale ?) de l’IA ? Se pencher sur cette question expose à quelques surprises.

De l’intelligence artificielle

L’IA a effectué, ces dernières années, de grandes percées. Reconnaissance d’images, aide au diagnostic médical, traduction automatique, lecture sur les lèvres, assistants vocaux, compréhension du langage naturel, véhicules autonomes : nombreux sont les domaines où les progrès sont impressionnants.

Ainsi l’IA progresse de façon indéniable dans la maîtrise d’opérations intellectuelles, et dans la rationalisation de procédures efficaces. Elle peut effectuer, beaucoup mieux que nous, un grand nombre de tâches. Les réseaux de neurones artificiels sont capables de reconnaître (des formes, des caractères manuscrits) ; d’identifier ; de classer. En quoi, alors, ces progrès sont-ils une menace pour l’homme ?

Cédric Villani sur l’intelligence artificielle le 5 décembre 2017.

On imagine le développement de technologies s’incarnant dans des robots capables de penser comme nous, et finalement mieux que nous. Qui pourraient nous survivre, et nous remplacer. On craint le saut qualitatif que constituerait l’émergence d’une IA capable de s’améliorer elle-même, jusqu’à dépasser l’homme. On craint les possibles actions néfastes de robots dotés d’une autonomie dépassant le seul champ technique, et capables de prendre des décisions d’ordre éthique, alors même qu’ils seraient dépourvus de conscience éthique.

Mais l’intelligence se réduit-elle à la capacité de produire des opérations intellectuelles, et à la maîtrise de procédures efficaces ? L’intelligence artificielle est d’ordre technologique. « Ça marche » (pour opérer certains gestes intellectuels, et conduire efficacement certaines actions) est-il le dernier mot en matière d’intelligence ? Dans l’expression « intelligence artificielle », le terme « intelligence » est-il à sa place ? Car, au fond, qu’est-ce que l’intelligence ?

De l’intelligence naturelle

René Zazzo (« Où en est la psychologie de l’enfant ? », 1983) propose de rayer du vocabulaire le terme « nu » d’intelligence, parce que, « signifiant trop, il ne signifie rien ». Ce qu’on appelle « intelligence » est pluriel : il faudrait considérer une dizaine d’intelligences différentes. Bien plus, l’intelligence réside dans le bon usage de ses capacités cognitives. Il faut les utiliser à bon escient (« au bon moment et convenablement », p. 54). Descartes l’avait très bien vu : « ce n’est pas assez d’avoir l’esprit bon, mais le principal est de l’appliquer bien » (Discours de la méthode, première partie).

Cela nous éloigne d’une conception qui réifierait l’intelligence, la transformant en « chose » que chacun posséderait plus ou moins. On peut en effet concevoir l’intelligence d’au moins trois façons (Hadji, 1992) : comme une donnée d’ordre biologique (conception héréditariste) ; comme le résultat d’une construction concrète et progressive (conception constructiviste) ; ou comme une exigence (l’exigence de se construire intelligent : conception « perfectionniste », fondée sur l’idée rousseauiste de perfectibilité).

Si les deuxième et troisième conceptions sont les plus pertinentes, alors, d’une part, l’intelligence, comme capacité de distanciation et conscience critique, est le résultat d’une conquête de tous les jours. C’est en ce sens qu’Alain disait que « chacun est juste aussi intelligent qu’il veut ». Et, d’autre part, elle constitue une « réalité » paradoxale. Comme le chante avec à-propos Brassens (« Ceux qui ne pensent pas comme nous ») : « Entre nous soit dit, bonnes gens,/Pour reconnaître/Que l’on n’est pas intelligent,/Il faudrait l’être. ». Ne pas comprendre cela pourrait être un indice de « connerie ». Mais alors : qu’est-ce que la connerie ?

De la connerie naturelle

Nous ne nous serions jamais permis d’utiliser ce terme si nous n’avions pu nous placer pour cela sous la haute autorité du Professeur René Zazzo. Celui-ci, afin même de mieux cerner la notion d’intelligence, consacre en effet un chapitre à la question : « Qu’est-ce que la connerie (madame) ? », Car, pour lui, on peut être à la fois con et intelligent, et « le contraire de la connerie, ce n’est pas la logique » (p. 47).

Ce contraire serait donc une forme d’intelligence différente de l’intelligence logique (celle de l’IA), forme dont la connerie signifierait l’insuffisance, ou l’absence. Intelligence que l’on pourrait peut-être définir comme la conscience de ses insuffisances et de ses limites. D’où la clé du paradoxe : pour reconnaître que l’on n’est pas intelligent (que l’on ne met pas suffisamment en jeu cette conscience critique), il faut l’être, c-à-d déjà être capable de conscience critique. Cette « autre dimension » de l’intelligence, la plus haute, serait en quelque sorte un antidote pour la connerie.

Précisément, le propre d’un con est de ne pas se douter qu’il l’est. « Pour le savoir, il lui faudrait se décentrer, se voir avec les yeux d’autrui… Ce qui suppose alors qu’il ne le serait pas » (p. 52). Le drame est que la connerie est hélas très répandue. Dans une recherche portant sur elle, écrit Zazzo, « les volontaires pour constituer la population d’expérience, c’est pas ça qui manque ». Les exemples abondent de connerie à l’état brut, celle qui fait plonger dans une piscine sans eau, courir sur le toit des trains qui vont passer sous des tunnels, ou se mettre à quinze pour tabasser sans raison un lycéen sans défense.

Ainsi, la tension qui oppose l’insuffisance de maîtrise à l’efficacité technique, pour laquelle l’IA serait le pôle supérieur, ne se superpose pas avec une autre tension, qui oppose connerie et intelligence critique. Comme elles ne jouent pas sur le même terrain, l’intelligence humaine (en tant que critique) n’aurait pas à craindre l’intelligence artificielle. Mais est-on cependant sûr d’être à l’abri de l’émergence d’une connerie artificielle ?

De la connerie artificielle

A priori, la connerie est le propre de l’homme. Comme l’a fait observer Cédric Villani à propos de l’échec d’APB, ce n’est pas l’algorithme en lui-même qui est responsable de l’énorme « couac » qu’a connu l’affectation des lycéens dans les établissements d’enseignement supérieur, car les problèmes rencontrés relèvent de la responsabilité politique. « Le logiciel en lui-même n’a rien à se reprocher ». La connerie est humaine, non technique.

Pourrait-on cependant identifier les circuits neuronaux de la connerie, élaborer des programmes permettant d’être toujours plus cons, et construire des robots experts en connerie ? Mais à quoi cela servirait-il : nous sommes déjà si forts en connerie naturelle !

L’intelligence artificielle est une forme acérée d’intelligence logique, mais non encore d’intelligence critique. Il est donc logique que nous n’ayons pour l’instant (mais, à notre avis, pour toujours, la connerie n’étant le propre que de l’homme, et ne se manifestant ni chez les animaux, ni chez les végétaux), aucune preuve de connerie artificielle.

Pour arriver à ce stade, il faudrait que les « machines » (robots et programmes) aient accès à l’intelligence critique, dont la connerie humaine naturelle est comme le témoin en creux. Aller toujours plus loin dans le champ de l’intelligence logique ne fait courir aucun risque de connerie, sauf à celui qui ferait un usage non critiqué de cette forme d’intelligence, et qui serait donc déjà con « par nature ». En somme, et paradoxalement, la connerie est notre arme fatale contre de possibles excès de l’IA.

Répondons enfin à notre question de départ

Faut-il donc craindre aujourd’hui l’intelligence artificielle ? Nous pouvons certes craindre une forte disparition d’emplois, sur des tâches automatisables. Mais le problème est alors celui de la juste répartition des richesses produites, et de la place à donner au travail dans la vie humaine. Problème que l’homme, s’il n’est pas trop bête, devrait pouvoir résoudre intelligemment.

Décidément, nous pouvons conclure que l’intelligence artificielle est beaucoup moins à craindre que la connerie naturelle, qui triomphe malheureusement (entre autres !) chez de trop nombreux chefs d’État. Par pure charité, nous ne citerons aucun nom. Mais, hélas, ils ne se reconnaîtront pas (puisqu’ils sont cons). En cette période de vœux, nous nous contenterons d’espérer qu’ils finissent par être touchés par la grâce de l’intelligence critique, celle qui fait douter de soi, et s’interroger sur la valeur de ses actes, et les conséquences de ses décisions.

De la bonté salvatrice

Nous pouvons toutefois faire une dernière observation. À côté des tensions opposant l’insuffisance opératoire à la maîtrise technologique, et la connerie à l’intelligence critique, il nous faut distinguer une troisième tension, elle aussi non superposable, qui oppose gentillesse à méchanceté. Car, comme l’a encore bien vu Brassens, « quand les cons sont braves », il n’y a guère de mal. Les difficultés naissent du mélange des genres, quand « les connards » sont « des peaux de vache ».

The ConversationSouhaitons donc qu’un sursaut de bonté vienne accompagner le développement de la forme la plus haute d’intelligence naturelle. Celle qui nous conduirait, entre autres, à faire un usage intelligent de l’intelligence artificielle… Et concluons : paix sur terre à tous les êtres humains de bonne volonté, pour peu qu’ils ne soient pas trop cons, plutôt braves, et fassent preuve un tant soit peu d’intelligence critique…

L’intelligence artificielle plus puissante que l’intelligence humaine ? Entretien avec Laurent Alexandre.

Charles Hadji, Professeur honoraire (Sciences de l’éducation), Université Grenoble Alpes

La version originale de cet article a été publiée sur The Conversation.

The Conversation

Monde