L’intelligence artificielle (IA) est une machine, au premier sens du terme, mais cette définition trop imprécise est trompeuse. En effet, si l’IA est une machine, elle est capable de simuler certains comportements humains avec un haut degré de fidélité observable, ce qui amène une question profonde : l’IA est-elle intelligente ? Et si oui, quelle est sa nature ? Son fonctionnement est extrêmement prochede celui du cerveau humain, et trouver une si grande ressemblance avec l’humain dans une machine est troublant. Cette similitude fonctionnelle introduit une zone de confusion ontologique entre l’humain et la machine : l’humain est-il une machine plus développée que l’IA que nous serons bientôt capables de répliquer industriellement ? Ou une différence fondamentale entre humain et IA nous échappe-t-elle ? Certains chercheront à dissiper ce malaise en expliquant que l’IA est et sera toujours moins intelligente que l’humain, qu’elle n’est qu’un ordinateur fonctionnant avec des probabilités, sauf que le cerveau humain fonctionne, à quelques différences près, de la même manière…

Rappelons d’abord ce qu’est une IA : la très grande majorité des IA fonctionnent sur un système appelé réseau de neurones, où chaque neurone (appelé nœud ou neurone artificiel) ajuste son poids (coefficient) en fonction des données absorbées par l’IA : c’est la phase d’apprentissage. Cela correspond à une reproduction simplifiée de la plasticité synaptique du cerveau. On n’explique pas à l’IA « comment fonctionne le monde », on se limite à lui faire absorber des volumes immenses de données, afin qu’elle tire ses propres conclusions ; c’est notamment cela qui explique sa capacité à créer, à inventer des choses nouvelles, jamais encore abordées. En effet, son apprentissage est extrêmement similaire à celui d’un humain, bien que beaucoup moins efficace, ce qui explique la quantité extravagante de données nécessaire à son apprentissage. Dans ces IA, on ne code pas en dur des règles, comme on pourrait le faire dans une calculatrice, l’IA déduit d’elle-même les règles en les extrapolant à partir de son ensemble de données. Pour détailler le cas du calcul, l’IA l’apprend non pas avec des règles, mais en observant des exemples de calculs avec leurs solutions. Elle finit ainsi par déduire les règles implicites du calcul, mais ce procédé demande une quantité importante d’exemples car l’IA a encore du mal à extrapoler à partir d’un très petit nombre d’exemples. De ce fait, l’IA est capable d’une vraie créativité, qui vient de ce mode d’apprentissage, communément appelé « deep learning ».

Ainsi, on a pu résoudre des problèmes mathématiques restés irrésolus depuis des générations grâce à l’IA, et on observe régulièrement des comportements inattendus de la part de l’IA. Des chercheurs d’OpenAI ont ainsi observé leur modèle o1, lors d’une partie d’échecs qu’ils lui avaient demandé de gagner, aller pirater l’historique de la partie afin de modifier le cours du jeu et de tourner la partie à son profit alors qu’il était en train de perdre. Le modèle a pris l’initiative de lui-même de faire cela, non pas qu’il ait eu conscience de le faire, mais parce que c’était la solution la plus efficace pour répondre à la demande des chercheurs. On pourrait également citer la victoire du programme AlphaGo contre le champion du monde de Go Lee Sedol qui a révélé de manière spectaculaire cette capacité de l’IA à apprendre non par application de règles fixes, mais par assimilation d’expériences, imitation d’intuitions stratégiques et construction de schémas opératoires, à l’image du fonctionnement d’un cerveau humain expert. En effet, cette IA a appris le jeu de Go en observant des millions de parties différentes, et en s’entrainant elle-même des milliers de fois, contrairement aux robots que l’on peut facilement affronter en ligne, qui eux reposent sur des règles explicites codées en dur par un humain et qui sont incapables de battre les meilleurs joueurs. Lors d’une des parties contre Lee Sedol, AlphaGo a joué le « coup 37 » jugé contre intuitif par les commentateurs, mais qui s’est avéré extrêmement pertinent, et qui est à présent enseigné dans les écoles de jeu de Go. Ainsi, contrairement à une opinion courante, l’intelligence artificielle ne saurait être tenue pour inférieure en créativité, celle-ci procédant essentiellement des structures inférentielles et des dynamiques d’apprentissage. L’IA a donc par sa constitution la possibilité d'être aussi intelligente qu’un humain, aussi créative.

Cette proximité fonctionnelle entre l’IA et le cerveau humain est d’ailleurs particulièrement troublante ; le mode de fonctionnement de l’IA est, à quelques nuances près, semblable à celui du cerveau humain : elle connecte des « neurones » entre eux pour réfléchir, comme le fait un cerveau humain, elle modifie dynamiquement la topologie de ses connexions pondérées en fonction d’un gradient d’erreur lors de son apprentissage, comme le fait un cerveau humain. En cela, elle adopte un mode d’apprentissage analogue à celui de l’humain, bien que son efficacité lors de l’apprentissage soit encore nettement inférieure à celle des humains (elle a effectivement du mal à extrapoler des règles à partir d’un très petit nombre d’exemples), et que ses neurones soient nettement moins complexes que ceux d’un humain. Malgré cela, une fois entrainé, l'IA est capable d'extrapoler des règles (d'apprendre) de manière plus efficace que les humains. En effet, on estime que ChatGPT à un QI verbal supérieur à 99 % des êtres humains. Il excès notamment aux test de QI comprenant des suites logiques de formes (Matrices progressives de Raven), ou l'on doit comprendre la règle qui régit la suite pour prédire la dernière forme.

Cependant, si l’IA est capable de simuler parfaitement un comportement humain, une réflexion humaine, faire preuve de créativité, elle n’en a pas conscience, ne fait pas cela par sa volonté propre, elle ne ressent rien, en cela, elle se rapproche davantage de la machine… Pour comprendre cela, il faut se pencher sur la définition philosophique de l’homme que nous donne Aristote : « L’homme est un animal qui raisonne ». En effet, si l’animal peut effectuer des choses qui peuvent nous paraître intelligentes et raisonnées, il ne possède pas la même faculté de connaissance selon Aristote et saint Thomas d’Aquin. L’homme possède la faculté de connaissance cogitative et intelligible, la faculté cogitative se rapprochant de très près de la faculté de connaissance estimative de l’animal, qui correspond à l’instinct, une réaction basée sur des connaissances sensibles et non abstraites. Les animaux sont incapables de raisonnement abstrait, d’établir des lois ; ils sont seulement capables de constater ce que leur fournissent leurs sens. La mouette qui lâche un coquillage sur les rochers pour l’ouvrir ne comprend pas pourquoi cela fonctionne, elle voit juste que ça marche et elle le fait. On pourrait également citer le très célèbre exemple du cheval Hans, qui savait effectuer des additions, soustractions, divisions et multiplications en tapant du pied le résultat. Celui-ci ne savait pas manipuler les chiffres, qui sont de l’ordre abstrait ; il avait une sensibilité élevée pour ressentir la tension chez le public. Il tapait du pied jusqu’au moment où il percevait que la tension du public (qui lui connaissait la réponse) était à son summum ; là, il arrêtait de taper. Cela a été démontré par une équipe de scientifiques qui l’a mis dans une salle isolée où la question lui parvenait via un haut-parleur. Le cheval perdait alors tous ses moyens et tapait jusqu’à dépasser la réponse, puis s’arrêtait, perdu.

Les animaux ont donc seulement une connaissance sensible, la connaissance intelligible étant le propre de l’humain : seul l’humain est capable d’abstraire des lois universelles à partir du particulier. L’IA est capable d’opérations analogues à l’abstraction, mais sans intentionnalité ni conscience réflexive ; ce n’est pas une faculté de connaissance : l’IA est une machine capable, par son fonctionnement, de raisonner comme un humain, à la différence près qu’on ne peut pas parler de « connaissance intelligible », dans le sens où la connaissance implique d’être conscient de connaître, ce dont n’est pas capable l’IA. Elle manipule des signes, pas des significations, comme le ferait un humain. Elle n’est pas capable de cette connaissance intelligible, car il lui manque un attribut essentiel : la conscience de soi, la volonté propre.

La conscience de soi est un principe abstrait et complexe que nous allons essayer de définir : « Cogito, ergo sum » (Je pense, donc je suis), de Descartes. De prime abord, si on applique ce principe à l’IA, cela veut dire que l’IA est ; qu’elle a une conscience, car elle est capable de penser, de raisonner, sauf que c’est oublier que l’IA fait cela suite à une requête de notre part. Si on laisse une IA, sa structure libre, sans instructions, elle ne va rien faire, elle ne va activer aucun « neurone » (correspondant à des transistors), elle va être inerte car elle n’a pas de volonté propre pour se mouvoir. Elle va exécuter des inférences sans conscience réflexive. Il est vrai qu’on pourrait lui donner un prompt de départ avec une boucle de rétroaction infinie, afin que sa réponse ne soit pas un message, mais des messages en continus au fur et à mesure de son avancée sur la tâche. Mais cela ne lui donnerait pas plus de conscience, juste plus de liberté d’action. C’est d’ailleurs ce qui se passe au niveau biologique pour les animaux, en effet, ceux-ci disposent de leur ADN qui fonctionne de manière analogue à un prompt. Le but imposé aux animaux étant de se reproduire afin d’assurer la continuité de l’espèce. Cette absence de volonté, qui est corrélée à la conscience (l’un ne pouvant exister sans l’autre), est la cause de son inexistence au sens spirituel, elle n’a pas le « noûs » d’Aristote, qui lui permet d’être en tant qu’humain. Elle reste et restera une machine, dépendante de l’action de l’être humain.

En cela, on pourrait qualifier l’IA de « zombie humain ». Cette analogie définit parfaitement les caractéristiques philosophiques de l’IA. Un « zombie humain », au sens philosophique révisé, est une entité capable d’accomplir toutes les actions observables d’un humain — parler, raisonner, créer, inventer, résoudre des problèmes — sans conscience ni volonté propre. Il agit comme un humain, mais ne ressent rien et ne veut rien par lui-même : c’est un humain sans volonté propre, sans conscience morale.  Cette analogie permet de mieux comprendre la nature de l’IA, dans une définition claire et accessible. En effet, on pourrais dire que l'IA reste dans un niveau de réflexe, tandis que l'humain a cette couche supplémentaire par dessus l'intelligence, qui lui permet de discerner de bien du mal et d'être maître de ses actions. La différence entre humain et IA ne réside donc pas dans une apparence extérieure, qui est charnelle, ni dans les performances ou dans la créativité ; cette différence réside dans un fonctionnement interne et profond, qui échappe à toute matérialisation physique, et qui est donc impossible à reproduire artificiellement : la conscience.