L’IA peut-elle un jour devenir consciente ?

L’une des nombreuses questions que soulève actuellement le développement de l’IA est la suivante : l’IA pourrait-elle déjà être, ou bientôt devenir, consciente — tout comme nous ? C’est une question cruciale, car si les systèmes d’IA et les robots étaient conscients, alors ils disposeraient d’une agentivité, c’est-à-dire qu’ils pourraient faire des choix et prendre des décisions indépendamment de leurs programmeurs et de leurs utilisateurs. Et, bien sûr, ces choix et ces décisions pourraient être bénéfiques, mais ils pourraient aussi être nuisibles, et c’est précisément ce que certains d’entre nous redoutent : la perspective d’une IA se retournant contre l’humanité et engendrant par elle-même chaos et violence, selon ses propres termes.

Ce sujet a été abordé lors de la récente conférence Mind and Life à Dharamsala, en Inde, consacrée à l’esprit, à l’intelligence artificielle et à l’éthique.

J’ai trouvé les points de vue de Thupten Jinpa particulièrement éclairants. Il est le principal traducteur anglais du Dalaï-Lama depuis quarante ans et un érudit à part entière, titulaire d’un diplôme de Geshe et d’un doctorat de l’université de Cambridge, au Royaume-Uni. Il a créé l’Institute of Tibetan Classics, fondé le Compassion Institute, et écrit ou dirigé de nombreux ouvrages. Il est particulièrement bien placé pour comprendre à la fois les perspectives bouddhistes et occidentales, et lors de cette conférence, il s’exprimait tout spécialement du point de vue bouddhiste.

Le langage que nous utilisons

Avant même de parler de la conscience elle-même, Thupten Jinpa a expliqué que sa préoccupation immédiate concernant l’IA porte sur l’usage glissant du langage. Les mots que nous utilisons pour parler de l’IA et décrire son fonctionnement sont tous anthropomorphiques. Nous projetons inconsciemment notre humanité sur l’IA et en parlons « comme si elle était » vivante et consciente. Par exemple, nous parlons d’intelligence, de mémoire, d’intention et d’autonomie. Les agents conversationnels utilisent des pronoms à la première personne (« Je ne comprends pas votre question, merci de la reformuler ») et ils peuvent imiter les émotions et la perception humaines en prétendant comprendre ce que nous ressentons.

Une première étape importante consiste donc à prendre conscience de la manière dont nous nous comportons envers les systèmes d’IA, et des façons dont nous entrons en relation avec eux comme s’ils étaient humains. C’est une tendance tout à fait naturelle chez nous. Un enfant avec une poupée ou un ours en peluche fera de même. Et la question est assez complexe, car les êtres humains créent d’emblée ces systèmes à leur propre image. Ils parlent notre langue, ils engagent une conversation par questions et réponses exactement comme des humains le feraient entre eux. Et les choses se compliquent encore davantage lorsque nous créons des robots dotés de corps de forme humaine. L’illusion que nous avons affaire à une autre forme d’être humain est persuasive et, si nous n’analysons pas les choses avec soin, nous serons facilement entraînés dans ce qui est en réalité un nouveau monde d’illusion fabriqué par l’homme.

La conscience

Thupten Jinpa a souligné que la science de la conscience en est encore à ses débuts et que sa capacité à rendre compte de la conscience des systèmes d’IA est donc limitée. Il a plaidé avec force pour un changement d’approche. Nous ne devrions pas limiter nos explications aux paradigmes fixés par les idées occidentales dominantes sur la conscience, alors que d’autres systèmes — comme la pensée bouddhiste — ont tant à offrir sous la forme d’une conception plus vaste, plus profonde et plus complète de la conscience.

Il a identifié trois mots que nous devons explorer en lien avec ce sujet : awareness, consciousness et sentience.

La sentience est la capacité de ressentir. Plus précisément, le bouddhisme parle d’« êtres sensibles », définis comme des « êtres capables de ressentir la souffrance et la douleur ». La sentience est la ligne rouge que nous ne devrions jamais franchir dans notre manière de penser le statut des machines, a-t-il dit. Nous ne devrions jamais utiliser des mots et un langage attribuant une sentience aux machines lorsqu’elle n’est en réalité pas présente. Si nous sommes confus à ce sujet, nous finissons par devenir incapables de sentir la présence et les émotions de l’être humain assis à côté de nous. Nous finissons par déshumaniser les personnes parce que, à la racine, nous avons des difficultés à entrer en lien avec le ressenti en nous-mêmes. Si nous savions nous relier à notre propre capacité à ressentir, nous saurions que celle-ci n’est pas présente dans un système d’IA.

Jinpa n’a pas, à cette occasion, fait référence aux cinq agrégats, l’un des cadres bouddhistes les plus couramment utilisés pour décrire une personne. Les cinq facteurs qui, selon le point de vue bouddhiste, se réunissent pour former une personne sont : la matière, la sensation, l’idéation, les formations mentales et la conscience. Le deuxième agrégat, celui de la sensation, nous donne la tonalité affective liée à nos perceptions, nous indiquant si elles sont agréables, désagréables et douloureuses, ou simplement neutres. La capacité à ressentir les sensations est très importante, car elle réunit le corps et l’esprit dans une seule expérience.

Or, si nous appliquons ce modèle, il s’ensuit que seule une chose dotée d’un esprit peut faire l’expérience de sensations et de sentiments. Nous pourrions donc formuler certaines conclusions de cette manière. Premièrement, les systèmes d’IA n’ont pas, et ne peuvent pas avoir, de sentiments parce qu’ils n’ont pas d’esprit. Et deuxièmement, c’est précisément parce qu’ils n’ont pas d’esprit que nous observons que les systèmes d’IA ne ressentent pas.

En se référant aux travaux des philosophes indiens Dignaga et Dharmakirti, Jinpa a présenté trois aspects de la conscience : l’intentionnalité, la réflexivité et la subjectivité. L’intentionnalité est la simple capacité de connaître. La réflexivité renvoie à la conscience de soi, au fait de savoir que nous savons quelque chose au moment même où nous le savons. Et la subjectivité renvoie aux qualités de l’expérience, ce que les philosophes occidentaux appellent les qualia. Les ordinateurs possèdent l’intentionnalité de connaître des objets, mais il leur manque les deux autres aspects de la conscience. C’est sur cette base que nous pouvons affirmer que l’IA n’est pas consciente.

En fait, Jinpa a insisté sur le fait que les mots « IA » et « conscience » ne devraient jamais être employés ensemble !

Les états méditatifs de l’esprit

Les enseignements bouddhistes nous exhortent à développer nos capacités mentales par la méditation et, de fait, les expériences méditatives offrent un terrain riche pour comprendre l’esprit et la conscience. Grâce à différentes méthodes de méditation, les êtres humains peuvent renforcer des qualités mentales telles que la capacité d’attention, la clarté, l’empathie et la compassion. Dans la perspective bouddhiste, toutes ces qualités sont vitales pour l’épanouissement sain et complet de tout être humain — et, en l’occurrence, pour le développement sain de l’IA.

La compassion n’est pas seulement un sentiment empathique dans le bouddhisme. Elle peut être un point de vue à partir duquel nous regardons les choses, aussi bien qu’un ancrage moral, un principe directeur que nous appliquons dans l’action. Jinpa a soutenu que la compassion est le meilleur critère pour évaluer les développements de l’IA, et la meilleure garantie que ce qui est créé servira l’humanité au lieu de la fragiliser. Son importance ne saurait donc être exagérée.

À des stades avancés du chemin, le méditant peut faire l’expérience d’une pure luminosité dépourvue de contenu. On appelle parfois cela « la nature de l’esprit », l’esprit demeurant en lui-même sans contenu. Selon Jinpa, il est difficile d’imaginer qu’une telle expérience puisse être reproduite par une machine. Cela implique une limite à la possibilité que les machines puissent un jour devenir conscientes.

En comprenant ces trois aspects distincts de la conscience, nous pouvons voir plus clairement que la relation entre la conscience et les systèmes d’IA n’existe tout simplement pas. Nous serons moins emportés par la quantité impressionnante d’informations qu’ils détiennent, car nous savons que la réflexivité et la subjectivité y font défaut.

Ironiquement, l’une des conclusions ressorties des discussions du panel était que nous, utilisateurs de l’IA, avons besoin de nous sentir dotés d’agentivité vis-à-vis des systèmes d’IA ; nous avons besoin de nous sentir capables de les utiliser pour obtenir les meilleurs résultats et de ne pas craindre de devenir des marionnettes ou des victimes de systèmes auxquels nous imaginons qu’ils possèdent eux-mêmes une agentivité. En d’autres termes, nous avons besoin de trouver confiance et force dans notre humanité et dans l’intelligence unique que nous, humains, possédons, puis de développer nos récits à partir de ce point de vue. La pratique bouddhiste peut réellement contribuer à cette réflexion à cet égard. Les bouddhistes peuvent considérer l’existence de l’IA comme une occasion remarquable d’approfondir la compréhension mondiale de ce que signifie être humain au sens le plus profond.

Si vous avez un point de vue sur ce sujet, je serais heureux de vous lire dans les commentaires.