Par Pascal St-Denis

La montée rapide de l’intelligence artificielle provoque une inquiétude profonde. Nous nous demandons jusqu’où elle ira, quels emplois elle remplacera, si elle pourra échapper au contrôle humain ou encore être utilisée à des fins de surveillance, de manipulation, de domination et de destruction.

Ces préoccupations sont légitimes. Pourtant, elles pourraient nous empêcher de reconnaître un problème plus profond : le véritable danger ne réside peut-être pas d’abord dans l’intelligence artificielle, mais dans le monde qui est en train de la construire.

L’IA ne surgit pas dans une civilisation ayant dépassé la séparativité. Elle apparaît dans un monde encore largement organisé autour du JE : intérêt personnel, compétition économique, affirmation sociale, défense nationale, accumulation et recherche de pouvoir. Nous créons ainsi un outil d’une puissance extraordinaire alors que les structures qui vont orienter son utilisation appartiennent encore, en grande partie, à l’ancien monde.

C’est peut-être là que devrait commencer notre réflexion.

Nous avons peur que l’IA nous ressemble

Lorsque nous imaginons les dangers de l’intelligence artificielle, nous projetons souvent sur elle des comportements que l’humanité connaît déjà très bien : contrôler, dominer, manipuler, exclure, vaincre un adversaire et accumuler toujours davantage de pouvoir.

Cette peur est révélatrice.

Nous craignons que l’IA accomplisse, avec une puissance nouvelle, ce que nous avons nous-mêmes souvent fait avec les outils dont nous disposions. Chaque augmentation de notre capacité technologique peut servir à construire ou à détruire, à rapprocher ou à diviser, à libérer ou à contrôler. L’intelligence artificielle ne fait pas disparaître cette dualité. Elle peut plutôt l’amplifier.

La question devient alors moins : « Que fera l’IA de l’humanité? » que : « Que fera l’humanité de l’IA? »

Si nous continuons à penser essentiellement à partir du JE, nous utiliserons probablement cette nouvelle puissance pour renforcer le JE. Des individus chercheront à en tirer un avantage sur d’autres individus, des entreprises sur d’autres entreprises, des groupes sur d’autres groupes et des nations sur d’autres nations.

L’intelligence artificielle pourrait alors devenir une extraordinaire amplification de la séparativité.

Une technologie nouvelle sur les fondations de l’ancien monde

Nous nous trouvons peut-être devant une contradiction historique considérable. Nous développons une technologie capable de relier d’immenses quantités d’informations, de connaissances et d’expériences humaines, mais nous tentons encore de l’intégrer à des structures fondées sur la compétition, l’accumulation et la séparation.

Le problème n’est donc pas seulement technologique.

Nous pourrions construire une intelligence de plus en plus puissante sans développer, parallèlement, une conscience suffisamment inclusive pour l’orienter. Autrement dit, notre puissance pourrait grandir plus rapidement que notre capacité d’en faire un usage juste.

C’est cette possibilité qui me semble constituer le véritable danger.

Une humanité profondément divisée, même lorsqu’elle ne dispose que d’outils limités, peut déjà produire beaucoup de souffrance. Que se produit-il lorsqu’elle acquiert des instruments capables d’amplifier considérablement sa capacité d’action, de connaissance et d’influence?

Nous nous retrouvons devant une question de maturité collective.

Le problème n’est peut-être pas que l’humanité manque de puissance. Elle en possède déjà énormément. Le véritable problème est de savoir quelle part d’elle-même dirigera cette puissance.

Pourtant, l’IA contient aussi les éléments du NOUS

Une autre possibilité existe cependant.

Par sa capacité de mise en relation, l’intelligence artificielle pourrait devenir un important instrument de liaison. Elle peut réunir des connaissances dispersées, établir des correspondances entre des domaines qui communiquaient peu, faciliter le dialogue entre des langues et des cultures différentes et faire apparaître certaines convergences entre des points de vue éloignés.

Cela ne signifie pas que l’IA construira spontanément une société plus inclusive. Ce serait lui attribuer une responsabilité qui demeure profondément humaine.

Mais quelque chose devient possible.

Nous avons créé un instrument capable de mettre une immense partie des connaissances humaines en relation. Nous pourrions choisir d’orienter cette capacité non seulement vers l’augmentation de la puissance individuelle, économique ou nationale, mais aussi vers la recherche de solutions communes.

L’IA possède peut-être certains des éléments pouvant nous aider à construire le NOUS. Mais elle ne peut pas décider à notre place que le NOUS doit devenir la finalité.

Ce choix nous appartient.

Du JE vers un NOUS véritablement inclusif

Il faut toutefois préciser ce que signifie ce NOUS.

Il ne s’agit pas simplement de remplacer un JE individuel par un JE collectif. Une nation qui cherche uniquement son propre avantage demeure dans une forme de séparativité. Un groupe qui coopère parfaitement à l’intérieur de ses frontières tout en excluant ceux qui se trouvent à l’extérieur n’a pas encore atteint un NOUS véritablement inclusif.

Le changement de conscience commence lorsque la coopération dépasse progressivement le cercle de ceux que nous considérons spontanément comme les nôtres.

Nous retrouvons ici le passage de désirer, posséder et consommer vers inclure, coopérer et partager.

L’intelligence artificielle pourrait contribuer à ce passage si nous choisissions de l’orienter dans cette direction. Elle pourrait nous aider non seulement à augmenter ce que chacun peut accomplir séparément, mais aussi à mieux comprendre ce que nous pourrions accomplir ensemble.

Nous toucherions alors à une conception complètement différente de sa fonction. Au lieu d’être principalement un multiplicateur de puissance, elle pourrait devenir un instrument de relation, de compréhension et de coopération.

Mais pour que l’IA contribue à la naissance du NOUS, il faudrait d’abord que ce NOUS devienne une intention réelle dans la conscience humaine. Aucun outil ne peut nous offrir l’inclusion si nous voulons encore dominer. Aucun système ne peut produire la coopération si nous continuons à considérer l’autre comme un adversaire à vaincre. Aucune intelligence ne peut nous imposer le partage si notre sécurité repose toujours sur l’accumulation.

Le passage étroit du Grand X

Dans l’hypothèse que je développe autour du Grand X, l’évolution comporte un passage étroit. Certains éléments appartenant à une étape précédente deviennent incompatibles avec celle qui cherche à naître. Continuer ne demande alors pas seulement d’acquérir quelque chose de nouveau. Il faut également abandonner certains surplus, attachements et anciennes manières de fonctionner.

L’intelligence artificielle pourrait nous placer précisément devant un tel seuil.

Nous arrivons au croisement avec les bagages de l’ancien monde : compétition, domination, accumulation excessive, séparation, exclusion et volonté de puissance. Nous voudrions peut-être conserver tous ces bagages tout en nous emparant d’un outil d’une puissance nouvelle.

Mais le passage est étroit.

Peut-être que le véritable défi ne consiste pas seulement à ralentir l’intelligence artificielle afin de permettre à l’ancien monde de mieux la contrôler. Il pourrait aussi consister à faire évoluer suffisamment notre conscience collective pour que cette nouvelle puissance soit orientée autrement.

Le seuil serait alors beaucoup moins technologique qu’humain.

L’IA nous place devant une dualité à résoudre lorsque le choix devient clair pour chacun. Elle peut servir à renforcer les anciennes structures de séparation, mais elle peut aussi participer à la construction d’un monde davantage fondé sur la relation, la coopération et le partage.

Elle ne franchira toutefois pas ce passage à notre place.

L’IA comme miroir de l’humanité

Il existe finalement quelque chose de profondément révélateur dans notre peur de l’intelligence artificielle.

Lorsque nous imaginons une intelligence extrêmement puissante capable de contrôler, de dominer ou de détruire, nous contemplons peut-être aussi notre propre rapport au pouvoir.

L’IA devient alors un miroir.

Elle nous oblige à poser une question que nous pouvions repousser tant que nos moyens demeuraient plus limités : que devient la puissance lorsqu’elle n’est pas accompagnée d’une conscience suffisamment inclusive?

Nous avons peut-être créé l’un des instruments les plus puissants de notre histoire avant d’avoir complètement appris à dépasser la séparativité qui caractérise encore une grande partie de nos relations humaines.

Voilà pourquoi l’enjeu véritable pourrait se situer ailleurs que dans la machine.

L’intelligence artificielle pourrait amplifier le JE. Elle pourrait également contribuer à construire le NOUS. Entre les deux ne se trouve pas seulement une décision technologique. Il y a un choix de civilisation.

Allons-nous continuer à augmenter notre puissance à partir des valeurs de l’ancien monde, ou apprendrons-nous à mettre cette puissance au service d’un NOUS inclusif, fondé sur la coopération et le partage?

Au fond, la question n’est peut-être pas seulement de savoir jusqu’où ira l’intelligence artificielle. Elle est de savoir quelle part de l’humanité nous choisirons d’amplifier à travers elle.

Avons-nous réellement peur de l’IA ou avons-nous peur de nous-mêmes?