Intelligence artificielle et horizon post-humain
![](https://www.unesco.ch/wp-content/uploads/2017/10/Communication_Chip-589x400.jpg)
Avec la convergence des nanotechnologies, des biotechnologies, de l’informatique et des sciences cognitives, nous sommes passés à l’ère du numérique et des technosciences. Poussée à l’extrême, la notion d’ergogénie – pour une amélioration artificielle des capacités humaines physiques et cognitives – laisse entrevoir un horizon d’êtres hybrides issus de l’électronique et du biologique. Utiliser des technologies à des fins non thérapeutiques, c’est considérer l’humain comme un système à améliorer pour créer une espèce plus performante. Mais l’humain doit-il être modifié, éventuellement augmenté, par la technique?
De plus, le risque que la transformation artificielle des capacités des personnes soit réalisée dans un cadre normatif imposé par des acteurs hégémoniques des technosciences et fervents défenseurs de l’ultralibéralisme n’est pas négligeable. Dès lors, l’individu pourrait se retrouver amputé de ce qui fait sa condition humaine, de sa personnalité, de ses forces et faiblesses. L’expression «humain augmenté» serait ainsi un abus de langage, car il s’agirait d’un humain transformé, standardisé, voire simplifié, mais surtout surveillé et contrôlé par les technosciences et les entités qui les maîtrisent.
A partir de quelle quantité de technologie ou degré d’intégration dans le corps peut-on encore définir un être comme humain? La frontière de la peau permet-elle de faire la différence dans l’hybridation du biologique et du technique? L’effraction corporelle est-elle nécessaire ou doit-on déjà considérer une personne dépendante aux objets technologiques et connectée en permanence comme un humain augmenté, un mutant ou un primitif du futur?
Il est urgent, hors des injonctions d’innovation et des discours messianiques, de débattre de ces questions afin de contribuer à la définition du bien commun, du bien vivre avec les technosciences sans en être esclave, afin d’être des acteurs responsables, capables de consentement éclairé traçant la voie d’un humanisme renouvelé au service des générations futures. Notre devenir ne doit pas être la résultante de logiques financière et de puissance hors de contrôle, ni dépendre de dictatures technico-économiques, celles-ci étant rarement synonymes de progrès social, politique et économique. Elles ignorent le principe de précaution et ont souvent pour corolaire la surveillance, la manipulation, le contrôle, la fin de la vie privée, du libre arbitre et de la démocratie.
Les sciences du vivant et de l’ingénierie posent des enjeux sociétaux et défis idéologiques pour le monde civil et militaire, comme c’est déjà le cas avec l’usage des drones tueurs qui pourraient, avec une certaine intelligence artificielle, devenir autonomes et décider de tuer hors de tout contrôle humain. Même s’il est difficile d’appréhender tous les risques à long terme engendrés par la prise de pouvoir des technologies et des acteurs licites et illicites qui les maîtrisent, ainsi que d’analyser les conséquences sur le fonctionnement de la société ou sur l’augmentation des inégalités, nous ne pouvons ignorer les questions d’ordre anthropologique, éthique, philosophique, politique et légal que génèrent notre dépendance croissance au numérique, aux systèmes d’intelligence artificielle et aux technosciences.
Solange Ghernaouti, membre de la Commission suisse pour l’UNESCO
- Plus de lecture: article dans « Le Temps », 22 août 2017