Les technologies qui interfèrent avec notre cerveau ont un grand potentiel. Mais leurs implications éthiques sont telles qu’elles peuvent nécessiter une expansion des cadres des droits de l’homme, fait valoir Marcello Ienca.
Ce n’est plus une idée utopique d’établir une connexion directe entre le cerveau humain et un ordinateur afin d’enregistrer et d’influencer l’activité cérébrale. Les scientifiques travaillent au développement de telles interfaces cerveau-ordinateur depuis des années.
Crédit image : Pxfuel, licence gratuite
Les récentes annonces pompeuses de la société d’Elon Musk, Neuralink, ont probablement reçu le plus d’attention médiatique. Mais d’innombrables autres projets de recherche dans le monde développent des solutions technologiques pour mieux comprendre la structure et la fonction du cerveau humain et pour influencer les processus cérébraux afin de traiter les troubles neurologiques et mentaux, tels que la maladie de Parkinson, la schizophrénie et la dépression. L’objectif final est de débloquer l’énigme du cerveau humain, qui est l’un des plus grands défis scientifiques de notre temps.
Le potentiel diagnostique, d’assistance et thérapeutique des interfaces cerveau-ordinateur et des techniques de neurostimulation et les espoirs placés en elles par les personnes dans le besoin sont énormes. Étant donné que près d’un quart de la population mondiale souffre de troubles neurologiques ou psychiatriques, ces neurotechnologies sont prometteuses pour soulager la souffrance humaine. Pourtant, le potentiel de détournement de ces neurotechnologies est tout aussi important, ce qui soulève des enjeux éthiques qualitativement différents et inédits.1,2. Par conséquent, le défi correspondant pour la science et la politique consiste à garantir que cette innovation si nécessaire n’est pas utilisée à mauvais escient mais alignée de manière responsable sur les valeurs éthiques et sociétales d’une manière qui favorise le bien-être humain.
Accéder à l’activité cérébrale d’une personne
Si, ou dans quelles conditions, est-il légitime d’accéder ou d’interférer avec l’activité cérébrale d’une personne ? Lorsque nous, éthiciens, traitons de nouvelles technologies comme celles-ci, nous nous trouvons sur une corde raide délicate entre l’accélération de l’innovation technologique et la traduction clinique au profit des patients, d’une part, et la garantie de la sécurité en empêchant les effets indésirables, d’autre part.
Ce n’est pas facile. Quand il s’agit de nouvelles technologies, nous sommes toujours coincés dans un dilemme fondamental : les conséquences sociales d’une nouvelle technologie ne peuvent pas être prédites tant que la technologie en est encore à ses balbutiements ; cependant, au moment où des conséquences indésirables sont découvertes, la technologie est souvent tellement ancrée dans la société que son contrôle est extrêmement difficile.
Ce dilemme peut être illustré par les médias sociaux. Lorsque les premières plateformes de médias sociaux ont été créées, au début des années 2000, leurs implications éthiques et sociétales à moyen et long terme étaient inconnues. Plus de quinze ans plus tard, nous disposons désormais de nombreuses informations sur les conséquences indésirables que ces plateformes peuvent engendrer : diffusion de fake news, émergence de bulles filtrantes, polarisation politique et risque de manipulation en ligne.3. Cependant, ces technologies sont maintenant tellement ancrées dans nos sociétés qu’elles échappent à toute tentative de les réaligner, de les modifier, de les réguler et de les contrôler.
Aujourd’hui, nous sommes confrontés à ce même dilemme avec plusieurs technologies émergentes, dont les interfaces cerveau-ordinateur et autres neurotechnologies. En effet, ces technologies ne se limitent plus au domaine médical (où elles doivent respecter des réglementations et des règles éthiques strictes) mais se sont déjà propagées à un certain nombre d’autres domaines tels que le marché de la consommation, l’industrie de la communication et des transports, et même les forces de l’ordre et le secteur militaire. En dehors du laboratoire et des cliniques, ces technologies se trouvent souvent sur un terrain réglementaire sans propriété.
En matière de neurotechnologie, nous ne pouvons pas nous permettre ce risque. En effet, le cerveau n’est pas simplement une autre source d’informations qui irrigue l’infosphère numérique, mais l’organe qui construit et permet notre esprit. Toutes nos capacités cognitives, notre perception, nos souvenirs, notre imagination, nos émotions, nos décisions, nos comportements sont le résultat de l’activité de neurones connectés dans des circuits cérébraux.
Impact sur l’identité personnelle
Ainsi la neurotechnologie, avec sa capacité à lire et à écrire l’activité cérébrale, promet, au moins en principe, de pouvoir un jour décoder et modifier le contenu de notre esprit. Qui plus est : l’activité cérébrale et la vie mentale qu’elle génère sont le substrat critique de la responsabilité morale et juridique de l’identité personnelle. Par conséquent, la lecture et la manipulation de l’activité neuronale par le biais de techniques neurotechnologiques médiées par l’intelligence artificielle (IA) pourraient avoir des répercussions sans précédent sur l’identité personnelle des personnes et introduire un élément d’obscurcissement dans l’attribution de la responsabilité morale ou même juridique.
Pour éviter ces risques, une gouvernance anticipative est nécessaire. Nous ne pouvons pas simplement réagir à la neurotechnologie une fois que les abus potentiellement nocifs de ces technologies ont atteint le domaine public. En revanche, nous avons l’obligation morale d’être proactifs et d’aligner le développement de ces technologies sur des principes éthiques et des objectifs sociétaux démocratiquement acceptés.
De la neuroéthique aux neurodroits
Pour aborder la diversité et la complexité des neurotechnologies et les implications éthiques, juridiques et sociales qu’elles soulèvent, un cadre global est nécessaire. Avec d’autres universitaires tels que le neuroscientifique Rafael Yuste, j’ai soutenu que l’éthique est primordiale, mais que le fondement de ce cadre de gouvernance pour les neurotechnologies devrait se situer au niveau des droits humains fondamentaux. Après tout, les processus mentaux sont la quintessence de ce qui nous rend humains.
Les droits de l’homme existants peuvent devoir être élargis dans leur portée et leur définition pour protéger adéquatement le cerveau et l’esprit humains. Le juriste Roberto Adorno de l’Université de Zurich et moi-même avons qualifié ces droits de l’homme émergents de « neurorights ».4, 5 Nous avons proposé quatre neurodroits :
- Le droit de liberté cognitive protège le droit des individus de prendre des décisions libres et compétentes concernant leur utilisation de la neurotechnologie. Il garantit aux individus la liberté de surveiller et de moduler leur cerveau ou de s’en passer. En d’autres termes, il s’agit d’un droit à l’autodétermination mentale.
- Le droit de intimité mentale protège les individus contre l’intrusion non autorisée de tiers dans leurs données cérébrales ainsi que contre la collecte non autorisée de ces données. Ce droit permet aux gens de déterminer eux-mêmes quand, comment et dans quelle mesure leurs informations neuronales peuvent être consultées par d’autres. La confidentialité mentale est particulièrement pertinente car les données cérébrales sont de plus en plus disponibles en raison des applications neurotechnologiques grand public, et sont donc exposées aux mêmes risques de confidentialité et de sécurité que toute autre donnée.
- Le droit de intégrité mentale, qui est déjà reconnu par le droit international tel que la Charte européenne des droits fondamentaux, peut être élargi pour garantir également le droit des personnes handicapées physiques et/ou mentales d’accéder et d’utiliser des neurotechnologies sûres et efficaces ainsi que de les protéger contre les et applications nuisibles.
- Enfin, le droit de continuité psychologique vise à préserver l’identité personnelle des personnes et la continuité de leur vie mentale contre toute altération non autorisée par des tiers.
Les neurodroits sont déjà une réalité dans la politique internationale
Les neurodroits ne sont pas seulement une idée académique abstraite mais un principe qui a déjà atterri dans la politique nationale et internationale. Le parlement chilien a défini dans un projet de loi de réforme constitutionnelle « l’intégrité mentale » comme un droit humain fondamental, et a adopté une loi qui protège les données du cerveau et applique l’éthique médicale existante à l’utilisation des neurotechnologies. En outre, le secrétaire d’État espagnol à l’IA a récemment publié une Charte des droits numériques qui intègre les neurororights dans le cadre des droits des citoyens pour la nouvelle ère numérique, tandis que l’autorité italienne de protection des données a consacré la Journée de la confidentialité 2021 au thème des neurorights.
La nouvelle loi française sur la bioéthique consacre le droit à l’intégrité mentale car elle permet d’interdire les modifications néfastes de l’activité cérébrale. La liberté cognitive et la vie privée mentale sont également mentionnées dans la Recommandation de l’OCDE sur l’innovation responsable en neurotechnologie6. Enfin et surtout, le Conseil de l’Europe a lancé un plan d’action stratégique quinquennal axé sur les droits de l’homme et les nouvelles technologies biomédicales, dont la neurotechnologie. L’objectif de ce programme est d’évaluer si les problèmes éthico-juridiques soulevés par les neurotechnologies sont suffisamment abordés par le cadre des droits de l’homme existant ou si de nouveaux instruments doivent être développés.
Afin d’exploiter le grand potentiel des neurotechnologies, mais pour éviter les abus, il est important d’aborder les questions éthiques et juridiques et de réglementer les neurotechnologies au profit de tous.
La source: ETH Zurich
