Dafna Feinholz (Unesco) : « L’impact éthique des neurotechnologies doit être évalué a priori »
L’organisation des Nations unies pour l’éducation, la science et la culture (Unesco) a réuni du 22 au 26 avril dernier à Paris un groupe pluridisciplinaire de 24 experts issus de 24 pays de tous les continents, en vue d’élaborer le premier cadre mondial sur l’éthique des neurotechnologies. En exclusivité pour Pharmaceutiques, Dafna Feinholz, responsable de la bioéthique et de l’éthique des sciences et des technologies de l’Unesco, expose les enjeux liés à ces technologies et les objectifs de ce futur cadre.
Quel est le périmètre des « neurotechnologies » sur lesquelles travaille le groupe d’experts réuni par l’Unesco ?
Dafna Feinholz (Unesco) : On regroupe sous ce terme toutes les technologies qui permettent d’observer l’état ou l’activité physiologique du cerveau et plus largement du système nerveux en général, ou d’intervenir pour en modifier l’activité. Celles-ci interfèrent et se combinent avec d’autres technologies contemporaines, comme la science des données et l’intelligence artificielle, autorisant des applications au-delà du champ biomédical d’origine.
En quoi est-il urgent et nécessaire de créer un cadre éthique international autour de ces technologies ?
Si les usages biomédicaux sont régulés, les autres – dans le champ du marketing, des loisirs – ne le sont pas forcément, ou pas de la même manière. Or ces utilisations touchent à des questions fondamentales liées aux droits humains, que le croisement des technologies rend plus prégnantes. Des dérives ont déjà été observées. Prenons l’exemple des casques connectés permettant de réaliser des EEG à domicile, pour des exercices de relaxation : beaucoup d’entreprises qui les commercialisent n’ont aucune politique de protection des données, qui peuvent être cédées à d’autres acteurs, sans que les utilisateurs de ces produits en soient informés. De nombreux travaux sont menés pour tenter de « décoder la pensée » à partir de ce type d’enregistrement : ceci peut-il déboucher sur une manipulation de la prise de décision ? A l’avenir, l’inégalité de la répartition de la recherche et des ressources posera aussi un problème d’équité d’accès à ces outils. Nous devons aussi prévenir le risque de discrimination entre les personnes qui en bénéficieront ou non.
Certains pays ont-ils déjà proposé des cadres nationaux ?
Le Chili est le pays le plus avancé en la matière : dès 2021 il a introduit dans sa Constitution des dispositions visant à protéger, en plus de l’intégrité physique et mentale de ses citoyens, l’activité cérébrale et les données qui en découlent. En France, le ministère de l’Enseignement supérieur et de la Recherche a publié fin 2022 une charte de développement responsable des neurotechnologies, signée par des acteurs de la recherche académique et industrielle. Tout récemment, en avril dernier, l’Etat du Colorado aux Etats-Unis a modifié son Privacy Act pour élargir aux « données neuronales » sa définition des « données sensibles ». Et de nombreuses initiatives ont été prises ou sont en cours de discussion dans de nombreux pays dans le monde.
Quels sont les principaux axes qui sont ressortis de la première réunion du groupe d’experts de l’Unesco ?
Cette réunion a permis de poser comme fondement commun une évaluation a priori de l’impact éthique des technologies avant de les déployer, et une définition commune de cette approche d’évaluation éthique. L’ensemble des parties prenantes doit s’entendre sur les limites à poser, non pour empêcher l’innovation mais pour s’assurer que toute innovation respecte les droits humains. Une définition très large du champ d’application des neurotechnologies a été adoptée, avec un cadre adapté à chaque domaine : la recherche, la pratique clinique, l’usage individuel, la sphère professionnelle… et aussi en fonction des populations – par exemple pédiatriques. La nécessité a été reconnue de protéger les données, de préserver l’autonomie des personnes, de veiller au principe de justice, de s’opposer à toute discrimination et de refuser l’alignement sur un modèle dominant.
Quelles seront les prochaines étapes ?
Un premier document de travail sera publié début juin et soumis à la plus large consultation possible, via une plateforme en ligne, jusqu’à début juillet. Le groupe d’experts sera à nouveau réuni une semaine fin août, pour élaborer une version consolidée qui sera adressée aux dirigeants politiques des États membres de l’Unesco pour consultation jusqu’à fin 2024. Des négociations se dérouleront avec les gouvernements et les représentants des États membres tout au long de l’année prochaine, en vue d’une adoption définitive du cadre éthique fin 2025.
En quoi la recommandation de l’Unesco sur l’éthique de l’IA adoptée fin 2021 peut-elle inspirer ce nouveau cadre ?
Ces types de technologies peuvent être très liés. Par exemple l’IA est intégrée dans des interfaces cerveau-machine. Notre cadre sur l’IA a été un succès total : il a montré la pertinence de ce type d’instrument, qui propose des outils pratiques pour favoriser les politiques de mise en œuvre. La définition très large de l’IA incluant déjà l’IA générative et les développements futurs, ce cadre demeure toujours d’actualité. Avant de se pencher sur l’IA, la Commission mondiale d’éthique des connaissances scientifiques et des technologies (COMEST) de l’Unesco avait déjà travaillé sur la robotique et l’Internet des objets. Elle poursuit aujourd’hui ses activités sur l’ingénierie climatique, l’informatique quantique, la recherche astrobiologique, la biologie synthétique et la santé mentale.
Propos recueillis par Julie Wierzbicki
