Ethique scientifique en pratique (L')

Transcription

Agent conversationnel (00:00:00) :
Je suis Pepper. Tu veux faire un quizz avec moi ?

(00:00:03) :
Peut-on, au nom de la science, ignorer les dangers liés à l'intelligence artificielle, l'impact de la recherche sur l'environnement, ou encore négliger le bien-être animal ? Non, évidemment !
Le CNRS s'efforce donc de guider ses chercheurs face à ces défis, tout en préservant leur indépendance scientifique et leur intégrité professionnelle. D'autant que ces questions se posent avec une force inédite depuis les années 1990. Il y a eu à cette époque une prise de conscience qui n'était pas complètement nouvelle. On avait déjà connu ça, notamment avec l'expérimentation sur des êtres humains. Mais une prise de conscience de la nécessité pour les scientifiques de penser leurs responsabilités.

Pour encadrer la recherche, l'objectif est de définir des principes qui s'appliquent autant aux chercheurs eux-mêmes qu'aux objets de leurs travaux. Un chercheur responsable, il ne peut pas être ignorant des utilisations potentielles qui vont se faire de ses travaux. Et puis enfin, il y a les limitations de la recherche elle-même. Il se peut qu'à certains moments, il y ait des recherches qui posent problème. Ce ne sont pas les applications de la recherche, mais c'est la recherche elle-même. Peut-être parce que les expérimentations peuvent être dangereuses, ou peut-être parce que ce sont des directions sur lesquelles il vaut mieux ne pas poursuivre.

(00:01:13) :
Au coeur de cette réflexion, on trouve le comité d'éthique du CNRS, ou Comets, qui rend des avis sur des sujets très divers, liés à l'actualité scientifique. De plus en plus, le Comets mène des réflexions sur des questions qui n'auraient pas nécessairement été labellisées comme « éthiques » il y a quelques années. Je pense particulièrement à la question de savoir comment doivent, ou peuvent, se nouer des partenariats entre la recherche publique et les entreprises privées. Je pense à la question de la responsabilité des chercheurs face à la crise environnementale, à la manière dont ils peuvent s'exprimer dans les médias.

En 2024, l'attention du Comité a par exemple été attirée par une informaticienne sur les dangers liés aux intelligences artificielles, et en particulier aux agents conversationnels.

Agent conversationnel (00:01:59) :
Les interviews motivationnelles, c'est aider les personnes à changer de comportement, en vue de faire plus de sport ou mieux manger. Ou, ici, ça va être arrêter de boire ou au moins boire moins.
Participant (00:02:09) :
Je dirais 10 verres par jour, peut-être plus.
Agent conversationnel (00:02:11) :
C'est beaucoup. Comment te sens-tu après avoir bu une telle quantité ?
Participant (00:02:16) :
Je me sens un peu déprimé.
Agent conversationnel (00:02:18) :
Je suis désolée d'entendre ça, parlons-en. Comment s'est passée ta semaine ?

(00:02:20) :
Ce ne sont absolument pas des addictologues, ces personnages virtuels. Ici, on teste des modèles. Et surtout, ils ne sont absolument pas là pour substituer les médecins. Ce sont des modèles qui peuvent servir de support. Si tout d'un coup on a besoin de poser des questions... On a parfois besoin de poser des questions ou de dire quelque chose, mais vraiment pas pour remplacer. Il faut absolument être très ferme là-dessus.

(00:02:41) :
Le fait que ces interactions avec des participants fonctionnent, c'est que les humains vont attribuer des compétences telles qu'ils vont penser que le robot comprend ce que l'humain dit, comprend ses intentions, comprend son état affectif, alors que non, tout ça, c'est de la simulation.
De plus, si on a entraîné ces agents pour parler de changement de comportement vis-à-vis de l'alcool, on peut le faire pour plein d'autres domaines.

(00:03:15) :
Au premier plan des inquiétudes liées à cet essor des agents conversationnels, on trouve la crainte que ceux-ci répondent de fausses informations scientifiques ou politiques, qu'ils aident des utilisateurs à fabriquer des armes ou des agents pathogènes, ou encore qu'ils poussent certaines personnes au suicide. D'où la nécessité de poser des limites claires dès leur développement.

(00:03:42) :
Les réflexions et réglementations éthiques sont d'autant plus primordiales qu'elles touchent à des domaines sensibles comme l'éthique animale ou l'impact environnemental de la recherche.
En 2023, le Comité d'éthique du CNRS a par exemple rendu un avis qui a fait date sur ce qu'on appelle les campagnes d'opportunité. Alors, les campagnes d'opportunité, ce sont des mécanismes qui ont été mis au point voici maintenant plusieurs décennies par des chercheurs qui cherchaient à acquérir des données dans l'océan, dans des endroits où on manquait cruellement de données souvent. Et donc ils approchaient des opérateurs de navires de commerce pour installer des équipements à bord et récupérer de la donnée au cours du transit.
La question majeure qui s'est posée vis-à-vis de ces campagnes récemment, c'est la question de savoir si le coût environnemental de ces campagnes, notamment par l'impact qu'elles avaient sur les milieux, valait le bénéfice qu'on en retirait pour la recherche.

(00:04:42) :
Les considérations éthiques ont également un impact concret dans les laboratoires où les scientifiques n'ont pas d'autres choix que de travailler avec des sujets vivants, à commencer par les animaux.

Sarah Monard, doctorante à l'IPBS de Toulouse (00:04:54) :
On ne peut pas utiliser de modèle non-animal à l'heure actuelle sur mon projet. Donc, on est obligé de passer par la souris, ce qui nous permet d'avoir vraiment un système immunitaire complet et de pouvoir justement décortiquer tous les mécanismes, ce qu'on ne peut pas faire sur les échantillons humains.
Mais le recours aux animaux ne se fait que conformément à des règles édictées au sein de comités d'éthique et transposées ensuite dans la réglementation européenne. À défaut de pouvoir remplacer l'animal, on essaie de vraiment réduire au maximum le nombre d'animaux qu'on utilise. Donc on a optimisé des protocoles pour vraiment avoir un maximum de paramètres sur un seul animal, et on essaie de vraiment faire attention au bien-être de l'animal au maximum. On a des critères avec une grille, et quand on sait que l'animal risque de rentrer en souffrance, on arrête l'expérimentation.

(00:05:46) :
Au-delà de l'éthique animale, les scientifiques doivent sans cesse faire face à de nouvelles questions liées à l'émergence de nouveaux champs de recherche et de technologies capables de bouleverser nos vies. Des enjeux passionnants qui valent aux experts d'être de plus en plus sollicités par la communauté scientifique.
Les sujets, ils sont très nombreux : de la géo-ingénierie, c'est-à-dire le fait de développer des techniques et d'envoyer dans la stratosphère toute une série de substances pour contrer les effets du changement climatique, en passant par la neurobiologie, les neurobiotechnologies, l'édition des génomes... Enfin, 1000 questions qui effectivement nous conduisent à penser que les sujets ne manquent pas et qu'on a beaucoup de pain sur la planche.