Mon œil, une série de billets signés Mathieu-Robert Sauvé

La Déclaration de Montréal pour un développement responsable de l’intelligence artificielle, lancée la semaine dernière dans la métropole québécoise, passera-t-elle à l’histoire comme la Déclaration d’Helsinki sur l’expérimentation avec des êtres humains ou le moratoire de la Conférence d’Asilomar sur les recherches en génétique? C’est certainement le souhait des organisateurs qui n’ont pas lésiné sur les moyens de mettre à contribution le plus de citoyens possible dans le cadre de la « coconstruction » de cet énoncé. Quelque 550 personnes y ont travaillé de près ou de loin, ce qui a été souligné par la revue Nature dans son édition du 10 décembre.

La déclaration compte dix principes qui doivent guider l’évolution de l’IA : le bien-être, le respect de l’autonomie, la protection de l’intimité et de la vie privée, la solidarité, la participation démocratique, l’équité, l’inclusion de la diversité, la prudence, la responsabilité et le développement soutenable. Chaque principe s’accompagne de quatre à dix points qui viennent préciser les balises éthiques des auteurs.

La lecture attentive des textes demande un effort soutenu. Il est presque impossible de résumer les grandes lignes de cette déclaration sauf pour dire que la machine intelligente doit être au service du bien, non du mal (on s’y attendait un peu). La Déclaration s’ouvre même sur un avant-propos qui enseigne comment la « lire ». On précise que les principes appliqués au développement technologique du numérique et de l’IA demeurent « généraux et abstraits ». Et bien qu’ils soient présentés sous forme de liste, ces principes ne sont pas hiérarchisés. « Le dernier principe n’est pas moins important que le premier. »

On est loin des trois lois de la robotique d’Isaac Asimov : « Un robot ne peut porter atteinte à un être humain ni, en restant passif, permettre qu’un être humain soit exposé au danger »; « Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi »; « Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi ».

Helsinki et Asilomar

Lorsque des chercheurs ont lancé la Déclaration d’Helsinki, en 1964, les membres de l’Association médicale mondiale voulaient que cessent les expérimentations abusives avec des sujets humains. C’étaient des médecins qui lançaient un cri d’alarme. Celui-ci a été entendu. La Déclaration a pavé la voie à la notion de consentement, sans lequel aucune recherche clinique sur les humains ne serait financée aujourd’hui dans les pays d’Occident.

Pour le moratoire d’Asilomar, une urgence similaire s’imposait. On découvrait, en 1975, les vertigineuses possibilités médicales et industrielles des manipulations génétiques. Quand Paul Berg (futur Nobel de chimie) réalisa qu’il pouvait insérer un gène cancérigène dans la bactérie E. Coli, il fut pris de panique et convoqua une grande rencontre qui permit de ralentir la machine techno-scientifique déjà lancée dans les OGM. La communauté scientifique convenait de s’arrêter pour réfléchir à la suite des choses. La conférence tenue à huis clos dans un centre de Californie (Asilomar Conference grounds) permit de fixer un cadre de précaution autour de la manipulation du vivant.

L’industrie mondiale de l’IA meurtrière – où les forces armées ont investi des sommes colossales – fabrique déjà des robots tueurs. Les quelque 550 citoyens signataires de la Déclaration n’auront aucun pouvoir sur les gestes posés dans les laboratoires. Mais l’exercice leur aura permis de se mêler de science, ce qui est essentiel au 21e siècle. Comme pour la politique ou l’économie, on doit s’en occuper avant qu’elle s’occupe de nous.

Journaliste et auteur, Mathieu-Robert Sauvé a signé des textes dans une quinzaine de publications dont L’actualité, Le Devoir, La Presse et Québec science et publié des essais et biographies chez Boréal, VLB, Québec Amérique, XYZ et MultiMondes. Il a remporté plusieurs prix de journalisme et d’écriture. Reporter à Forum de l’Université de Montréal depuis 1988 et rédacteur en chef du magazine Les diplômés, de 2015 à 2017, il a été chroniqueur scientifique aux émissions L’après-midi porte conseil, La nuit qui bat et Médium large à la Première chaîne de Radio-Canada, et blogueur à l’Agence Science-Presse. Il a présidé l’Association des communicateurs scientifiques du Québec de 2008 à 2012 et participé à de nombreux jurys.

Le nom de sa série de billets chez MultiBlogues, Mon œil, fait allusion à son regard sur l’actualité, mais c’est aussi l’expression du scepticisme nécessaire.