Musk, Bengio et un millier d’experts demandent une pause de six mois

PAR: KARIM BENESSAIEH, LA PRESSE

Chat GPT-4 a été l’étincelle. Convaincus que ces robots conversationnels peuvent présenter de « graves risques pour la société et l’humanité », plus d’un millier de personnalités connues et d’experts de l’intelligence artificielle (IA), notamment Yoshua Bengio et Elon Musk, demandent une pause de six mois dans la recherche.

Leur but : s’assurer que le développement de cette technologie soit supervisé et mené pour le bien de la société.

Ralentir la course

Dans une pétition initiée par le Future of Life Institute publiée ce mercredi et comportant 1124 signatures au moment d’écrire ces lignes, on dénonce le fait que les laboratoires d’IA se sont lancés au cours des derniers mois dans « une course incontrôlée pour développer et déployer des systèmes d’IA toujours plus puissants, que personne, pas même leurs créateurs, ne peut comprendre, prédire ou contrôler de manière fiable. »

Le PDG de Tesla Elon Musk, le cofondateur d’Apple Steve Wozniak et le cofondateur de Pinterest Evan Sharp figurent notamment dans la liste. Musk a déjà qualifié l’IA en 2014 de « plus grande menace existentielle » pour l’humanité

« On a vraiment fait des progrès extraordinaires en IA dans les dernières années, a déclaré Yoshua Bengio, une sommité montréalaise considérée comme un des trois parrains de l’apprentissage profond à la base de robots comme Chat GPT, lors d’un webinaire avec des journalistes. C’est un potentiel bénéfique énorme et ça fait peur : je ne crois pas que la société soit prête à faire face à cette puissance. Il faut donc prendre le temps d’étudier, de ralentir cette course commerciale. »

Encore plus puissant

C’est l’arrivée en novembre dernier de Chat GPT-3,5, un robot conversationnel qui simule d’une façon inédite le langage, qui a été l’élément déclencheur de cette initiative. Le lancement récent de la version 4,0 encore plus performante fait craindre une perte de contrôle de systèmes d’IA encore plus puissants. « Nous avons des outils qui sont essentiellement capables de maîtriser le langage, et le langage est la clé du fonctionnement de nos sociétés, explique M. Bengio. Ces outils peuvent être utilisés pour influencer et manipuler les gens […] Et ça va aller en s’améliorant. »

M. Bengio n’en est pas à sa première intervention sur ce thème, lui qui a notamment été un des instigateurs de la Déclaration de Montréal pour une IA responsable en 2018.

La pétition en quatre questions

Les signataires de la pétition posent quatre questions essentielles qui devraient guider la recherche :

• « Devrions-nous laisser les machines inonder nos canaux d’information, de propagande et de mensonges ? »
• « Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? »
• « Devrions-nous développer des esprits non humains qui pourraient un jour être plus nombreux et plus intelligents que nous, nous rendre obsolètes et nous remplacer ? »
• « Devrions-nous risquer de perdre le contrôle de notre civilisation ? »

Pour Max Tegmark, président du Future of Life Institute, la préoccupation première devrait être de défendre la démocratie. « L’idée de démocratie est fondamentale, c’est celle que nous les humains pouvons prendre nos décisions, a-t-il expliqué lors du webinaire ce mercredi. Et ça ne marche pas si les gens ne vivent pas dans la même réalité mais dans plusieurs réalités parallèles […] Le pire scénario serait que les humains perdent de plus en plus le contrôle sur leur société. »

Appel à la « bonne IA »

Les instigateurs de la pétition le précisent d’emblée, il ne s’agit pas de demander l’arrêt de toute recherche sur l’IA. « C’est l’une des technologies les plus puissantes que l’humanité ait jamais développées, qui peut engendrer la prospérité, nous aider à lutter contre les changements climatiques, soigner, explique Emilia Javorsky, directrice au Future of Life Institute. Nous devons éviter les errements catastrophiques, qui ruineraient le potentiel de l’IA. »

Parallèlement, on lance un appel à la collaboration avec les décideurs politiques pour établir une gouvernance de l’IA. On souhaite notamment la mise sur pied de nouvelles autorités réglementaires, la surveillance des systèmes d’IA hautement performants, des conventions pour pouvoir distinguer « le réel du synthétique » et un système d’audit et de certification.

Le Canada a fait « un excellent pas dans la bonne direction », estime M. Bengio, avec la loi C-27 qui contient explicitement un volet pour empêcher l’utilisation « imprudente » de l’IA.

« Le dentifrice est sorti du tube »

Est-il réaliste de croire que des milliers de laboratoires, d’entreprises technos et de scientifiques accepteraient en toute bonne foi d’interrompre leurs travaux pendant six mois ? « L’important est de lever la main et de lancer le débat, estime M. Bengio. J’ai lu des commentaires sur les réseaux sociaux comme quoi ça ne marchera pas, que le dentifrice est sorti du tube. Je suis réaliste, c’est sûr que ce n’est pas suffisant, ça va prendre des années. On ne pourra pas arrêter le développement de l’IA mais comme pour les changements climatiques, le devoir est d’essayer de faire tout ce qu’on peut. »