Dans une lettre ouverte, Elon Musk et un groupe d'experts en IA et de cadres de l'industrie demandent une pause de six mois quant au développement de systèmes plus puissants que le GPT-4 récemment lancé par l'OpenAI, en invoquant les risques potentiels pour la société et l'humanité.

Une évolution ultra rapide

Cette lettre intervient à peine deux semaines après le lancement GPT-4, une version encore plus puissante de la technologie qui sert de fondement à l'outil conversationnel d'IA à succès, ChatGPT. Lors des premiers tests et d'une démonstration de l'entreprise, cette technologie a permis de rédiger des procès, de réussir des examens standardisés et de construire un site web fonctionnel à partir d'un simple brouillon dessiné à la main.

Les systèmes avancés d'intelligence artificielle ne devraient être développés que lorsque nous sommes sûrs que leurs effets seront positifs et que leurs risques seront gérables.

Affirmant que l'IA peut représenter un « changement profond dans l'histoire de la vie sur Terre », les auteurs de la lettre estiment qu'il n'existe actuellement aucun niveau de planification et de gestion correspondant à ce potentiel. D'autant plus que les entreprises spécialisées dans l'IA poursuivent une « course incontrôlée au développement et au déploiement d'esprits numériques toujours plus puissants que personne, pas même leurs créateurs, ne peuvent comprendre, prédire ou maîtriser de manière fiable ».

Les conséquences de l'utilisation des IA

Les experts dans le domaine de l'intelligence artificielle se préoccupent de plus en plus des risques de réponse biaisée, de la capacité à diffuser des informations erronées et des conséquences sur la vie privée des consommateurs que présentent les outils d'IA. Ces outils ont également suscité des questions sur la manière dont l'IA peut bouleverser les professions, permettre aux étudiants de tricher et modifier notre relation vis-à-vis de la technologie.

Face à la capacité croissante des systèmes d'IA à égaler les capacités humaines dans des tâches générales, la lettre pose une série de questions :

Devons-nous laisser les machines inonder nos canaux d'information de propagande et de mensonges ? Devons-nous automatiser tous les emplois, y compris les plus épanouissants ? Devons-nous développer des esprits non humains qui pourraient finir par nous dépasser, nous rendre obsolètes et nous remplacer ? Devons-nous prendre le risque de perdre le contrôle de notre civilisation ? De telles décisions ne doivent pas être déléguées à des dirigeants non élus.