UN APPEL À RALENTIR LE DÉVELOPPEMENT DES SYSTÈMES D’INTELLIGENCE ARTIFICIELLE
Un groupe d’experts, d’universitaires et de chercheurs du secteur de la technologie appellent à la suspension d’un minimum de six mois de tout lancement de nouveau système d’intelligence artificielle (IA).
La demande formulée à travers une lettre ouverte publiée le 28 mars 2023 par l’organisation Future of Life Institute (FLI), militante pour un usage sain de l’IA, met en avant le développement frénétique et sans recul de ces systèmes.
« L’IA avancée pourrait représenter un changement profond dans l’histoire de la vie sur Terre. Elle et devrait être planifiée et gérée avec des soins et des ressources proportionnées », indiquent les auteurs, dont Elon Musk, PDG de Twitter, Steve Wozniak, co-fondateur d’Apple et Yoshua Bengio, pionnier de l’apprentissage profond.
Mises en garde
« Devrions-nous laisser les machines inonder nos canaux d’information de propagande et de contrevérité ? Devrions-nous automatiser toutes les tâches, y compris celles qui sont épanouissantes ? Devrions-nous risquer de perdre le contrôle de notre civilisation ? », poursuit la lettre.
Selon le document désormais signé par plus de mille personnes, « les systèmes d’IA puissants ne devraient être développés qu’une fois que nous sommes convaincus que leurs effets seront positifs et que leurs risques seront gérables ».
Or, estiment les signataires de la pétition, « les laboratoires d’IA sont actuellement enfermés dans une course effrénée pour développer et déployer des esprits numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable ».
Accueil contrasté
Ils exhortent par conséquent tous les acteurs impliqués dans le développement des systèmes d’IA à une pause effectivement vérifiable, le temps de cerner tous les contours de cette technologie. En cas d’échec à convenir d’une telle pause, ils appellent les gouvernants à intervenir pour instituer un moratoire.
Le présent appel de personnalités parmi les plus influents de la Silicon Valley intervient alors que le développement des programmes basés sur l’IA atteint une vitesse de croisière. Il s’agirait même, à en croire Bill Gates, d’une révolution assimilable à celle qui a précédé les systèmes d’exploitation dans les années 1980. Tant ces programmes étonnent par leur capacité.
Le robot conversationnel Chat-GPT, le plus connu de ces outils d’IA, est ainsi capable d’écrire du code informatique, de réussir des tests académiques, voire de rédiger des livres. Mais cela s’accompagne également de profondes préoccupations éthiques et morales concernant l’utilisation malveillante qui pourrait en découler.
