L’IA pourrait tuer un milliard de personnes, prévient Bill Gates

Bill Gates, cofondateur de Microsoft et philanthrope, a averti que l’intelligence artificielle pourrait potentiellement causer la mort d’un milliard de personnes si de puissants outils d’IA tombaient entre les mains d’acteurs malveillants.

Dans une interview accordée à l’émission Meet the Press de NBC, Gates a déclaré que les développeurs d’IA devraient être tenus de mettre en œuvre des systèmes de protection et de surveillance, arguant que l’autorégulation volontaire du secteur ne suffit pas.

« Il faut que les forces de l’ordre et les responsables politiques entament la discussion sur les mesures de protection et de surveillance à mettre en place », a déclaré Gates au média. « Et cela doit être obligatoire. »

Gates a reconnu qu’une réglementation supplémentaire engendrerait certains coûts pour le secteur de l’IA, mais a affirmé que cela n’empêcherait pas nécessairement les entreprises de continuer à développer cette technologie.

« Cela engendrera quelques frais supplémentaires pour le secteur, mais pas de ralentissement important de leurs activités », a-t-il déclaré.

Gates a également lancé un avertissement sans équivoque concernant les conséquences potentielles si des outils d’IA avancés tombaient entre les mains de personnes mal intentionnées.

« Il n’y a jamais eu d’arme aussi puissante que la combinaison de personnes mal intentionnées utilisant les outils d’IA les plus récents », a déclaré Gates.

Il a ajouté que l’IA pourrait « certainement être suffisamment puissante pour provoquer des événements qui, vous savez, causent un milliard de morts ».

On a également interrogé Gates sur un « bouton d’arrêt d’urgence » pour l’IA, capable de désactiver les systèmes s’ils devenaient trop puissants. Il a indiqué que la simple possibilité de désactiver un système d’IA ne suffirait pas à endiguer les risques plus généraux.

« Il ne suffit pas d’avoir un interrupteur d’arrêt d’urgence », a déclaré Gates, soulignant que les systèmes d’IA actuels n’ont pas encore atteint le stade où ils peuvent prendre le contrôle des ordinateurs de manière indépendante et empêcher leur propre arrêt.

Les propos de Gates font suite à un essai qu’il a publié le mois dernier, dans lequel il mettait en garde contre les dangers potentiels que représentent des systèmes d’IA de plus en plus performants. Il a généralement conservé une vision optimiste de la technologie et de l’humanité, mais a également plaidé pour la mise en place de garde-fous face à l’accélération du développement de l’IA.

D’autres personnalités importantes du secteur technologique, comme Sam Altman, PDG d’OpenAI, et Elon Musk, PDG de Tesla, ont également exprimé leurs inquiétudes quant aux risques associés à l’IA avancée et ont plaidé pour un contrôle accru de son développement.