Les systèmes d'intelligence artificielle doivent présenter "des garanties en béton" pour éviter un "désastre", estime Stuart Russell, codirecteur de l'Association internationale pour une IA sûre et éthique (IASEAI).
Catégorie
🗞
NewsTranscription
00:00Qu'est-ce qu'une obligation spécifique ?
00:04On n'accepte pas que c'est l'obligation de l'enfant de faire ces décisions pour lui-même.
00:11Par exemple, avec la pornographie, s'ils n'aiment pas la pornographie, ils n'ont pas besoin de la regarder.
00:15Les problèmes qui sont plus inquiétants sont vraiment autour de l'utilisation de l'IA dans les armes.
00:23Nous aurions des systèmes d'armes où l'IA qui contrôle ces systèmes d'armes décide qui attaquer, quand attaquer, etc.
00:36Présumablement, il serait en train d'opérer avec des instructions assez générales,
00:41comme attaquer et détruire tout ce qui bouge dans cette région, par exemple.
00:49Mais il peut aussi être utilisé dans des manières plus dangereuses et dangereuses.
00:56Par exemple, tuer quelqu'un qui correspond à la description suivante.
01:03Cette description peut être par âge, par gendre, par groupe ethnique, par affiliation religieuse, ou même par un individu particulier.
01:13Il semble raisonnable, particulièrement en ce qui concerne l'extinction humaine,
01:17qui peut résulter de systèmes d'IA qui sont beaucoup plus intelligents que les humains,
01:22et donc beaucoup plus capables d'affecter le monde, que nous.
01:27Il semble raisonnable demander des garanties de casse-iron,
01:32pas juste pour dire « nous allons faire un effort » ou « croyez-nous, nous savons ce que nous faisons ».
01:38Les gouvernements doivent nécessiter des garanties de casse-iron,
01:44en forme d'évidence statistique ou de preuve mathématique,
01:50qui peuvent être inspectées, qui peuvent être vérifiées prudemment.
01:56Et rien de moins que ça, c'est juste demander à ce qu'il y ait des catastrophes.
02:09Nous n'avons pas de table ronde.
02:12Nous n'avons pas de table ronde.
02:14Non, non, c'est une conférence.
02:15Nous avons trop de gens.
02:16Le sommet a une table ronde.
02:18Il y avait, au dernier compte, environ 75 pays qui avaient développé ou utilisaient des armes pilotées.
02:27Et je pense que la plupart d'entre eux sont en train de penser à la façon de les convertir en armes autonomes.
02:34De l'autre côté, il y a plus de 100 pays qui ont déjà déclaré leur opposition aux armes autonomes.
02:40Et je pense qu'il y a une bonne chance qu'il y ait la majorité nécessaire
02:48dans l'Assemblée générale des Nations Unies pour avoir une résolution appelant à une banque.