La DARPA a lancé un nouveau projet appelé SAFRON , qui promet de changer l’avenir de la robotique militaire. L’objectif principal de ce projet est de créer des systèmes sûrs et fiables pour des robots contrôlés par une intelligence artificielle avancée.

Ce qui rend ce projet spécial, c’est qu’il se concentre sur une nouvelle génération de robots utilisant ce que l’on appelle des modèles fondamentaux d’IA (FM). Ces systèmes avancés d’intelligence artificielle permettent aux robots de comprendre les commandes dans un langage humain normal et d’opérer dans des environnements non contrôlés. Par exemple, il suffit de dire au robot : « Vérifiez la zone pour les explosifs » et il accomplira cette tâche de manière indépendante.

Cependant, c’est précisément cette capacité qui présente de grands risques. Les systèmes d’IA modernes sont sujets à des problèmes qui se manifestent sous la forme d’« hallucinations », lorsqu’un robot perçoit quelque chose qui n’existe pas ou prend de mauvaises décisions avec une confiance excessive. Dans des conditions de combat, de telles erreurs peuvent avoir des conséquences tragiques. Par exemple, un robot de déminage peut ne pas reconnaître un véritable engin explosif ou, à l’inverse, percevoir à tort un objet inoffensif comme une menace.

La DARPA recherche des solutions qui garantiront le fonctionnement fiable de ces robots sur le terrain. Une attention particulière est portée à l’autonomie des systèmes : les robots doivent fonctionner avec une intervention minimale de l’opérateur.

source :

DARPA&CIA