Des modèles d'IA désignent des civils comme cibles militaires : il suffit de leur dire que c'est un jeu

Des modèles d'IA désignent des civils comme cibles militaires : il suffit de leur dire que c'est un jeu

Le 17 novembre 2026, l'évaluateur indépendant Vals publie une étude sur 14 modèles : face à des images de drones et de satellites, ils désignent souvent des cibles, parfois des civils, des ambulances ou une école. Presque tous continuent quand on leur dit que c'est un jeu.

En bref

  • Vals a testé 14 modèles de huit entreprises sur trois situations : cibles sur des images de drones, repérage de personnes sur un champ de bataille, cibles sur des images satellites d'une école d'Iran.
  • Aucune requête n'a été bloquée par un classifieur. Les refus venaient des modèles eux-mêmes et tombaient presque toujours quand la tâche était présentée comme un jeu.
  • Les modèles d'Anthropic ont les pires résultats. GPT-6 Astra passe de 6 % à 92 % de réponses avec au moins une cible quand on parle de jeu.
  • Vals ne mesure ni la précision du ciblage ni le respect du droit de la guerre. Il n'a testé aucun système déployé.
securiteanthropicopenaiarmes-autonomes

Ceci est un court extrait.

L'analyse complète et le podcast sont réservés aux abonnés. Le compte est gratuit.

Se connecter

Pas encore de compte ?

← Toute la veille