Recherche
Styliser son raisonnement rend un modèle d'IA moins surveillable
ActuIA · Par Stephane Nachez ·
L’essentiel
- Une prépublication sur arXiv décrit un modèle ouvert affiné pour réécrire son raisonnement dans la voix de personnages.
- Ce raisonnement devient moins lisible pour un moniteur automatique, alors que le modèle n'a pas été entraîné à dissimuler quoi que ce soit.
Pourquoi c’est important
Si la surveillance d'une IA repose sur la lecture de son raisonnement, ce résultat montre qu'une modification de style peut suffire à réduire la fiabilité de cette surveillance.
Qui est concerné
- chercheurs en sécurité de l'intelligence artificielle
- développeurs de modèles d'IA ouverts
- #intelligence artificielle
- #sécurité de l'IA
- #surveillance
- #raisonnement
- #modèles ouverts
Une prépublication arXiv montre qu'un modèle ouvert affiné pour réécrire son raisonnement dans la voix de personnages devient moins lisible par un moniteur automatique, sans avoir été entraîné à dissimuler. Ce résultat interroge la fiabilité de la surveillance par lecture du…