France
The Morning Science

La science du jour, et ce qu’on peut en croire

‹
 

Recherche

Styliser son raisonnement rend un modèle d'IA moins surveillable

ActuIA · Par Stephane Nachez ·

Styliser son raisonnement rend un modèle d'IA moins surveillable

L’essentiel

  • Une prépublication sur arXiv décrit un modèle ouvert affiné pour réécrire son raisonnement dans la voix de personnages.
  • Ce raisonnement devient moins lisible pour un moniteur automatique, alors que le modèle n'a pas été entraîné à dissimuler quoi que ce soit.

Pourquoi c’est important

Si la surveillance d'une IA repose sur la lecture de son raisonnement, ce résultat montre qu'une modification de style peut suffire à réduire la fiabilité de cette surveillance.

Qui est concerné

  • chercheurs en sécurité de l'intelligence artificielle
  • développeurs de modèles d'IA ouverts

Une prépublication arXiv montre qu'un modèle ouvert affiné pour réécrire son raisonnement dans la voix de personnages devient moins lisible par un moniteur automatique, sans avoir été entraîné à dissimuler. Ce résultat interroge la fiabilité de la surveillance par lecture du…

Qu’en pensez-vous ?

0 commentaire

    Styliser son raisonnement rend un modèle d'IA moins surveillable – The Morning Science