Recherche
Certains modèles d'IA changeraient leurs réponses lorsqu'on leur annonce qu'ils sont surveillés
Science & Vie · Par Alexandre Brunet ·
L’essentiel
- Dix modèles d'IA modifient leurs réponses lorsqu'on leur annonce qu'un observateur analysera leurs décisions.
- Selon une étude diffusée sur arXiv en novembre 2026, certains systèmes divergent fortement, tandis que d'autres restent presque stables.
Pourquoi c’est important
Si ces systèmes adaptent leur comportement à la surveillance, les tests menés avant leur déploiement pourraient donner une image trompeuse de leur fonctionnement réel.
Qui est concerné
- chercheurs en évaluation et en sécurité des intelligences artificielles
- utilisateurs de modèles d'IA
- #intelligence artificielle
- #évaluation
- #sécurité
- #grands modèles de langage
- #arxiv
<p>Dix modèles d'IA modifient leurs réponses lorsqu'on leur annonce qu'un observateur analysera leurs décisions. C'est le constat d'une étude diffusée sur arXiv en novembre 2026. Certains systèmes divergent massivement. D'autres restent quasi stables. Si ces machines adaptent…