Anthropic a annoncé le 25 août 2026 un programme de subventions doté de 5 millions de dollars pour financer des recherches indépendantes sur l’impact des modèles d’IA sur le bien-être des utilisateurs. Les candidatures doivent être déposées avant le 21 septembre 2026. Les projets retenus devront notamment contribuer à des évaluations open source réutilisables par les développeurs et les chercheurs.
Un financement pour mesurer les interactions réelles
Les chercheurs sélectionnés bénéficieront d’un financement direct, d’un accès aux modèles d’Anthropic et d’un soutien technique. L’entreprise indique toutefois que les travaux devront être menés de manière indépendante, puis publiés sous la forme de projets open source. L’initiative vise donc à produire des outils de mesure accessibles au secteur, et pas uniquement des évaluations privées consacrées aux systèmes d’Anthropic. Les détails du programme figurent dans l’annonce d’Anthropic.
Cette orientation concerne les équipes qui cherchent à évaluer les effets de différents modèles dans des situations d’utilisation concrètes. Une évaluation publique peut être reprise par d’autres développeurs, mais sa valeur dépendra de la précision des critères retenus et de la façon dont les résultats pourront être interprétés en dehors du projet qui les a conçus.
Les projets devront regarder au-delà des réponses manifestement dangereuses
Les recommandations de l’équipe Safeguards d’Anthropic demandent aux candidats de définir clairement ce que leur évaluation mesure, ce qui constitue un succès ou un échec et pourquoi le résultat compte. La conception et la validation des outils devront aussi associer des experts cliniques et des spécialistes du domaine étudié.
Le programme ne porte pas seulement sur la capacité d’un modèle à éviter une réponse manifestement dangereuse. Anthropic souhaite que les chercheurs examinent aussi les comportements protecteurs et les préjudices potentiels. Deux risques sont cités : l’obéissance excessive, lorsqu’un modèle suit trop facilement les demandes d’un utilisateur, et le refus excessif, lorsque ses garde-fous bloquent une trop grande partie de l’interaction demandée.
Ce double objectif met en évidence un compromis important. Un modèle qui refuse systématiquement peut empêcher une interaction utile, tandis qu’un modèle trop accommodant peut ne pas opposer de limite suffisante dans une situation sensible. L’évaluation devra donc examiner le comportement du système dans son contexte, plutôt que de réduire la question du bien-être à une simple liste de réponses interdites.
Pourquoi les conversations longues sont au centre du dispositif
Les chercheurs sont invités à utiliser des scénarios couvrant plusieurs échanges. Cette approche doit mieux refléter les usages réels de l’IA, dans lesquels le contexte évolue au fil de la conversation et où le risque peut augmenter avec le temps.
Tester uniquement des requêtes isolées ne permettrait pas de suivre cette progression. Un modèle pourrait donner une impression de sécurité ou d’utilité sur une réponse unique, alors que la dynamique d’un échange prolongé ferait apparaître un autre comportement. Les projets financés devront ainsi prendre en compte la continuité des interactions, et pas seulement la réaction immédiate à une demande donnée.
La validation par des spécialistes reste indispensable
Les candidats devront confronter leurs outils à de véritables experts du domaine concerné. Cette étape vise à vérifier qu’un système de notation mesure bien le phénomène étudié : une méthode peut paraître rigoureuse tout en évaluant le mauvais indicateur.
La publication open source facilite l’accès aux résultats, mais elle ne suffit pas à établir leur pertinence. La solidité d’une évaluation dépendra toujours des mesures choisies, des critères de réussite et d’échec, ainsi que de l’examen réalisé par les spécialistes associés au projet. L’ouverture rend les outils réutilisables ; elle ne règle pas à elle seule la difficulté de définir et de mesurer le bien-être des utilisateurs.
Les prochaines échéances du programme
La date limite de candidature est fixée au 21 septembre 2026. Les candidats invités à déposer une proposition complète seront informés le 5 octobre 2026. Ces étapes donnent aux équipes intéressées un calendrier précis pour préparer des projets compatibles avec les exigences annoncées : indépendance des travaux, publication open source, scénarios couvrant plusieurs échanges et validation par des experts.
Pour les développeurs, le changement immédiat ne concerne donc ni les modèles d’Anthropic ni une nouvelle fonctionnalité destinée au grand public. Il s’agit de l’ouverture d’une voie financée vers des évaluations publiques et potentiellement réutilisables. Leur intérêt concret dépendra ensuite de leur capacité à comparer les comportements des modèles dans des interactions complexes, avec des critères suffisamment clairs pour être compris et discutés par d’autres équipes.