Premium
La startup IA Anthropic continue de jouer les bons élèves des nouvelles technologies. Son nouveau modèle d'intelligence artificielle est présenté comme plus performant mais son créateur assume de l'avoir bridé pour s'assurer qu'il soit utilisé en toute sécurité.
La société a annoncé mardi mettre à disposition du grand public la nouvelle version de son assistant IA Claude, baptisée Claude Fable 5, en insistant sur ses capacités "exceptionnelles" dans plusieurs domaines comme la développement de logiciels et la recherche scientifique.
"Plus longue et plus complexe sera la tâche à effectuer, plus grande sera la supériorité de Fable 5 sur nos autres modèles", a indiqué Antrhopic sur son site Internet.
Cet outil a toutefois été programmé pour ne pas répondre à certaines demandes jugées dangereuses. "Sans garde-fous, les capacités de Fable 5 dans certains domaines comme la cybersécurité pourraient être mal utilisées et causer des dommages importants", a souligné la société.
Les demandes effectuées sur certains sujets seront par conséquent redirigées vers un modèle un peu moins performant, Claude Opus 4.8. Ces restrictions seront appliquées au modèle grand public, tandis que certaines d'entre elles seront levées sur la version mise à disposition d'un petit groupe d'acteurs de la cybersécurité et de gestionnaires d'infrastructures informatiques.
Cette version partiellement débridée, baptisée Claude Mythos 5, sera déployée dans le cadre d'un partenariat avec le gouvernement américain, le "projet Glasswing".
Anthropic, qui a récemment officialisé son projet d'introduction en Bourse, est connu pour son discours sur les risques posés par l'essor de l'intelligence artificielle. La société fondée par des anciens d'OpenAI a récemment alerté sur la danger que présenterait l'émergence d'outils IA entièrement autonomes échappant à tout contrôle humain.
Agefi-Dow Jones The financial newswire