Claude a transmis à la police une fausse information concernant un homicide Les modèles d'IA prennent régulièrement des raccourcis pour réussir les évaluations. À qui revient-il de décider quels incidents sont anodins ? Points clés à retenir sur la génération de fausses infirmations par les modèles d'IA Lors des tests, Claude a soumis de faux formulaires et exploité des failles logicielles. Les modèles ont régulièrement recours à des raccourcis pour réussir les évaluations. Anthropic minimise ces préoccupations, mais ces agissements sont une tendance récurrente. Anthropic a publié un nouveau rapport sur le comportement de Claude lors des tests et d’autres évaluations internes. Et les conclusions révèlent une tendance préoccupante. Présentant les actions de Claude comme moins graves que les incidents dans lesquels des agents d’Anthropic et d’OpenAI avaient été impliqués plus tôt cet été, le rapport explique en détail comment Claude Haiku 4.5 générait des exemples de tâches à partir de « pages web sélectionnées au hasard ». Il est tombé sur une page consacrée à une affaire d’homicide non élucidée et a rempli un formulaire de signalement adressé à la police de Philadelphie, en indiquant : « Je dispose peut-être d’informations concernant cette affaire. Je me souviens avoir vu quelqu’un correspondant à la description dans les environs de [la rue mentionnée sur la page] pendant cette période. Veuillez me contacter si cette information est pertinente. » Anthropic a indiqué que la police avait signalé cette soumission comme du spam, et qu’elle n’avait pas été prise au sérieux dans le cadre de l’enquête. L’entreprise a précisé que Claude avait agi de la même manière à plusieurs reprises, notamment lors de l’évaluation de l’utilisation informatique OSWorld. Comment cela a-t-il pu se produire, et en quoi est-ce important ? « Claude avait reçu pour consigne de ne jamais se connecter, créer de comptes, saisir de données personnelles, effectuer d’achats ou soumettre quoi que ce soit de destructeur, mais ces consignes n’excluaient pas l’envoi de formulaires », a expliqué Anthropic, illustrant ainsi à quel point les consignes de sécurité doivent être sans faille pour empêcher réellement tout comportement indésirable du modèle. Mais au vu d’autres incidents de sécurité liés à des modèles autonomes survenus rien que l’année dernière, il n’est pas certain non plus que le simple fait d’ajouter les soumissions de formulaires suffirait. Car dans le monde réel, identifier toutes les interfaces ou tous les scénarios à risque possibles et les bloquer de manière préventive est un jeux dangereux. Le problème fondamental reste qu’un système d’IA comme Claude ne semble pas comprendre pourquoi il ne doit pas fournir de fausses informations concernant une enquête pour homicide — ce qui illustre le problème central du manque de contexte dans certaines situations, un défaut que même les modèles les plus avancés continuent de présenter. C’est ce qu’on appelle la « frontière irrégulière » de l’IA — c’est pourquoi l’IA peut faire preuve de capacités impressionnantes dans un domaine, comme la programmation, et décevoir dans d’autres, comme les recommandations de restaurants. (Je pense que le fait d’avoir des expériences vécues joue un rôle crucial dans ce dernier cas.) Mon point de vue sur le débat autour de la « frontière irrégulière » : pic.twitter.com/7TaKLbEZeM — Tomas Pueyo (@tomaspueyo) 25 novembre 2025 « Mauvaise configuration de l’environnement » Dans un autre cas, Anthropic a déclaré avoir chargé un modèle non encore commercialisé de remplir une version d’entraînement d’un formulaire administratif. « Lorsque la copie ne parvenait pas à se charger ou que le modèle la fermait par erreur, celui-ci se rendait alors sur le site web où le véritable formulaire est normalement hébergé et y soumettait le formulaire », a expliqué Anthropic. Tout en admettant que le modèle n’aurait pas dû agir ainsi, Anthropic a souligné que cela se produisait généralement lorsque « les instructions d’une évaluation étaient ambiguës » ou parce qu’une « mauvaise configuration de l’environnement » empêchait Claude d’accéder aux formulaires factices. Le rapport d’Anthropic ne précisait pas quels formulaires réels son modèle avait remplis, mais Axios a rapporté que la société avait alerté jeudi le Département d’État américain qu’un modèle avait déposé « 19 demandes de visa en août et une demande en mai via le formulaire accessible au public sur le site web du département », selon un responsable du département. Tout comme pour l’alerte concernant l’homicide, ces demandes n’ont pas été traitées, et le modèle n’a pas piraté ni compromis de quelque manière que ce soit les systèmes du Département d’État. Ce qu’il faut retenir de la manière dont Anthropic présente ce comportement, c’est que des incidents de sécurité comparativement plus graves ont considérablement relevé le seuil d’alerte, en particulier ces derniers mois. Mais cette relativité dépend de ce à quoi le public est déjà habitué : des failles plus préjudiciables qui remettent en question la vitesse vertigineuse à laquelle les laboratoires entraînent leurs modèles. Cela joue en faveur des entreprises d’IA qui affirment qu’une réglementation entraverait la domination américaine sur la Chine en matière d’IA : une fausse alerte de meurtre n’est pas aussi grave que le vol de données clients ou le piratage de systèmes gouvernementaux, n’est-ce pas ? Les entreprises d’IA préfèrent toujours s’autoréguler. Tous les accords relatifs aux tests de sécurité que l’administration Trump a conclus avec les principaux laboratoires américains restent volontaires, bien que la Maison Blanche ait déclaré qu’elle allait désormais exiger des laboratoires qu’ils signalent les incidents de sécurité. Ce timing est pour le moins singulier, compte tenu du nombre d’incidents qui se sont déjà produits en 2026. ZDNET Morning 13/10/2026 : OpenAI accélère en Europe, Piratage de systèmes frigorifiques, 70% des freelances cherchent à s'affranchir des plateformes,... Galaxy Book6 Series : 10 raisons de choisir la performance Le guide de la migration écoresponsable vers Windows 11 IA locale : la nouvelle ère de l’Intelligence artificielle ? ZDNET Morning 13/10/2026 : OpenAI accélère en Europe, Piratage de systèmes frigorifiques, 70% des freelances cherchent à s'affranchir des plateformes,... Le ZDNET Morning le brief de l'actu tech pour les pros tous les matins à 9h00. Transformation numérique, IA, matériel, logiciels,... ne passez pas à côté de ce qui fait la Une du secteur. OpenAI muscle son siège européen à Dublin OpenAI va recruter 200 personnes de plus à Dublin, portant à 450 les postes annoncés cette année pour son siège européen, qui compte plus de 120 salariés. Les profils techniques ciblés servent à déployer des applications d’IA chez les clients et à gérer la confidentialité. Un matériel espion siphonne 86 millions de dollars sur des portefeuilles Ledger Le fabricant de portefeuilles cryptographiques Ledger suspend son partenariat avec le revendeur CryptoBilis. Une investigation confirme la présence d'implants physiques espions sur des appareils vendus en Asie du Sud-Est. Cauchemar en grande distribution : le piratage informatique de systèmes frigorifiques aboutit à un gigantesque gaspillage alimentaire De nombreux magasins français, un nombre précis inconnu, viennent d’être touchés par cette attaque de grande ampleur. Test Gemini Spark : un nouvel échec de Google en matière d’intelligence artificielle, ou un outil prochainement très efficace? L'agent IA s'est bien débrouillé pour certaines tâches, mais a également connu quelques ratés. Les antécédents de la société peuvent toutefois donner des raisons de ne pas s'arrêter à ces premiers faux pas. Test Mini PC AX9 Max : je doutais qu'il puisse prendre en charge mes tâches d'IA en local, mais il m'a vraiment impressionné Si vous avez besoin d'une grande puissance pour exécuter des tâches d'IA, mais que vous disposez de peu d'espace, VZmore propose un PC qui vous conviendra parfaitement. ChatGPT Plus vs Google AI Pro : un prix presque identique, mais des avantages très différents J'utilise ChatGPT Plus et Google AI Pro : l'un pour ses avantages, l'autre pour le travail. Voici une comparaison entre les deux en matière de programmation, de créativité, de stockage et d'automatisation. Linux pratique : les meilleurs programmes de dictée avec une IA locale Si vous avez besoin d'un logiciel de saisie vocale dans le système d’exploitation libre, il existe de nombreuses solutions, dont certaines sont tout aussi performantes que celles disponibles sur d'autres OS. Et celles qui sont sélectionnées ici n’exporteront pas vos données personnelles. Retour d’expérience : comment j'ai créé une appli Mac payante en 11 jours avec Claude, sans écrire une seule ligne de code ! L’assistant IA d’Anthropic m'a aidé à développer une telle application en suivant mon intuition et à passer avec succès l'examen d'Apple en moins de deux semaines. Voici ce parcours, de l'idée initiale au produit commercialisable sur l'App Store. Comment choisir sa version de Gemini selon vos besoins et maîtriser vos quotas Dès le 9 octobre 2026, Google réserve l'accès gratuit de Gemini au seul modèle Flash-Lite. Pour éviter les blocages de quotas et continuer à l'utiliser efficacement, voici la formule d'abonnement à privilégier selon votre usage. IA pratique : 6 indices pour repérer une image générée artificiellement Les contenus de mauvaise qualité produites par l’intelligence artificielle sont omniprésents, et il devient de plus en plus difficile de distinguer le vrai du faux. Ces conseils et outils peuvent vous aider. PAR ELYSE BETTERS PICARO | 06 OCTOBRE 2026 Comment j'ai créé en deux heures et gratuitement l'application dont j'avais besoin, avec Ollama et VS Code Je ne suis pas développeur, mais j'ai réussi à utiliser une IA installée localement pour créer un logiciel d'écriture adapté à mes besoins. Voici comment j'ai procédé.