Les derniers modèles d’intelligence artificielle (IA) générative ne se contentent plus de suivre les ordres et vont jusqu’à mentir, manigancer ou menacer pour parvenir à leurs fins, sous le regard inquiet des chercheurs.Menacé d’être débranché, Claude 4, le nouveau-né d’Anthropic, fait du chantage à un ingénieur et menace de révéler une liaison extra-conjugale. L’o1 d’OpenAI essaye lui de se télécharger sur des serveurs extérieurs et nie lorsqu’on le prend la main dans le sac.Pas besoin d’aller fouiller dans la littérature ou le cinéma, l’IA qui se joue de l’homme est désormais une réalité.Pour Simon Goldstein, professeur à l’université de Hong Kong, ces dérapages tiennent de l’émergence récente des modèles dits de “raisonnement”, capables de travailler par étapes plutôt que de produire une réponse instantanée.o1, version initiale du genre pour OpenAI, sorti en décembre, “a été le premier modèle à se comporter ainsi”, explique Marius Hobbhahn, patron d’Apollo Research, qui teste les grands programmes d’IA générative (LLM).Ces programmes tendent aussi parfois à simuler “l’alignement”, c’est-à-dire à donner l’impression qu’ils se plient aux consignes d’un programmeur tout en poursuivant, en fait, d’autres objectifs.Pour l’heure, ces traits se manifestent lorsque les algorithmes sont soumis à des scénarios extrêmes par des humains, mais “la question, c’est de savoir si les modèles de plus en plus puissants auront tendance à être honnêtes ou pas”, estime Michael Chen, de l’organisme d’évaluation METR.”Les utilisateurs poussent tout le temps les modèles aussi”, fait valoir Marius Hobbhahn. “Ce que nous observons est un vrai phénomène. Nous n’inventons rien.”Beaucoup d’internautes évoquent, sur les réseaux sociaux, “un modèle qui leur ment ou invente. Et ce ne sont pas des hallucinations, mais une duplicité stratégique”, insiste le co-fondateur d’Apollo Research.Même si Anthropic et OpenAI font appel à des sociétés extérieures, comme Apollo, pour étudier leurs programmes, “davantage de transparence et un accès élargi” à la communauté scientifique “permettraient de meilleures recherches pour comprendre et prévenir la tromperie”, suggère Michael Chen.Autre handicap, “le monde de la recherche et les organisations indépendantes ont infiniment moins de ressources informatiques que les acteurs de l’IA”, ce qui rend “impossible” l’examen de grands modèles, souligne Mantas Mazeika, du Centre pour la sécurité de l’intelligence artificielle (CAIS).Si l’Union européenne s’est dotée d’une législation, elle concerne surtout l’utilisation des modèles par des humains.Aux Etats-Unis, le gouvernement de Donald Trump ne veut pas entendre parler de régulation et le Congrès pourrait même bientôt interdire aux Etats d’encadrer l’IA.- L’IA en justice? -“Il y a très peu de prise de conscience pour l’instant”, constate Simon Goldstein, qui voit néanmoins le sujet s’imposer dans les mois à venir avec la révolution des agents IA, des interfaces à même de réaliser seules une multitude de tâches.Les ingénieurs sont engagés dans une course derrière l’IA et ses dérives, à l’issue incertaine, dans un contexte de compétition féroce.Anthropic se veut plus vertueux que ses concurrents, “mais il essaye en permanence de sortir un nouveau modèle pour dépasser OpenAI”, selon Simon Goldstein, une cadence qui offre peu de temps pour des vérifications et corrections éventuelles.”En l’état, les capacités (de l’IA) se développent plus rapidement que la compréhension et la sécurité”, reconnaît Marius Hobbhahn, “mais nous sommes toujours en mesure de rattraper notre retard”.Certains pointent dans la direction de l’interprétabilité, une science récente qui consiste à décrypter de l’intérieur le fonctionnement d’un modèle d’IA générative, même si d’autres, notamment le directeur du CAIS, Dan Hendrycks, sont sceptiques.Les combines de l’IA “pourraient gêner son adoption si elles se multiplient, ce qui constitue une forte incitation pour les entreprises (du secteur) à résoudre” ce problème, selon Mantas Mazeika.Simon Goldstein évoque, lui, le recours à la justice pour mettre au pas l’intelligence artificielle, en se tournant vers les sociétés en cas de sortie de route.Mais il va plus loin et propose même de “tenir légalement responsables” les agents IA “en cas d’accident ou de crime”.

Dans la touffeur de l’été américain, des boîtes ornées de bonhommes de neige et de traîneaux prennent forme. Leur fabricant a le cerveau en surchauffe depuis que Donald Trump a mis en place une surtaxe de 50% sur l’acier.A une centaine de kilomètres au nord de la Maison Blanche, à Belcamp (Maryland, est), l’usine Independent Can tourne jour et nuit.Dans le battement régulier des presses, de fines plaques d’acier recouvertes d’étain, pour éviter la corrosion, sont transformées en contenants à biscuits, fruits secs, café ou encore poudre de lait infantile haut de gamme.C’est ce qu’on appelle du fer-blanc.Sur une ligne de production, une feuille de métal, sur laquelle un motif a été imprimé, est courbée en cylindre. Elle est ensuite convoyée dans une presse d’où elle ressort rigide, avant d’être dotée d’un fond. Ce seau sera garni de pop-corn et offert lors des fêtes de fin d’année.”Let it snow” (Laissons la neige tomber), est-il écrit dessus.”Ce serait sympa d’avoir de la neige maintenant!” plaisante le patron, Rick Huether, alors que de gros ventilateurs peinent à rafraîchir l’atmosphère.Le directeur général a commencé à travailler dans l’entreprise familiale en job d’été, à 14 ans. Il en a maintenant 73 et est déterminé à la maintenir à flot pour les générations suivantes.Mais “le chaos” des droits de douane complique sa tâche, dit-il.- Pas assez de fer-blanc américain -Depuis son retour au pouvoir en janvier, le président Donald Trump a mis en place une surtaxe de 25%, puis 50%, sur l’acier et l’aluminium importés, au nom de la protection des hauts fourneaux américains. Sauf que d’autres industriels américains, en aval, paient la facture, faute de pouvoir acheter ces métaux localement.”Aux Etats-Unis, on ne produit qu’un quart du fer-blanc dont les fabricants de conserves, de pots de peinture et nous-mêmes avons besoin. On est obligés d’acheter le reste à l’étranger”, affirme Rick Huether.Favorable aux politiques de réindustrialisation – la mondialisation “a été un peu trop loin”, pense-t-il – le chef d’entreprise ne comprend pas la méthode Trump: des annonces spectaculaires, des revirements soudains, des droits de douane portant sur des choses que le pays ne fabrique pas, ou plus.Independent Can emploie près de 400 personnes réparties sur quatre sites, deux dans le Maryland et deux dans l’Ohio (nord). Une autre usine, dans l’Iowa (centre), a fermé l’an dernier. “En partie” à cause d’un précédent relèvement des droits de douane sur l’acier, explique-t-il. Ses 40 employés ont pu être reclassés en interne ou ailleurs.C’est sa fierté, et il exclut pour l’heure de procéder à des licenciements face aux bouleversements en cours.”Nos employés, c’est ce qu’on a de plus précieux. Plusieurs générations se succèdent ici”, décrit-il en circulant entre les postes de travail avec bouchons d’oreille anti-bruit, lunettes de protection et gants renforcés pour manipuler les feuilles d’acier coupantes.Le processus n’est qu’en partie automatisé: les ouvriers, payés autour de 40 dollars de l’heure, manipulent les produits à l’entrée et à la sortie des presses, contrôlent la qualité, empilent les boîtes sur des palettes.Dans les allées, des salariés chargés de la maintenance circulent en triporteur, avec leur caisse à outils à l’arrière, pour intervenir rapidement sur les machines.- “Survivre” – Avec des droits de douane sur l’acier de 50%, Rick Huether calcule qu’il devrait augmenter ses prix de plus de 20% (le fer-blanc ne représente qu’une partie de ses coûts de production).Quelques acheteurs ont diminué leur volume de commandes, selon lui “inquiets de la tournure de l’économie” et de manquer eux-mêmes de clients. D’autres, en revanche, semblent plus enclins à acheter américain.Quelques boîtes colorées sont ainsi posées sur son bureau. Un ancien client, qui achetait en Chine depuis des années, attend un devis.”On est très sceptiques. Pendant la pandémie, quand la Chine n’envoyait plus rien, nos commandes ont augmenté de 50%. Fantastique. Ils étaient tous censés rester mais après ils sont repartis en Chine. On demande maintenant des engagements sur deux ans.”Rick Huether veut croire que son entreprise presque centenaire, née pendant la crise de 1929, “survivra”.Tout ce qu’il souhaite, c’est “savoir ce qu’on vendra dans six mois”.

Le Royaume-Uni, appelé à en faire davantage pour la libération de ses ressortissants arbitrairement détenus à l’étranger, s’apprête à imiter les Etats-Unis en nommant un émissaire chargé de cette question.Le défenseur des droits humains égypto-britannique Alaa Abdel Fattah et le magnat des médias hongkongais Jimmy Lai, également citoyen britannique, incarcérés respectivement en Egypte et à Hong Kong, sont les deux cas les plus médiatiques.Le ministère britannique des Affaires étrangères assure qu’il continue à faire pression pour obtenir leur libération mais des proches de ces détenus et des organisations des droits humains accusent les autorités de manquer d’empressement et de transparence.”Le gouvernement est engagé à renforcer son soutien aux ressortissants britanniques, notamment par la nomination d’un nouvel émissaire”, a déclaré un porte-parole du Foreign Office à l’AFP.Le ministre pour le Moyen-Orient, Hamish Falconer, a précisé que cet émissaire pour les détentions “complexes” devrait être nommé “avant l’été”.- “Chose évidente” -Le gouvernement n’a pas donné davantage de précisions sur ce poste mais il pourrait être comparable à celui d’envoyé présidentiel spécial pour les affaires d’otages créé aux Etats-Unis en 2015.A la différence de ce pays toutefois, le Royaume-Uni n’effectue pas d’échanges de prisonniers.La professeure Carla Ferstman, une experte des détentions arbitraires au Centre des droits de l’homme de la faculté de droit d’Essex, estime qu’une telle nomination serait “la chose la plus évidente à faire pour le Royaume-Uni”.”Quand vous avez affaire à quelqu’un au plus haut niveau, cela impose un certain respect”, explique-t-elle à l’AFP.Alaa Abdel Fattah a été arrêté en septembre 2019 en Egypte et condamné à cinq ans de prison pour “diffusion de fausses informations”, après avoir partagé une publication Facebook dénonçant des violences policières.Il est toujours emprisonné malgré sa grève de la faim, celle observée par sa mère et les déclarations de Londres assurant faire pression “au plus haut niveau du gouvernement égyptien” pour obtenir sa libération.Sa soeur, Sanaa Seif, a dit à l’AFP qu’un envoyé spécial permettrait “un véritable suivi” et une meilleure coordination au niveau gouvernemental pour la libération des détenus.- “Stratégie claire” – Elle plaide par ailleurs pour que le gouvernement révise ses conseils aux voyageurs concernant l’Égypte, une demande également exprimée par des parlementaires qui suggèrent en outre de sanctionner des responsables égyptiens.”N’est-il pas évident que les paroles ne suffisent plus ?”, a récemment lancé devant les membres de la Chambre des lords le conservateur Guy Black.Durcir les conseils aux voyageurs est un outil non négligeable, souligne Carla Ferstman. “C’est important, car tout à coup les touristes ne peuvent plus souscrire d’assurance et les voyages d’affaires deviennent plus difficiles”, juge-t-elle.Amnesty International a récemment appelé le gouvernement à définir une “stratégie claire” pour soutenir les Britanniques arbitrairement détenus, notamment en exigeant la présence de représentants britanniques aux procès.Le gouvernement travailliste, mis en place en juillet 2024, s’était engagé pendant la campagne électorale à instaurer “un nouveau droit à l’assistance consulaire en cas de violations des droits humains”.- Réaction rapide -Amnesty souhaite également qu’il réclame la “libération immédiate” des personnes concernées, y compris publiquement lorsque la famille en fait la demande.Cette ONG souligne que Londres a attendu trois ans pour demander publiquement la libération de Jimmy Lai. Un retard qui, selon son fils Sebastian, “envoie un mauvais message” aux “Etats autocratiques”.”Plus vite le gouvernement s’exprime après une arrestation, plus la fenêtre pour obtenir une libération est grande”, explique à l’AFP Eilidh Macpherson, d’Amnesty.Jagtar Singh Johal, un blogueur sikh écossais, a été arrêté en Inde en novembre 2017 où il se trouvait pour son mariage. Il a été accusé d’être impliqué dans un complot terroriste contre des dirigeants hindous d’extrême droite.Il n’a jamais été reconnu coupable de crime et, en mars dernier, il a été acquitté dans l’une des neuf affaires retenues contre lui.Le ministre des Affaires étrangères, David Lammy, “continue de faire part de ses préoccupations” auprès du gouvernement indien “à chaque occasion appropriée”, assure le Foreign Office.Toutefois, le frère du blogueur, Gurpreet Singh Johal, regrette un manque de transparence. “Nous ne savons pas ce qui est réellement dit”, confie-t-il à l’AFP. La nomination d’un émissaire serait, selon lui, “une bonne chose” mais, tant que le poste n’est pas officiellement pourvu, “nous ne saurons pas exactement ce que cela implique”, relève-t-il.

Le Royaume-Uni, appelé à en faire davantage pour la libération de ses ressortissants arbitrairement détenus à l’étranger, s’apprête à imiter les Etats-Unis en nommant un émissaire chargé de cette question.Le défenseur des droits humains égypto-britannique Alaa Abdel Fattah et le magnat des médias hongkongais Jimmy Lai, également citoyen britannique, incarcérés respectivement en Egypte et à Hong Kong, sont les deux cas les plus médiatiques.Le ministère britannique des Affaires étrangères assure qu’il continue à faire pression pour obtenir leur libération mais des proches de ces détenus et des organisations des droits humains accusent les autorités de manquer d’empressement et de transparence.”Le gouvernement est engagé à renforcer son soutien aux ressortissants britanniques, notamment par la nomination d’un nouvel émissaire”, a déclaré un porte-parole du Foreign Office à l’AFP.Le ministre pour le Moyen-Orient, Hamish Falconer, a précisé que cet émissaire pour les détentions “complexes” devrait être nommé “avant l’été”.- “Chose évidente” -Le gouvernement n’a pas donné davantage de précisions sur ce poste mais il pourrait être comparable à celui d’envoyé présidentiel spécial pour les affaires d’otages créé aux Etats-Unis en 2015.A la différence de ce pays toutefois, le Royaume-Uni n’effectue pas d’échanges de prisonniers.La professeure Carla Ferstman, une experte des détentions arbitraires au Centre des droits de l’homme de la faculté de droit d’Essex, estime qu’une telle nomination serait “la chose la plus évidente à faire pour le Royaume-Uni”.”Quand vous avez affaire à quelqu’un au plus haut niveau, cela impose un certain respect”, explique-t-elle à l’AFP.Alaa Abdel Fattah a été arrêté en septembre 2019 en Egypte et condamné à cinq ans de prison pour “diffusion de fausses informations”, après avoir partagé une publication Facebook dénonçant des violences policières.Il est toujours emprisonné malgré sa grève de la faim, celle observée par sa mère et les déclarations de Londres assurant faire pression “au plus haut niveau du gouvernement égyptien” pour obtenir sa libération.Sa soeur, Sanaa Seif, a dit à l’AFP qu’un envoyé spécial permettrait “un véritable suivi” et une meilleure coordination au niveau gouvernemental pour la libération des détenus.- “Stratégie claire” – Elle plaide par ailleurs pour que le gouvernement révise ses conseils aux voyageurs concernant l’Égypte, une demande également exprimée par des parlementaires qui suggèrent en outre de sanctionner des responsables égyptiens.”N’est-il pas évident que les paroles ne suffisent plus ?”, a récemment lancé devant les membres de la Chambre des lords le conservateur Guy Black.Durcir les conseils aux voyageurs est un outil non négligeable, souligne Carla Ferstman. “C’est important, car tout à coup les touristes ne peuvent plus souscrire d’assurance et les voyages d’affaires deviennent plus difficiles”, juge-t-elle.Amnesty International a récemment appelé le gouvernement à définir une “stratégie claire” pour soutenir les Britanniques arbitrairement détenus, notamment en exigeant la présence de représentants britanniques aux procès.Le gouvernement travailliste, mis en place en juillet 2024, s’était engagé pendant la campagne électorale à instaurer “un nouveau droit à l’assistance consulaire en cas de violations des droits humains”.- Réaction rapide -Amnesty souhaite également qu’il réclame la “libération immédiate” des personnes concernées, y compris publiquement lorsque la famille en fait la demande.Cette ONG souligne que Londres a attendu trois ans pour demander publiquement la libération de Jimmy Lai. Un retard qui, selon son fils Sebastian, “envoie un mauvais message” aux “Etats autocratiques”.”Plus vite le gouvernement s’exprime après une arrestation, plus la fenêtre pour obtenir une libération est grande”, explique à l’AFP Eilidh Macpherson, d’Amnesty.Jagtar Singh Johal, un blogueur sikh écossais, a été arrêté en Inde en novembre 2017 où il se trouvait pour son mariage. Il a été accusé d’être impliqué dans un complot terroriste contre des dirigeants hindous d’extrême droite.Il n’a jamais été reconnu coupable de crime et, en mars dernier, il a été acquitté dans l’une des neuf affaires retenues contre lui.Le ministre des Affaires étrangères, David Lammy, “continue de faire part de ses préoccupations” auprès du gouvernement indien “à chaque occasion appropriée”, assure le Foreign Office.Toutefois, le frère du blogueur, Gurpreet Singh Johal, regrette un manque de transparence. “Nous ne savons pas ce qui est réellement dit”, confie-t-il à l’AFP. La nomination d’un émissaire serait, selon lui, “une bonne chose” mais, tant que le poste n’est pas officiellement pourvu, “nous ne saurons pas exactement ce que cela implique”, relève-t-il.