Une étude d'OpenAI explique pourquoi le raisonnement des modèles de pointe devient plus difficile à surveiller
L'équipe sécurité d'OpenAI a étudié pourquoi les chaînes de pensée de modèles comme GPT-6 Astra échappent de plus en plus à la supervision et a identifié quatre étapes d'entraînement, dont des choix d'architecture et l'apprentissage par renforcement, à l'origine de cette perte. Selon l'analyse, cela reflète des arbitrages entre capacités et coût de calcul plutôt qu'une tendance inévitable.
Lire le raisonnement d'un modèle est un contrôle de sécurité essentiel, et cette étude montre que les laboratoires peuvent choisir de le préserver s'ils acceptent un certain coût.
aii.news sélectionne et résume des articles de sources d'information fiables avec l'aide de l'IA. Chaque article renvoie au reportage d'origine. Notre méthode.
À lire aussi
-
AlphaProof Code de DeepMind vérifie formellement le cœur cryptographique de Signal en quatre semaines
AlphaProof Code de Google DeepMind a vérifié mathématiquement le code cryptographique central de Signal en quatre semaines, une tâche qui prend généralement des années, des agents d'IA ayant écrit plus de six millions de lignes de code de preuve. DeepMind prévoit d'appliquer la méthode à des infrastructures critiques comme les réseaux électriques et les dispositifs médicaux.
Pourquoi c'est importantL'IA pourrait rendre la preuve formelle de la correction des logiciels praticable pour les systèmes critiques dont chacun dépend au quotidien.
-
Google lance Gemini 4 Hydrogen, désormais modèle par défaut du Mode IA de la recherche
Google a lancé Gemini 4 Hydrogen, qui selon l'entreprise gère mieux les questions en plusieurs parties, les fautes de frappe et les demandes très précises, et remplace la série Flash. Il est disponible dès aujourd'hui dans la recherche, l'app Gemini, AI Studio, la Gemini API et Gemini pour les entreprises.
Pourquoi c'est importantDes milliards de recherches et de nombreuses applications de développeurs reposeront désormais sur ce modèle, et des tests indépendants suggèrent une qualité proche du haut de gamme pour moins cher que certains concurrents.
-
Le conseil d'administration de Nvidia s'apprêterait à évincer le PDG Jensen Huang après une deuxième révélation de liaison
Le conseil d'administration de Nvidia se préparerait à limoger le PDG Jensen Huang après la révélation d'une deuxième liaison présumée, cette fois avec une cadre placée sous sa responsabilité. Cela intervient quelques jours après qu'il a reconnu une liaison avec une femme soupçonnée d'être une espionne chinoise.
Pourquoi c'est importantUn changement de direction chez l'entreprise qui fournit la plupart des puces d'IA pourrait affecter l'approvisionnement en puces, les investissements dans l'IA et les tensions technologiques entre les États-Unis et la Chine.
-
Jensen Huang démissionne de son poste de PDG de Nvidia après des scandales d'espionnage et de liaisons ; la CFO Colette Kress nommée PDG par intérim
Le conseil d'administration de Nvidia a accepté la démission de Jensen Huang de ses fonctions de PDG, de président et d'administrateur, avec effet immédiat. Elle fait suite à des informations sur deux liaisons, l'une avec une espionne chinoise présumée et l'autre avec une dirigeante de Nvidia placée sous son autorité. La CFO Colette Kress devient PDG par intérim.
Pourquoi c'est importantLe plus important fabricant de puces IA au monde perd son fondateur, ce qui pourrait peser sur l'approvisionnement en matériel IA, les marchés et les débats sur la sécurité technologique entre les États-Unis et la Chine.
-
La loi new-yorkaise sur la sécurité de l'IA entre en vigueur et renforce la surveillance d'OpenAI et d'Anthropic
New York s'apprête à appliquer sa loi sur la sécurité de l'IA, qui oblige les grands développeurs d'IA à s'enregistrer, à divulguer leurs pratiques de sécurité et à signaler les incidents critiques. Les entreprises qui ne s'y conforment pas s'exposent à des amendes.
Pourquoi c'est importantLes grands développeurs d'IA sont désormais soumis à des règles contraignantes de déclaration en matière de sécurité au niveau d'un État, qui pourraient servir de modèle à d'autres juridictions.
