Onderzoek van OpenAI verklaart waarom het redeneren van frontiermodellen steeds lastiger te monitoren is
Het veiligheidsteam van OpenAI onderzocht waarom chains of thought in modellen als GPT-6 Astra steeds vaker aan toezicht ontsnappen en vond dat vier trainingsstappen, waaronder architectuurkeuzes en reinforcement learning, daar de oorzaak van zijn. Volgens de analyse weerspiegelt dit afwegingen tussen capaciteiten en rekenkosten, en geen onvermijdelijke trend.
Het lezen van de redenering van een model is een belangrijke veiligheidscontrole, en dit laat zien dat labs ervoor kunnen kiezen die te behouden als ze wat kosten accepteren.
aii.news kiest en vat berichten van betrouwbare nieuwsbronnen samen met hulp van AI. Elk bericht linkt naar de oorspronkelijke verslaggeving. Zo werken we.
Lees verder
-
DeepMinds AlphaProof Code verifieert de cryptografische kern van Signal formeel in vier weken
AlphaProof Code van Google DeepMind heeft de cryptografische kerncode van Signal in vier weken wiskundig geverifieerd, een klus die normaal jaren duurt. AI-agents schreven daarvoor meer dan zes miljoen regels bewijscode. DeepMind wil de methode toepassen op kritieke infrastructuur zoals stroomnetten en medische apparatuur.
Waarom het ertoe doetAI kan formeel bewijs van softwarecorrectheid haalbaar maken voor veiligheidskritieke systemen waar mensen dagelijks op vertrouwen.
-
Google lanceert Gemini 4 Hydrogen, nu het standaardmodel in AI-modus van Zoeken
Google heeft Gemini 4 Hydrogen gelanceerd, dat volgens het bedrijf beter omgaat met vragen uit meerdere delen, typfouten en zeer specifieke verzoeken, en de Flash-serie vervangt. Het is vanaf vandaag beschikbaar in Zoeken, de Gemini-app, AI Studio, de Gemini API en Gemini voor bedrijven.
Waarom het ertoe doetMiljarden zoekopdrachten en veel ontwikkelaarsapps draaien nu op dit model, en onafhankelijke tests suggereren bijna topkwaliteit voor minder geld dan sommige concurrenten.
-
Raad van bestuur Nvidia bereidt naar verluidt ontslag CEO Jensen Huang voor na tweede bericht over affaire
De raad van bestuur van Nvidia bereidt naar verluidt het ontslag van CEO Jensen Huang voor na een bericht over een tweede vermeende affaire, dit keer met een leidinggevende die aan hem rapporteert. Dat komt dagen nadat hij een affaire toegaf met een vrouw die een Chinese spion zou zijn.
Waarom het ertoe doetEen leiderschapswissel bij het bedrijf dat de meeste AI-chips levert, kan gevolgen hebben voor de chiplevering, AI-investeringen en de technologische spanningen tussen de VS en China.
-
Jensen Huang treedt af als CEO van Nvidia na spionage- en affaireschandalen; CFO Colette Kress benoemd tot interim-CEO
De raad van bestuur van Nvidia heeft het ontslag van Jensen Huang als CEO, president en bestuurslid met onmiddellijke ingang aanvaard. Dit volgde op berichten over twee affaires, een met een vermeende Chinese spion en een met een Nvidia-topvrouw die aan hem rapporteerde. CFO Colette Kress is nu interim-CEO.
Waarom het ertoe doetHet belangrijkste AI-chipbedrijf ter wereld is zijn oprichter kwijt, wat gevolgen kan hebben voor de levering van AI-hardware, de markten en de discussies over techveiligheid tussen de VS en China.
-
AI-veiligheidswet van New York treedt in werking en zet extra toezicht op OpenAI en Anthropic
New York bereidt de handhaving voor van zijn AI-veiligheidswet, die grote AI-ontwikkelaars verplicht zich te registreren, hun veiligheidspraktijken openbaar te maken en kritieke incidenten te melden. Bedrijven die zich er niet aan houden, riskeren boetes.
Waarom het ertoe doetGrote AI-ontwikkelaars krijgen nu te maken met bindende meldregels voor veiligheid op staatsniveau, die een voorbeeld kunnen worden voor andere rechtsgebieden.
