OpenAI-Forschung erklärt, warum das Reasoning von Frontier-Modellen schwerer zu überwachen ist
Das Sicherheitsteam von OpenAI untersuchte, warum Gedankenketten in Modellen wie GPT-6 Astra sich zunehmend der Aufsicht entziehen, und identifizierte vier Trainingsschritte, darunter Architekturentscheidungen und Reinforcement Learning, als Ursache. Laut der Analyse spiegelt dies Abwägungen zwischen Leistungsfähigkeit und Rechenkosten wider und keinen unvermeidlichen Trend.
Das Lesen des Reasonings eines Modells ist eine zentrale Sicherheitsprüfung – und die Studie zeigt, dass Labore es bewahren können, wenn sie gewisse Kosten in Kauf nehmen.
aii.news wählt Meldungen aus vertrauenswürdigen Nachrichtenquellen aus und fasst sie mithilfe von KI zusammen. Jede Meldung verlinkt auf die Originalberichterstattung. So arbeiten wir.
Weiterlesen
-
DeepMinds AlphaProof Code verifiziert den kryptografischen Kern von Signal in vier Wochen formal
Google DeepMinds AlphaProof Code hat den kryptografischen Kerncode von Signal in vier Wochen mathematisch verifiziert – eine Aufgabe, die normalerweise Jahre dauert. KI-Agenten schrieben dafür mehr als sechs Millionen Zeilen Beweiscode. DeepMind will die Methode auf kritische Infrastruktur wie Stromnetze und Medizingeräte anwenden.
Warum das wichtig istKI könnte formale Korrektheitsbeweise für Software bei sicherheitskritischen Systemen, auf die Menschen täglich angewiesen sind, praxistauglich machen.
-
Google veröffentlicht Gemini 4 Hydrogen, jetzt Standardmodell im KI-Modus der Suche
Google hat Gemini 4 Hydrogen vorgestellt, das laut dem Unternehmen mehrteilige Fragen, Tippfehler und sehr spezifische Anfragen besser bewältigt und die Flash-Reihe ersetzt. Es ist ab heute in der Suche, der Gemini-App, AI Studio, der Gemini API und Gemini für Unternehmen verfügbar.
Warum das wichtig istMilliarden Suchanfragen und viele Entwickler-Apps laufen nun auf diesem Modell, und unabhängige Tests deuten auf nahezu Spitzenqualität zu geringeren Kosten als bei manchen Konkurrenten hin.
-
Nvidia-Aufsichtsgremium bereitet Berichten zufolge Absetzung von CEO Jensen Huang nach zweitem Affärenbericht vor
Nvidias Board bereitet Berichten zufolge die Entlassung von CEO Jensen Huang vor, nachdem über eine zweite mutmaßliche Affäre berichtet wurde – diesmal mit einer ihm unterstellten Führungskraft. Erst wenige Tage zuvor hatte er eine Affäre mit einer Frau eingeräumt, die als chinesische Spionin gilt.
Warum das wichtig istEin Führungswechsel bei dem Unternehmen, das die meisten KI-Chips liefert, könnte Chipversorgung, KI-Investitionen und die Tech-Spannungen zwischen den USA und China beeinflussen.
-
Jensen Huang tritt nach Spionage- und Affärenskandalen als Nvidia-CEO zurück; CFO Colette Kress wird Interims-CEO
Der Nvidia-Vorstand hat den Rücktritt von Jensen Huang als CEO, President und Vorstandsmitglied mit sofortiger Wirkung angenommen. Zuvor gab es Berichte über zwei Affären, eine mit einer mutmaßlichen chinesischen Spionin und eine mit einer ihm unterstellten Nvidia-Managerin. CFO Colette Kress ist nun Interims-CEO.
Warum das wichtig istDas weltweit wichtigste KI-Chipunternehmen hat seinen Gründer verloren – mit möglichen Folgen für die Versorgung mit KI-Hardware, die Märkte und die Debatten über Technologiesicherheit zwischen den USA und China.
-
New Yorks KI-Sicherheitsgesetz tritt in Kraft und bringt mehr Aufsicht für OpenAI und Anthropic
New York bereitet die Durchsetzung seines KI-Sicherheitsgesetzes vor, das große KI-Entwickler verpflichtet, sich zu registrieren, ihre Sicherheitspraktiken offenzulegen und kritische Vorfälle zu melden. Unternehmen, die sich nicht daran halten, drohen Bußgelder.
Warum das wichtig istGroße KI-Entwickler unterliegen nun verbindlichen Sicherheits-Meldepflichten auf Bundesstaatsebene, die anderen Rechtsräumen als Vorbild dienen könnten.
