Deutschland
The Morning Science

Was die Forschung heute herausgefunden hat – und wie belastbar es ist

‹
 

Security

OpenAI lässt vier unabhängige Organisationen erstmals vor Ort seine KI-Systeme prüfen

The Decoder · Von Manuel Uth ·

OpenAI lässt vier unabhängige Organisationen erstmals vor Ort seine KI-Systeme prüfen

Das Wichtigste

  • OpenAI gewährt vier unabhängigen Prüforganisationen, darunter Apollo Research und METR, erstmals direkten Zugang zu unveröffentlichten Modellen, Quellcode und Trainingsdaten.
  • Die Prüfungen finden vor Ort statt und sollen verdecktes Fehlverhalten sowie Sicherheitslücken aufdecken.

Warum es wichtig ist

Externe Prüfungen mit Zugang zu Modellen und Trainingsdaten sind ein Versuch, Sicherheitsaussagen von KI-Anbietern unabhängig überprüfbar zu machen. Für Leserinnen und Leser in Deutschland, Österreich und der Schweiz ist das relevant, weil solche Befunde die Einschätzung von Risiken leistungsfähiger KI-Systeme prägen.

Wen es betrifft

  • Forschende in der KI-Sicherheit
  • Nutzerinnen und Nutzer von OpenAI-Produkten

OpenAI gewährt vier unabhängigen Prüforganisationen, darunter Apollo Research und METR, erstmals direkten Zugang zu unveröffentlichten Modellen, Quellcode und Trainingsdaten. Die eingebetteten Prüfungen sollen heimliches Fehlverhalten und Sicherheitslücken aufdecken. OpenAI darf…

Was hältst du davon?

0 Kommentare