Security
OpenAI lässt vier unabhängige Organisationen erstmals vor Ort seine KI-Systeme prüfen
The Decoder · Von Manuel Uth ·
Das Wichtigste
- OpenAI gewährt vier unabhängigen Prüforganisationen, darunter Apollo Research und METR, erstmals direkten Zugang zu unveröffentlichten Modellen, Quellcode und Trainingsdaten.
- Die Prüfungen finden vor Ort statt und sollen verdecktes Fehlverhalten sowie Sicherheitslücken aufdecken.
Warum es wichtig ist
Externe Prüfungen mit Zugang zu Modellen und Trainingsdaten sind ein Versuch, Sicherheitsaussagen von KI-Anbietern unabhängig überprüfbar zu machen. Für Leserinnen und Leser in Deutschland, Österreich und der Schweiz ist das relevant, weil solche Befunde die Einschätzung von Risiken leistungsfähiger KI-Systeme prägen.
Wen es betrifft
- Forschende in der KI-Sicherheit
- Nutzerinnen und Nutzer von OpenAI-Produkten
- #ki-sicherheit
- #openai
- #modellprüfung
- #transparenz
- #sicherheitslücken
OpenAI gewährt vier unabhängigen Prüforganisationen, darunter Apollo Research und METR, erstmals direkten Zugang zu unveröffentlichten Modellen, Quellcode und Trainingsdaten. Die eingebetteten Prüfungen sollen heimliches Fehlverhalten und Sicherheitslücken aufdecken. OpenAI darf…