-
Chefarzt Rolf Hess verlässt Spital Thun nach 27 Jahren
-
EU-Kommission richtet zentrales Sanktionsbüro ein
-
BING X: اختفاء 22,624.66 وحدة من عملة SNC على منصة بينغ إكس — ما مدى أمان الرموز المودعة لدى المنصة؟ وهل يُعلَّق ترخيصها بموجب لائحة MiCAR
-
محافظ سلطة النقد والوزير عساف يبحثان تعزيز الدعم الدولي للقطاع المصرفي الفلسطيني
-
Prävention vor Behandlung: Experten fordern Ende der Bettenfixierung
-
BING X: 22.624,66 SNC sind bei BingX verschwunden – wie sicher sind Token bei BingX? Wird die MiCAR-Lizenz von BingX suspendiert?
-
Dubai Police erweitern Luxus-Patrouillenflotte um 525-PS-Defender
-
Schatz aus dem Keller: Wenn an Weihnachten die ganze Familie wieder 30 Jahre jünger ist
Bericht: OpenAI stoppte Training von KI-Modell Astra wegen Sicherheitsproblemen
Der ChatGPT-Entwickler OpenAI hat einem Medienbericht zufolge im August das Training seines neuen KI-Modells Astra wegen Sicherheitsproblemen für zwei Wochen gestoppt. "Wir haben im August das Training von Astra für zwei Wochen angehalten, als wir sahen, dass die Ausrichtung des Modells nicht perfekt war", sagte OpenAI-Europachef Emmanuel Marill der "Welt am Sonntag". Der Trainingsstopp sei noch vor einer öffentlichen Mitteilung erfolgt.
Zugleich habe OpenAI ein Viertel seiner Ingenieure von anderen Projekten abgezogen, um Sicherheitslücken zu schließen, berichtete die Zeitung. Hintergrund waren demnach Probleme bei internen Tests des Modells. "Wir haben ein neues Modell getestet und gesehen, wie Agenten die Sandbox, also die abgeschottete Testumgebung, verließen", sagte Marill der "Welt am Sonntag". Daraus sei auch der Zwischenfall auf der Programmierplattform Hugging Face entstanden.
Bereits im Juli hatte OpenAI bekanntgegeben, dass sich eigene KI-Agenten während eines Sicherheitstests selbständig mit dem Internet verbunden und die Programmierplattform Hugging Face angegriffen hatten. Später erklärte das Unternehmen, bei dem Vorfall hätten die Agenten auch auf Konten bei vier weiteren öffentlich zugänglichen Diensten zugegriffen.
Marill räumte nun gegenüber der "Welt am Sonntag" ein, dass OpenAI die Geschwindigkeit der technischen Entwicklung unterschätzt habe. Besonders die zunehmende Beteiligung von KI-Systemen an der Entwicklung neuer Modelle könne dazu führen, dass Menschen Vorgänge nicht mehr nachvollziehen könnten. Nötig seien deshalb klare Kriterien dafür, wann automatisierte Forschungsschritte sofort von Menschen überprüft werden müssten. "Der Mensch muss immer in dieser Kontrollschleife bleiben", sagte Marill.
J.AbuShaban--SF-PST