{"id":2748,"date":"2025-04-14T14:39:14","date_gmt":"2025-04-14T14:39:14","guid":{"rendered":"https:\/\/cybersecurityinfocus.com\/?p=2748"},"modified":"2025-04-14T14:39:14","modified_gmt":"2025-04-14T14:39:14","slug":"kritik-an-openai-experten-warnen-vor-verkurzten-sicherheitstests","status":"publish","type":"post","link":"https:\/\/cybersecurityinfocus.com\/?p=2748","title":{"rendered":"Kritik an OpenAI: Experten warnen vor verk\u00fcrzten Sicherheitstests"},"content":{"rendered":"
\n
\n
\n
\n
<\/div>\n
OpenAI hat offenbar seine Sicherheitstests verk\u00fcrzt.\n

JarTee \u2013 shutterstock.com<\/p>\n<\/div>\n

OpenAI ist bekannt f\u00fcr seine KI-Projekte wie der GPT-Reihe, Codec, DALL-E und Whisper. Experten bef\u00fcrchten nun, dass das KI-Forschungsunternehmen seine KI-Angebote ohne angemessenen Schutz bereitstellen k\u00f6nnte.<\/p>\n

Laut einem Bericht <\/a>der Financial Times (FT) gibt der Hersteller von ChatGPT<\/a> seinen Mitarbeitenden und externen Gruppen nur noch wenige Tage Zeit, um die Risiken sowie die Leistung seiner neuesten Large Language Models (LLMs) zu bewerten. Zuvor standen ihnen noch mehrere Monate zur Verf\u00fcgung.<\/p>\n

Dies k\u00f6nnte m\u00f6glicherweise damit zusammenh\u00e4ngen, dass OpenAI Modelle schneller ver\u00f6ffentlichen will und den Schwerpunkt weg von Trainingsmodellen und hin zu Inferenz (Generierung neuer Daten) verlagern will.<\/p>\n

\u201eKI wird zu einem sehr wettbewerbsintensiven Feld, da alle Technologieunternehmen ihre Modelle mit einer atemberaubenden Geschwindigkeit auf den Markt bringen\u201c, erkl\u00e4rt Pareekh Jain, CEO und leitender Analyst bei Parekh Consulting.<\/p>\n

Tester sagen, dass sie jetzt weniger Zeit haben<\/strong><\/h2>\n

In dem FT-Bericht werden acht Personen zitiert, die mit dem Testverfahren von OpenAI vertraut sind. Demnach hat das Unternehmen seine Bem\u00fchungen bei den Sicherheitstests zur\u00fcckgefahren sowie weniger Ressourcen und Zeit f\u00fcr Risikobewertungen aufgewendet.<\/p>\n

OpenAI hat seinen Sicherheitsansatz f\u00fcr seine GPT-Modelle offenbar im Laufe der Zeit ver\u00e4ndert. F\u00fcr GPT-4 widmete das Unternehmen \u00fcber sechs Monate <\/a>Sicherheitsbewertungen, bevor es offiziell an den Start ging. F\u00fcr das GPT-4-Omni-Modell verk\u00fcrzte OpenAI die Testphase jedoch auf nur eine Woche<\/a>, um den Starttermin im Mai 2024 einzuhalten.<\/p>\n

Weniger Tests k\u00f6nnten die Modellintegrit\u00e4t beeintr\u00e4chtigen<\/strong><\/h2>\n

\u201eDie Verk\u00fcrzung der Zeit f\u00fcr Sicherheitstests k\u00f6nnte die Qualit\u00e4t des Startmodells erheblich beeintr\u00e4chtigen\u201c, mahnen Experten. \u201eWenn es F\u00e4lle von Halluzinationen oder Sch\u00e4den aufgrund von Modellausgaben gibt, wird OpenAI das Vertrauen der Menschen<\/a> verlieren und damit zurecht kommen m\u00fcssen, dass die Einf\u00fchrung strauchelt\u201c, betont Jain.<\/p>\n

\u201cDas kann auf die Verk\u00fcrzung der Testzeit zur\u00fcckgef\u00fchrt werden. OpenAI hat bereits ein Imageproblem, weil es von einem gemeinn\u00fctzigen zu einem gewinnorientierten Unternehmen geworden ist. Jeder Vorfall kann das angeschlagene Image weiter sch\u00e4digen, dass sie aus Profitgr\u00fcnden auf angemessene Tests verzichten\u201c, f\u00fcgt der Parekh Consulting-Analyst hinzu.<\/p>\n

Eine der Quellen bezeichnete die Verk\u00fcrzung der Testzeit als \u201eleichtsinnig\u201c und als \u201eRezept f\u00fcr eine Katastrophe\u201c. Eine andere Person, die an den GPT-4-Tests beteiligt war, sagte, dass einige m\u00f6gliche Gefahren erst zwei Monate nach Beginn der Tests entdeckt wurden.<\/p>\n

OpenAI reagierte zwar nicht sofort auf Anfragen, aber der LLM-Riese hat in der Vergangenheit bereits Erfahrung im Umgang mit solchen Vorw\u00fcrfen gesammelt.<\/p>\n

Als Reaktion auf eine \u00e4hnliche Kritik wandelte<\/a> OpenAI im September 2024 seinen Sicherheitsausschuss in einen unabh\u00e4ngigen \u201eAufsichtsausschuss des Vorstands\u201c um. Dieser ist befugt, die Einf\u00fchrung von Modellen aus Sicherheitsgr\u00fcnden zu verz\u00f6gern.<\/p>\n

Verbesserte KI k\u00f6nnte schnellere Tests vorantreiben<\/strong><\/h2>\n

Jain deutete an, dass OpenAI tats\u00e4chlich in der Lage sein k\u00f6nnte, Tests zu beschleunigen, ohne die Sicherheit zu gef\u00e4hrden: \u201eOpenAI muss auch in seinen internen Prozessen viel KI einsetzen. Sie k\u00f6nnten versuchen, die Einf\u00fchrung ihres Modells durch mehr KI-Einsatz zu beschleunigen.\u201c Dieser Gedanke wird durch eine Behauptung von<\/a> OpenAI im Dezember 2024 gest\u00fctzt, in der sie sagten, dass ihre Testmodelle mit KI schnell leistungsf\u00e4higer werden. (jm)<\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>","protected":false},"excerpt":{"rendered":"

OpenAI hat offenbar seine Sicherheitstests verk\u00fcrzt. JarTee \u2013 shutterstock.com OpenAI ist bekannt f\u00fcr seine KI-Projekte wie der GPT-Reihe, Codec, DALL-E und Whisper. Experten bef\u00fcrchten nun, dass das KI-Forschungsunternehmen seine KI-Angebote ohne angemessenen Schutz bereitstellen k\u00f6nnte. Laut einem Bericht der Financial Times (FT) gibt der Hersteller von ChatGPT seinen Mitarbeitenden und externen Gruppen nur noch wenige […]<\/p>\n","protected":false},"author":0,"featured_media":2749,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3],"tags":[],"class_list":["post-2748","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-education"],"_links":{"self":[{"href":"https:\/\/cybersecurityinfocus.com\/index.php?rest_route=\/wp\/v2\/posts\/2748"}],"collection":[{"href":"https:\/\/cybersecurityinfocus.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cybersecurityinfocus.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/cybersecurityinfocus.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2748"}],"version-history":[{"count":0,"href":"https:\/\/cybersecurityinfocus.com\/index.php?rest_route=\/wp\/v2\/posts\/2748\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cybersecurityinfocus.com\/index.php?rest_route=\/wp\/v2\/media\/2749"}],"wp:attachment":[{"href":"https:\/\/cybersecurityinfocus.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2748"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cybersecurityinfocus.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2748"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cybersecurityinfocus.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2748"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}