Kritik an OpenAI: Experten warnen vor verkürzten Sicherheitstests

Weniger Tests könnten die Modellintegrität beeinträchtigen

„Die Verkürzung der Zeit für Sicherheitstests könnte die Qualität des Startmodells erheblich beeinträchtigen“, mahnen Experten. „Wenn es Fälle von Halluzinationen oder Schäden aufgrund von Modellausgaben gibt, wird OpenAI das Vertrauen der Menschen verlieren und damit zurecht kommen müssen, dass die Einführung strauchelt“, betont Jain.

“Das kann auf die Verkürzung der Testzeit zurückgeführt werden. OpenAI hat bereits ein Imageproblem, weil es von einem gemeinnützigen zu einem gewinnorientierten Unternehmen geworden ist. Jeder Vorfall kann das angeschlagene Image weiter schädigen, dass sie aus Profitgründen auf angemessene Tests verzichten“, fügt der Parekh Consulting-Analyst hinzu.

Eine der Quellen bezeichnete die Verkürzung der Testzeit als „leichtsinnig“ und als „Rezept für eine Katastrophe“. Eine andere Person, die an den GPT-4-Tests beteiligt war, sagte, dass einige mögliche Gefahren erst zwei Monate nach Beginn der Tests entdeckt wurden.