OpenAIs neue Werbung zeigt KI-„Denkvermögen“ mit grundlegenden Fehlern

(SeaPRwire) –   OpenAI veröffentlichte am Donnerstag sein bisher fortschrittlichstes KI-Modell namens o1 für zahlende Nutzer. Der Launch läutete das Event „“ des Unternehmens ein – ein Dutzend aufeinanderfolgender Veröffentlichungen zur Feier der Weihnachtszeit.

OpenAI hat die Fähigkeiten von o1 zum „komplexen Denken“ hervorgehoben und am Donnerstag angekündigt, dass der uneingeschränkte Zugriff auf das Modell 200 US-Dollar pro Monat kosten würde. In dem von dem Unternehmen veröffentlichten Video, um die Stärken des Modells zu zeigen, lädt ein Benutzer ein Bild eines hölzernen Vogelhauses hoch und bittet das Modell um Ratschläge zum Bau eines ähnlichen. Das Modell „denkt“ kurz nach und gibt dann scheinbar eine umfassende Reihe von Anweisungen aus.

Eine genaue Prüfung zeigt, dass die Anweisungen nahezu nutzlos sind. Die KI misst die benötigte Menge an Farbe, Kleber und Dichtmittel in Zoll. Es gibt nur die Abmessungen für die Vorderseite des Vogelhauses an, keine anderen. Es empfiehlt, ein Stück Schleifpapier auf andere Abmessungen zuzuschneiden, ohne ersichtlichen Grund. Und in einem separaten Teil der Anweisungen heißt es: „Die genauen Abmessungen sind wie folgt…“ und es werden dann keine genauen Abmessungen angegeben.

„Sie würden vom Bild genauso viel über den Bau des Vogelhauses wissen wie vom Text, was den Zweck des KI-Tools irgendwie zunichtemacht“, sagt James Filus, der Direktor des Institute of Carpenters, einer in Großbritannien ansässigen Berufsorganisation, in einer E-Mail. Er stellt fest, dass die Materialliste Nägel enthält, die Liste der benötigten Werkzeuge jedoch keinen Hammer enthält, und dass die Kosten für den Bau des einfachen Vogelhauses „bei weitem nicht“ den von o1 geschätzten 20 bis 50 US-Dollar entsprechen würden. „Einfach zu sagen ‚Installieren Sie ein kleines Scharnier‘ deckt nicht wirklich das ab, was vielleicht der komplexeste Teil des Designs ist“, fügt er hinzu und bezieht sich auf einen anderen Teil des Videos, der erklärt, wie man dem Vogelhaus ein öffnendes Dach hinzufügt.

OpenAI antwortete nicht sofort auf eine Bitte um Stellungnahme.

Es ist nur das jüngste Beispiel für eine KI-Produktdemo, die das Gegenteil ihres beabsichtigten Zwecks bewirkt. Im vergangenen Jahr sagte eine für ein KI-gestütztes Suchwerkzeug fälschlicherweise, dass das James-Webb-Teleskop eine Entdeckung gemacht habe, die es nicht gemacht hatte, ein Fehler, der den Aktienkurs des Unternehmens in den Keller schickte. In jüngerer Zeit wurde eine aktualisierte Version eines ähnlichen Google-Tools und dass sie Kleber verwenden könnten, um Käse auf ihre Pizza zu kleben.

OpenAIs o1, das laut öffentlichen Benchmarks das bisher leistungsfähigste Modell ist, verfolgt einen anderen Ansatz als ChatGPT bei der Beantwortung von Fragen. Es ist immer noch im Wesentlichen ein sehr fortschrittlicher „Next-Word-Predictor“, der mithilfe von Machine Learning an Milliarden von Wörtern aus Texten aus dem Internet und darüber hinaus trainiert wurde. Anstatt jedoch sofort Wörter als Antwort auf eine Aufforderung auszugeben, verwendet es eine Technik namens „Chain of Thought“-Reasoning, um im Wesentlichen hinter den Kulissen über eine Antwort „nachzudenken“, und gibt seine Antwort erst danach. Diese Technik liefert oft genauere Antworten, als wenn ein Modell reflexartig eine Antwort ausgibt, und OpenAI hat die Denkfähigkeiten von o1 hervorgehoben – insbesondere in Bezug auf Mathematik und Codierung. Es kann laut Daten, die OpenAI zusammen mit einer im September veröffentlichten Vorschauversion des Modells, 78 % der wissenschaftlichen Fragen auf PhD-Niveau korrekt beantworten.

Aber offensichtlich können immer noch einige grundlegende logische Fehler durchrutschen.