Wie man die gemeinnützige Seele von OpenAI rettet, laut einem ehemaligen OpenAI-Mitarbeiter

(SeaPRwire) –   OpenAI ist kein gewöhnliches Unternehmen. Gegründet als gemeinnützige Organisation im Jahr 2015, wurde vorhergesagt, dass KI “in nahezu jeder intellektuellen Aufgabe menschliche Leistung erreichen” könnte, wodurch die Notwendigkeit einer Organisation entsteht, die “Werte für alle und nicht für Aktionäre schafft”.

In den folgenden Jahren wurde die KI-Entwicklung , und so schuf OpenAI im Jahr 2019 eine , die Investitionskapital aufnehmen konnte, während sie an die gemeinnützige Mission der Organisation gebunden blieb.

Etwa zur Zeit dieses Übergangs trat ich dem Unternehmen als Junior Researcher bei. Mein Team bei OpenAI konzentrierte sich auf : ein Prozess, bei dem ein KI-System mit einer simulierten Umgebung interagiert und durch Ausprobieren und Irrtum lernt, sich zu verbessern. Wir wandten diese Methode zuerst auf Videospiele und dann auf große Sprachmodelle an und formten sie mithilfe von menschlichem Feedback zu frühen Versionen von ChatGPT. Die gleichen Techniken werden heute verwendet, um Systeme zu trainieren, die von Hunderten von Millionen von Nutzern genutzt werden.

Die Arbeit von mir und meinem Team basierte auf der zentralen Verpflichtung, die OpenAI bei ihrem Übergang im Jahr 2019 eingegangen ist: eine rechtsverbindliche Pflicht, die Interessen der Öffentlichkeit vor die der Investoren zu stellen. Aber diese Verpflichtung ist nun bedroht, da OpenAI eine verfolgt, die die Obergrenzen für Investorengewinne aufheben und ihre Verpflichtungen gegenüber ihrer gemeinnützigen Mission schwächen würde.

Es ist verlockend, darauf zynisch zu reagieren und es abzutun: Sobald genug Geld im Spiel war, war die Transformation der Organisation von einer auf ihre Mission ausgerichteten gemeinnützigen Organisation in ein großes Technologieunternehmen unvermeidlich. Aber eine solche Darstellung lässt das Unternehmen ungeschoren davonkommen, seine Versprechen an die Öffentlichkeit zurückzunehmen. Darüber hinaus sind die Umstrukturierungspläne von OpenAI noch von gewählten Beamten, so dass die Öffentlichkeit einen Grund und ein Recht hat, für ihre Interessen einzustehen.

Ich besitze noch Anteile an OpenAI, aber trotz dieses Eigeninteresses am finanziellen Erfolg der Organisation glaube ich, dass die Interessen der Öffentlichkeit geschützt werden müssen. Bevor ich das Unternehmen im Jahr 2023 verließ, wurden bereits Produkte in einem engen Zeitplan veröffentlicht, aber dies scheint sich nur noch verstärkt zu haben, so dass Mitarbeiter vor gewarnt haben. Dieser überstürzte Ansatz führt nun dazu, dass Veröffentlichungen dafür kritisiert werden, “Wut zu schüren, zu impulsiven Handlungen zu drängen oder negative Emotionen zu verstärken”. In der Zwischenzeit haben Entscheidungsträger Gewinnanreize, die diese Nachteile nicht vollständig berücksichtigen.

Die Verantwortung dafür, OpenAI an seiner gemeinnützigen Mission festzuhalten, liegt beim gemeinnützigen Verwaltungsrat. Leider haben viele dass dem derzeitigen gemeinnützigen Verwaltungsrat die Unabhängigkeit und die Ressourcen fehlen, die erforderlich sind, um diese Rolle effektiv auszufüllen. Seit 2019 sind die kommerziellen Aktivitäten von OpenAI von nicht existent auf Milliarden von Dollar an jährlichen Einnahmen angewachsen. Im Gegensatz dazu hat die gemeinnützige Organisation immer noch kein eigenes unabhängiges Personal, und ihre Vorstandsmitglieder sind zu sehr damit beschäftigt, ihre eigenen Unternehmen oder akademischen Labore zu leiten, um eine sinnvolle Aufsicht zu gewährleisten. Hinzu kommt, dass die geplante Umstrukturierung von OpenAI nun droht, die Autorität des Verwaltungsrats zu schwächen, obwohl er stattdessen gestärkt werden müsste.

Aber es gibt einen anderen Weg nach vorn. Bevor mit einer Umstrukturierung fortgefahren wird, sollte die oberste Priorität des Verwaltungsrats darin bestehen, einen gemeinnützigen CEO einzustellen, um ein unabhängiges Team aufzubauen, das frei von finanziellen Interessenkonflikten und allein dem Verwaltungsrat gegenüber rechenschaftspflichtig ist. Der Zweck dieses Teams wäre es, den Verwaltungsrat bei seinen Aufsichtspflichten zu unterstützen, und es könnte wachsen, um eine Reihe kritischer Funktionen zu erfüllen.

Erstens könnte die gemeinnützige Organisation Leistungsbeurteilungen von Führungskräften anhand der Standards der gemeinnützigen Mission der Organisation durchführen. Diese könnten vom Verwaltungsrat verwendet werden, um Vergütungspakete für Führungskräfte festzulegen und so Anreize an der Spitze des Unternehmens zu schaffen.

Zweitens könnte die gemeinnützige Organisation dem Verwaltungsrat unabhängige Expertise in Bezug auf Sicherheit und Schutz bieten. Sie könnte interne Sicherheitstests, die im Rahmen des des Unternehmens durchgeführt werden, sowie externe Sicherheitstests und Audits von Drittanbietern der Sicherheitspraktiken des Unternehmens überprüfen. Frontier-Einsätze könnten der Genehmigung des Verwaltungsrats unterliegen, unterstützt durch Zusammenfassungen dieser Überprüfungen.

Drittens könnte die gemeinnützige Organisation die Transparenz erhöhen. Durch die Aufrechterhaltung eines eigenen Kommunikationskanals mit der Öffentlichkeit könnte sie die Öffentlichkeit über die Sicherheits- und Schutzpraktiken des Unternehmens, wichtige Änderungen an internen Richtlinien oder Modellspezifikationen und neue Fähigkeiten von öffentlichem Interesse auf dem Laufenden halten. Sie könnte auch ihre eigenen Postmortems von Sicherheitsvorfällen durchführen und veröffentlichen und die interne Whistleblower-Hotline verwalten.

Schließlich könnte die gemeinnützige Organisation die Verantwortung für alle Aktivitäten übernehmen, bei denen Gewinnanreize wahrscheinlich von den öffentlichen Interessen abweichen, wie z. B. die des Unternehmens. Sie könnte auch damit beginnen, die enormen finanziellen Ressourcen der gemeinnützigen Organisation (die sich aus ihrer Mehrheitsbeteiligung an dem Unternehmen ergeben) zu nutzen, um Zuschüsse zur Unterstützung sowohl der vorteilhaften Nutzung von KI als auch der Bemühungen zur Risikominderung zu gewähren.

Da die KI-Entwicklung in rasantem Tempo voranschreitet und mit für eine sinnvolle bundesstaatliche Regulierung am Horizont, ist ein handlungsfähiger gemeinnütziger Verwaltungsrat wichtiger denn je. Die Aktivitäten der gemeinnützigen Organisation könnten nicht nur als Aufsicht für OpenAI selbst dienen, sondern auch als Blaupause für andere. So könnten beispielsweise Standards für Transparenz und Überprüfung durch Dritte, die bei OpenAI erprobt werden, einen Ausgangspunkt für künftige Regulierungen bilden.

Die nächsten Schritte von OpenAI werden die Entwicklung des Unternehmens für die kommenden Jahre bestimmen. Anstatt seine Verpflichtungen gegenüber dem öffentlichen Interesse unwiderruflich aufzugeben, könnte es einen Schritt zurücktreten und sie bekräftigen, indem es die Fähigkeit des gemeinnützigen Verwaltungsrats stärkt, seine Aufsichtspflicht zu erfüllen.

Die gemeinnützige Seele von OpenAI kann noch gerettet werden – aber es könnte erforderlich sein, dass sich die Öffentlichkeit als rechtmäßiger Nutznießer Gehör verschafft.

“`