Kay Firth-Butterfield über den verantwortungsvollen Umgang mit KI

(SeaPRwire) –   Kay Firth-Butterfield arbeitet seit über einem Jahrzehnt an der Schnittstelle zwischen Rechenschaftspflicht und KI und ist begeistert von der Zukunft. „Ich bin keine KI-Pessimistin. Ich glaube, wenn wir es richtig angehen, können sich viele nützliche Türen öffnen“, sagt sie. Sie ist aber dennoch vorsichtig. Nachdem Ärzte bei ihr letztes Jahr Brustkrebs diagnostizierten, war sie dankbar, dass sie sich nicht zu sehr auf KI verließen, obwohl sie zunehmend zur Auswertung von Mammographien und MRTs und sogar bei der Behandlungsplanung eingesetzt wird. Während Firth-Butterfield, die inzwischen geheilt ist, sich weniger Sorgen darüber machte, ob eine Maschine ihre Mammographie auswertete, stellte sie fest, dass eine übermäßige Abhängigkeit von aktuellen KI-Modellen problematisch sein kann, da sie manchmal falsche Informationen liefern. Ihre Chirurgen stimmten ihr zu, sagt sie.

Die ehemalige Richterin und Professorin Firth-Butterfield hat sich zu einer der weltweit führenden Expertinnen für verantwortungsbewusste KI entwickelt und prägt die Bemühungen, sicherzustellen, dass diese Systeme rechenschaftspflichtig und transparent bleiben. Im April letzten Jahres beendete sie ihre fünfeinhalbjährige Tätigkeit als Leiterin für KI und Maschinelles Lernen beim Weltwirtschaftsforum, wo sie Rahmenwerke und Playbooks für Unternehmen, Länder und andere Organisationen erstellte, um eine verantwortungsvolle Entwicklung und Nutzung von KI zu steuern. Ihre Arbeit in der Beratung von Großbritannien und Brasilien bei der Entwicklung solcher KI-Systeme fand Eingang in die Gesetzgebung. „Wenn Sie eine Regierung sind und künstliche Intelligenz bei Ihren Bürgern einsetzen, müssen Sie Ihren Bürgern erklären können, wie sie eingesetzt wird“, sagt sie. Im Jahr 2016 war Firth-Butterfield Mitbegründerin des Responsible AI Institute, das Organisationen Werkzeuge zur Verfügung stellt, um sichere und zuverlässige KI-Systeme zu entwickeln, und sie ist Mitglied eines beratenden Gremiums, das das U.S. Government Accountability Office in KI-Fragen im Zusammenhang mit Wissenschaft und Technologie berät, und eines Beirats für das Internationale Forschungszentrum für KI der UNESCO.

Heutzutage leitet sie auch Good Tech Advisory – mit Unternehmen, Regierungen, NGOs und Medien, um KI verantwortungsbewusst zu implementieren. Das bedeutet, dass sie dabei hilft, Leitlinien für die Nutzung von KI-basierter Technologie zu erstellen, um potenzielle Schäden zu minimieren, gleichzeitig den Nutzen zu maximieren und die Einhaltung gesetzlicher Vorschriften sicherzustellen.

Als CEO von Good Tech Advisory hat Firth-Butterfield Krankenhäusern in den USA geholfen, sich mit den potenziellen Einsatzmöglichkeiten von KI vertraut zu machen, darunter das Lesen medizinischer Bilder und die Bestimmung von Diagnosen. Viele haben keine klaren Richtlinien dafür, wie Mitarbeiter Programme wie ChatGPT nutzen können, obwohl Firth-Butterfield darauf hinweist, dass diese Tools oft ungenaue Informationen liefern können. „Diese Unternehmen kämpfen mit einigen wirklich ernsten Entscheidungen im Bereich verantwortungsvoller KI“, sagt sie. Ärzte, die KI verwenden, um Notizen effizient zu tippen und administrative Aufgaben zu erledigen, können mehr Zeit für die Patientenversorgung aufwenden. Aber sich in Hochdrucksituationen auf KI zu verlassen, um eine Diagnose zu stellen, könnte gefährlich sein. Und wenn ein Patient kränker wird oder stirbt, stellt sich die Frage, wer haftet.

Wenn KI nicht verantwortungsvoll eingesetzt wird, können Menschen verletzt werden – und dabei handelt es sich unverhältnismäßig häufig um Frauen und People of Color, stellt Firth-Butterfield fest. Voreingenommene Algorithmen könnten beispielsweise verhindern, dass ein Arbeitnehmer eingestellt wird, Hypothekenanträge ungerecht ablehnen oder falsche Entscheidungen über Sicherheitsbedrohungen auf der Grundlage von Gesichtserkennung treffen.

Kerngedanke von Firth-Butterfields Fürsprache ist das Verständnis dafür, wie KI die schwächsten Mitglieder der Gesellschaft beeinflusst. Beim WEF arbeitete sie mit der Nutzung von KI mit Kindern zusammen und organisierte einen Smart Toy Award, der eine durchdachte Implementierung forderte. „Wir lassen unsere Kinder mit Spielzeug spielen, das durch künstliche Intelligenz ermöglicht wird, aber wir haben kein Verständnis dafür, was unsere Kinder lernen… oder wohin ihre Daten gehen“, sagt sie.

Es sei nicht die Lösung, den Einsatz von KI in Spielzeug oder Klassenzimmern zu verbieten, um Kinder vor ihren potenziellen Risiken zu schützen, sagt Firth-Butterfield. „Wir brauchen Kinder, die KI in der Bildung nutzen, weil sie sie in ihrer Arbeit nutzen werden. Deshalb müssen wir einen verantwortungsvollen Weg finden, diese Interaktion zwischen Mensch und Maschine zu ermöglichen“, sagt sie. Aber Lehrer müssen die Kontrolle behalten. „Wir können die Bildung nicht einfach der KI überlassen; wir müssen den Menschen mit einbeziehen“, sagt sie. Lehrer könnten sich auf KI für die Back-End-Verwaltung verlassen, wodurch sie mehr Zeit haben, sich auf die Unterstützung ihrer Schüler zu konzentrieren.

Es ist wichtig, genau darauf zu achten, wie die Systeme aufgebaut sind, aber Firth-Butterfield ist auch besorgt darüber, wer sich daran beteiligen darf. Während über 100 Millionen Menschen ChatGPT nutzen, haben fast 3 Milliarden Menschen immer noch keinen Zugang zum Internet. „Wir vergrößern die digitale Kluft rasant – nicht nur zwischen dem globalen Norden und dem globalen Süden, sondern auch innerhalb der Länder“, sagt sie. Obwohl KI das Potenzial hat, den Unterricht in Schulen und die Behandlung von medizinischen Patienten zu revolutionieren, wird ein Großteil der Welt ihre Auswirkungen möglicherweise nicht spüren. „Wir neigen dazu, in unseren Elfenbeintürmen darüber zu sprechen, wie KI alles brillant machen wird, und wir vergessen, dass ein Großteil der Welt nicht Teil der Internetrevolution war“, sagt sie.

Unsere Zukunft steht bei diesen Entscheidungen darüber, wie Menschen KI nutzen und sich auf sie verlassen, auf dem Spiel, sagt sie: „Es geht darum, ob wir als Menschen die Gesellschaft schaffen, die wir wollen.“

Dieses Profil wird als Teil der TIME-Initiative veröffentlicht, die Führungskräfte aus der ganzen Welt auszeichnet, die in ihren Gemeinden und Branchen Veränderungen vorantreiben. Die nächste TIME100 Impact Awards-Zeremonie findet am 11. Februar in Dubai statt.