OpenAI startet Förderprogramm zur Finanzierung von Experimenten für demokratische KI-Governance

OpenAI, das von Elon Musk mitbegründete Forschungslabor für künstliche Intelligenz, hat ein Förderprogramm zur Finanzierung von Experimenten angekündigt, die darauf abzielen, einen demokratischen Prozess für die Entscheidung zu etablieren, welchen Regeln KI-Systeme folgen sollen. Das Programm vergibt zehn Zuschüsse im Wert von jeweils 100.000 US-Dollar an Einzelpersonen, Teams und Organisationen, um Proof-of-Concepts für einen demokratischen Prozess zu entwickeln, der Fragen zu Leitplanken für KI beantworten könnte. OpenAI möchte aus diesen Experimenten lernen und sie als Grundlage für einen globaleren und ehrgeizigeren Prozess in der Zukunft nutzen.

Der Start des Zuschussprogramms folgt den Forderungen von OpenAI nach einer internationalen Regulierungsbehörde für KI, ähnlich der für die Kernenergie. In seinem Vorschlag für ein solches Gremium argumentierte OpenAI, dass die bestehenden Behörden die Technologie aufgrund des Innovationstempos in der KI nicht ausreichend eindämmen könnten.

Die zentralen Thesen:

• OpenAI startet ein Zuschussprogramm zur Finanzierung von Experimenten, die darauf abzielen, einen demokratischen Prozess für die Entscheidung zu etablieren, welchen Regeln KI-Systeme folgen sollen.
• Das Programm vergibt zehn Zuschüsse im Wert von jeweils 100.000 US-Dollar an Einzelpersonen, Teams und Organisationen, um Proof-of-Concepts für einen demokratischen Prozess zu entwickeln, der Fragen zu Leitplanken für KI beantworten könnte.
• OpenAI möchte aus diesen Experimenten lernen und sie als Grundlage für einen globaleren und ehrgeizigeren Prozess in der Zukunft nutzen.
• Der Start des Zuschussprogramms folgt den Forderungen von OpenAI nach einer internationalen Regulierungsbehörde für KI, ähnlich der für die Kernenergie.
• OpenAI ist davon überzeugt, dass Entscheidungen darüber, wie sich KI verhält, von unterschiedlichen Perspektiven geprägt werden sollten, die das öffentliche Interesse widerspiegeln.

Das platonische Ideal der Demokratie

OpenAI hofft, einen Prozess zu etablieren, der das platonische Ideal der Demokratie widerspiegelt, bei dem eine breit repräsentative Gruppe von Menschen Meinungen austauscht, sich an „bewussten“ Diskussionen beteiligt und letztendlich in einem transparenten Entscheidungsprozess über ein Ergebnis entscheidet. Das Programm zielt darauf ab, Fragen zu beantworten wie „Unter welchen Bedingungen sollten KI-Systeme Persönlichkeiten des öffentlichen Lebens verurteilen oder kritisieren, wenn man bedenkt, dass die verschiedenen Gruppen unterschiedliche Meinungen zu diesen Persönlichkeiten haben?“ und „Wie sollten umstrittene Ansichten in KI-Ausgaben dargestellt werden?“

Das Hauptziel des Zuschussprogramms besteht darin, Innovationen in Prozessen zu fördern, da OpenAI davon überzeugt ist, dass verbesserte demokratische Methoden erforderlich sind, um das KI-Verhalten zu steuern. OpenAI möchte, dass Entscheidungen darüber, wie sich KI verhält, von verschiedenen Perspektiven geprägt werden, die das öffentliche Interesse widerspiegeln.

Anwendungsdetails

Ab heute können sich Menschen für das OpenAI-Stipendienprogramm bewerben. Die Frist endet am 24. Juni um 21 Uhr. Sobald die Bewerbungsfrist endet, wählt OpenAI zehn erfolgreiche Empfänger aus. Die Empfänger müssen ein Konzept vorlegen, an dem mindestens 500 Teilnehmer beteiligt sind, bis zum 20. Oktober einen öffentlichen Bericht über ihre Ergebnisse veröffentlichen und den Code hinter ihrer Arbeit als Open Source veröffentlichen.

In dem Ankündigungsbeitrag deutet OpenAI an, dass das Förderprogramm völlig von seinen kommerziellen Interessen getrennt sei. Angesichts der jüngsten Kritik des OpenAI-Mitbegründers Sam Altman an der vorgeschlagenen KI-Regulierung in der EU erscheint der Zeitpunkt jedoch auffällig. Altmans Auftritt vor dem Kongressausschuss des US-Senats letzte Woche, wo er sich für eine bestimmte Variante der KI-Regulierung einsetzte, die nur minimale Auswirkungen auf die heutige Technologie von OpenAI haben würde, verstärkt den Verdacht ebenfalls.

Nichtsdestotrotz stellt das Programm eine interessante Richtung für die KI-Politik dar, auch wenn es in offensichtlicher Weise die Bemühungen der EU duplizieren könnte. Es bleibt abzuwarten, welche Ideen für „demokratische Prozesse“ entstehen und welche Bewerber OpenAI wählen wird.

Hauptschlüsselwort: OpenAI

LSI-Schlüsselwörter: Künstliche Intelligenz, Förderprogramm, Demokratischer Prozess, KI-Systeme, Innovation, Platonisches Ideal der Demokratie