Uneingeschränkter KI-Einsatz OpenAI-Managerin kündigt nach umstrittenem Deal mit Pentagon

Bild vergrößern

Logo von OpenAI (Symbolbild)

Foto: Dado Ruvic / REUTERS

Im Streit über die Zusammenarbeit von OpenAI mit dem US-Militär wirft eine ranghohe Managerin bei dem KI-Entwickler hin. Caitlin ​Kalinowski,Leiterin für Robotik und Hardware bei OpenAI,gab am Samstag ihren Rücktritt bekannt.

Sie begründete ‌dies mit Bedenken über den jüngsten Auftrag des US-Verteidigungsministeriums. OpenAI habe sich nicht genügend Zeit genommen,bevor es der Nutzung seiner KI-Modelle in den geheimen Cloud-Netzwerken des Ministeriums zugestimmt habe,kritisierte die Managerin auf der Plattform X

.

Rivale Anthropic forderte Garantien und verlor Auftrag

OpenAI hatte Ende Februar eine Einigung mit ​dem Militär bekannt gegeben,nachdem nur kurz zuvor US-Präsident Donald Trump die Bundesbehörden angewiesen hatte,⁠Geschäfte ⁠mit dem eigentlichen Vertragspartner,dem OpenAI-Rivalen Anthropic,einzustellen.

Anthropic hatte Garantien dafür gefordert

,dass seine KI nicht für vollständig autonome Waffen oder zur Massenüberwachung in den USA ‌eingesetzt wird. Das Verteidigungsministerium,das von Trump als Kriegsministerium bezeichnet ​wird,hatte dem ‌aber nicht zustimmen wollen.

Fehlende Eingrenzung des Handlungsspielraums

Kalinowski war erst 2024 zu OpenAI gewechselt,nachdem sie zuvor bei Meta Platforms die Hardware-Entwicklung für Erweiterte ​Realität (AR) geleitet hatte.

»KI spielt eine wichtige Rolle für die nationale Sicherheit«,schrieb Kalinowski. »Aber die Überwachung von Amerikanern ohne richterliche Aufsicht und tödliche Autonomie ohne menschliche Autorisierung sind Grenzen,die mehr Überlegung verdient hätten,‌als sie bekommen haben.«

OpenAI weist Kritik zurück

Der Deal sei verkündet worden,ohne dass die nötigen Sicherheitsleitplanken definiert worden seien. Es handele sich dabei in ‌erster Linie um ein Problem der ​Unternehmensführung,hieß es in ‌einem weiteren Beitrag. Solche Entscheidungen seien zu wichtig,um sie ‌zu überstürzen.

data-area="text" data-pos="12">

OpenAI wies die Kritik ⁠am Samstag zurück. Das Unternehmen bekräftigte,​seine »roten Linien« würden den Einsatz der Technologie für inländische Überwachung oder autonome Waffen ausschließen. Großes Vertrauen in diese »roten Linien« scheint OpenAI-Chef Sam Altman jedoch offenbar nicht zu haben – mehr dazu lesen Sie hier.

jmm/Reuters