KI-Experten warnen vor Machtkonzentration und fordern sorgfältige Regulierung
Mehr als 1.300 Mitarbeiter und Führungskräfte von Unternehmen der künstlichen Intelligenz, darunter Anthropic und Google DeepMind, haben im Juli diesen Jahres eine offene Briefe veröffentlicht. Sie äußerten Bedenken hinsichtlich der raschen Entwicklung fortschrittlicher KI-Modelle – sogenannter ‘Frontier’-Modelle – und der daraus resultierenden Diskrepanz zur Fähigkeit von Fachleuten, diese zu verstehen.
CEO Dario Amodei kritisiert falsche Dichotomie
Dario Amodei, CEO von Anthropic, hat sich in den letzten Jahren intensiv mit den Risiken und Chancen der KI auseinandergesetzt. In Essays wie „Pacing the frontier“ (Juli 2026) und „Machines of loving grace“ (Oktober 2024) betonte er, dass die Vorstellung einer unkontrollierbaren Machtkonzentration in wenigen Händen oder eine pauschale Regulierung keine Lösung seien.
Microsoft scheint bereits die Marketing-Initiative „Mico“, seine KI-Maskottchen, zu beenden. Dies wurde in einem philosophischen Austausch auf X (ehemals Twitter) mit Gavin Baker, einem Investor und CIO von Atreides Management, deutlich gemacht. Baker teilte einen Essay von Amodei, der die Gefahr einer extremen wirtschaftlichen Machtkonzentration durch KI hervorhebt und eine sorgfältige Regulierung fordert.
Baker argumentiert, dass die Geschichte gezeigt habe, dass die Macht nicht in den Händen eines „absoluten, wohlwollenden“ Machthabers liegen sollte, da dies zu unsicheren und negativen Ergebnissen führen kann. Er bezieht sich dabei insbesondere auf die bereits erwähnten Frontier-Modelle, nicht jedoch auf eine Dezentralisierung in kleineren KI-Modellen, die Anthropic in früheren Investitionsrunden unterstützt hat.
Amodei werde laut Baker mit seinen Bemühungen um eine Regulierung „Steine auf sein eigenes Haus werfen“. Baker glaubt, dass die Regulierung die Chancen einer positiven Auswirkung der KI auf die USA und die Menschheit insgesamt verringern könnte. Er sieht stattdessen das Potenzial, dass KI bei der Heilung vieler Krankheiten und der Verlängerung der Lebensspanne helfen könnte – ähnlich wie in der Science-Fiction-Serie „Star Trek“.
Dario Amodei reagierte auf diese Diskussion mit einer längeren Antwort, in der er die falsche Dichotomie zwischen Regulierung und Machtkonzentration aufhebt. Er betonte, dass eine Analogie die Situation veranschaulichen könnte, dass.