Dario Amodei, CEO von Anthropic, hat in seinen neuesten Äußerungen vor den Gefahren gewarnt, die sich aus der Entwicklung überintelligenter künstlicher Intelligenz ergeben, und die betreffenden Industrien aufgefordert, das Tempo der Entwicklung dieser Technologie zu verlangsamen. Dieses Thema wurde zu einer ernsthaften Diskussion, nachdem ein Forscher des Unternehmens auf ernsthafte Gefahren durch den Wettbewerb in diesem Bereich hingewiesen hatte.
Bedenken über die Selbstverbesserung von KI
Die jüngsten Warnungen wurden insbesondere geäußert, nachdem ein Forscher von Anthropic erklärt hatte, dass führende Unternehmen im Bereich der künstlichen Intelligenz „in Richtung überintelligenter Selbstverbesserung rennen und mit unserem Leben spielen“. Er schätzte auch, dass die Wahrscheinlichkeit, dass diese Technologie in den nächsten zehn Jahren zur Auslöschung der Menschheit führen könnte, über 10 Prozent liegt.
Mehr lesen: Strategische Zusammenarbeit zwischen Oman und dem Islamischen Bündnis zur Bekämpfung des Terrorismus
In diesem Zusammenhang forderte Amodei ernsthafte Aufmerksamkeit für das Tempo der KI-Entwicklung. Andere Führungskräfte, darunter Sam Altman, CEO von OpenAI, und Elon Musk, CEO von xAI, unterstützten diese Forderung. Im Gegensatz dazu war Donald Trump, der frühere Präsident der Vereinigten Staaten, gegen eine Verlangsamung der KI-Entwicklung in den USA und betonte den Wettbewerb mit China.
Potenzielle Folgen überintelligenter KI
Die hypothetische Technologie überintelligenter künstlicher Intelligenz bezieht sich im Allgemeinen auf ein System, das über eine Intelligenz verfügt, die die besten menschlichen Köpfe übertrifft. Diese Technologie könnte in naher Zukunft unabhängig wissenschaftliche Forschung, Unternehmensführung und die Entwicklung neuer Technologien durchführen. Die bestehenden Bedenken beziehen sich hauptsächlich auf den Weg, den einige Forscher für die Erreichung dieses Niveaus der künstlichen Intelligenz halten: die automatische Verbesserung, bei der KI-Systeme zur Gestaltung und Ausbildung ihrer nächsten Generation verwendet werden.
Der internationale Bericht über die Sicherheit von KI im Jahr 2026, der von Yoshua Bengio, dem Turing-Preisträger, geleitet wird, hat erklärt, dass die aktuellen KI-Systeme noch nicht die notwendigen Fähigkeiten für Szenarien des Kontrollverlusts besitzen, sich aber schnell weiterentwickeln.
Zu den potenziellen Folgen dieser Entwicklungen gehören der Verlust technischer Kontrolle und der Anstieg biologischer Waffen sowie Cyberangriffe. Fortschrittliche Modelle könnten von feindlichen Akteuren zur Ingenieurkunst von Pathogenen oder zur Durchführung großangelegter Cyberangriffe auf kritische Infrastrukturen genutzt werden.
Darüber hinaus könnten diese Fortschritte zu geopolitischen und wirtschaftlichen Instabilitäten führen. Ein plötzlicher Fortschritt in Richtung überintelligenter KI könnte den Arbeitsmarkt stören und die geopolitische Macht in den Händen einer kleinen Anzahl von Unternehmen oder Ländern konzentrieren.
Gleichzeitig könnten diese Technologien auch viele Vorteile mit sich bringen. Befürworter überintelligenter KI glauben, dass diese Technologien bei der Behandlung von Krankheiten, der Beschleunigung wissenschaftlicher Entdeckungen und der Lösung globaler Probleme wie des Klimawandels wirksam sein können.
Schließlich hat Amodei in einem Artikel mit dem Titel „Wir müssen die Grenzen festlegen“ die führenden Unternehmen aufgefordert, mehr Zugang zu unabhängigen Sicherheitsbewertungen zu gewähren. Diese Forderung hat sich unter den Führungskräften der Technologie zu einem seltenen Konsens entwickelt, und Altman und Musk haben sie ebenfalls unterstützt.
Mehr lesen: Die Antiterrorgruppe der Shanghai Cooperation Organization verurteilt die jüngsten Angriffe der USA auf den Iran · Satya Nadella: Menschliche Kontrolle über künstliche Intelligenz ist notwendig
