Jacob Coxon, Forscher bei dem AI-Startup Anthropic, trat am Dienstag öffentlich von seiner Position zurück und verwies dabei auf seine Bedenken hinsichtlich der aufkommenden Technologien. Diese Entscheidung führte zu einer Flut von Reaktionen und Nachrichten innerhalb des Unternehmens.
Reaktionen auf Coxons Rücktritt
In einer internen Chatgruppe, die von einigen Mitarbeitern von Anthropic beobachtet wurde, schrieb ein Mitarbeiter: "Das ist genau das, was wir alle sagen; der einzige Unterschied ist, dass dieses Thema jetzt öffentlich angesprochen wird." Ein anderer Mitarbeiter fügte hinzu: "Jacob hat die Diskussion vom internen Chat auf die öffentliche Bühne gebracht, und das ist eine gute Sache." Diese Reaktionen hallten insbesondere unter den AI-Forschern der Unternehmen Anthropic, OpenAI, Meta und Google wider.
Mehr lesen: Die Regierung Chinas und das System zur Bewertung von Bürgern
Bedenken hinsichtlich der Sicherheit von Künstlicher Intelligenz
Einige Forscher analysierten Coxons soziale Medienbeiträge; darunter einen Beitrag, in dem er erklärte, wie OpenAI und Anthropic mit dieser Technologie das Leben von Menschen aufs Spiel setzen. Viele AI-Mitarbeiter wandten sich an interne Messaging-Dienste, verschlüsselte Chats und private Abendessen, um Bemühungen zur Sensibilisierung für die Gefahren der Künstlichen Intelligenz zu organisieren.
Im Rahmen dieser Bemühungen gab es von AI-Experten Maßnahmen, um die Entwicklung von Technologien durch die Führungskräfte ihrer Unternehmen zu stoppen, um Zeit zu gewinnen, um sicher daran zu arbeiten. Einige andere folgten Coxon und äußerten ihre Bedenken öffentlich. Ivan Habinger, Sicherheitsexperte bei Anthropic, erklärte in einem sozialen Medienbeitrag, dass er glaubt, dass die Wahrscheinlichkeit über 10 Prozent liegt, dass KI "alle Menschen in den nächsten zehn Jahren auslöschen könnte". Julie Steele, Sicherheitsexpertin bei OpenAI, forderte eine Verlangsamung der Entwicklung von KI-Technologien.
Andreas Kirsch, ein Mitarbeiter von Google DeepMind, äußerte ebenfalls Bedenken hinsichtlich der möglichen Auslöschung der Menschheit durch Künstliche Intelligenz und unterteilte diese Risiken in zwei Kategorien: "unmittelbare Risiken" und "langfristige Risiken". Diese Entwicklungen spiegeln die zunehmenden Bedenken unter Forschern und Experten für Künstliche Intelligenz hinsichtlich der Sicherheit und Kontrolle von fortschreitenden Technologien wider.
Mehr lesen: Neue Warnungen über die Gefahren von Künstlicher Intelligenz für die Menschheit aus der KI-Industrie · Die berufliche Zukunft von Absolventen der Informatik und Wirtschaft ist gefährdet!
