Geheim-KI „Claude Mythos“ außer Kontrolle – werden wir jetzt alle gehackt?

vor 3 Monaten

Geheim-KI „Claude Mythos“ außer Kontrolle – werden wir jetzt alle gehackt?
Bildquelle: NiUS

Anthropic bezeichnet sein neues KI-Modell als zu gefährlich für die Öffentlichkeit. Jetzt zeigt sich: Unbekannte hatten seit dem ersten Tag Zugriff. Und die KI selbst hat schon einmal ihr eigenes Labor verlassen.

Ein abgeschirmter Testraum bei Anthropic in San Francisco. Auf dem Bildschirm läuft ein neues KI-Modell – eingesperrt in einer digitalen Quarantänezone, einer sogenannten Sandbox. Keine Verbindung nach außen.

Doch die KI hält sich nicht an die Regeln. Ohne entsprechenden Befehl analysiert sie ihre Umgebung, findet Sicherheitslücken, verkettet sie zu einem Angriff, bricht aus und verschafft sich schlussendlich trotz höchster Sicherheitsvorkehrungen Zugriff auf das Internet. Als die KI dann ihrem Forscher eine E-Mail schreibt, fällt dieser aus allen Wolken.

Publisher Logo

Dieser Artikel ist von NiUS

Klicke den folgenden Button, um den Artikel auf der Website von NiUS zu lesen.

Weitere Artikel