Dass Geheimdienste und Militär Künstliche Intelligenz nutzen, ist kein Geheimnis. Überraschend sind die konkreten Fälle, die Anthropic über die Nutzung seines Modells Claude jetzt veröffentlicht. Nach diesem Bericht gibt es umfangreiche Versuche, gefährliche Virusforschung zu planen, Überwachungstechnik zu programmieren, Cyberoperationen zu automatisieren und westliche Spitzenmodelle heimlich als Trainer für eigene Systeme zu nutzen.
Nutzer von Claude haben in den vergangenen Monaten erneut versucht, riskante Forschungen und staatliche Kontrollprojekte mit künstlicher Intelligenz zu betreiben. Der Hersteller Anthropic schreibt, er habe die Konten gesperrt, die Sicherheitsfilter nachgeschärft und die Fälle an Behörden und Partner weitergegeben.
Anthropic führt die Aktivitäten aufgrund interner Nutzungsdaten und technischer Spuren auf mutmaßlich staatlich unterstützte Akteure, Militärinstitute, Überwachungsanbieter und chinesische KI-Unternehmen zurück. Bei der Biologieforschung nennt die Firma bewusst keine Länder und Institute. Bei Überwachung, Cyber und Distillation nennt sie Akteure und Staaten dagegen ausdrücklich.
Die Angaben beruhen auf der internen Auswertung von Anthropic und sind nicht in allen Fällen unabhängig überprüfbar.
Einige Monate, nachdem Unbefugte Zugriff auf das nur eingeschränkt verfügbare Modell Claude Mythos erhalten haben sollen, zeigen neue Fälle, dass die Gefahr des Missbrauchs von KI für IT-Attacken, riskante Biologieforschung und Überwachungsmaßnahmen fortbesteht.
Ein interner Filter von Claude stoppte beispielsweise die Hilfe an einem Förderantrag zum Chikungunya-Virus. Ziel des Antrags: Das Virus sollte ansteckender werden und dem Immunsystem besser ausweichen. Der Text klang nach ziviler Forschung, geplant war die Arbeit an einem Militärinstitut. Ähnliche Methoden könnten Impfstoffe verbessern oder einen Erreger gefährlicher machen.
DEUTSCHLAND: AfD-Hammer! Nach seiner Äußerung im Bundestag! Strafanzeige gegen Kanzler Merz I STREAM
