Medienbericht zu Anthropics - Unbefugte hatten wohl Zugang zur Super-KI
Das neue KI-Modell Mythos Preview von Anthropic kann über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen finden.
Das neue KI-Modell der Firma Anthropic kann so gut Software-Schwachstellen finden, dass es als Cyberwaffe dienen könnte. Anthropic hält es geheim. Doch Neugierige verschafften sich angeblich Zugang.
Ein Medienbericht wirft Fragen zu den Sicherheitsvorkehrungen rund um das neue KI-Modell der Firma Anthropic auf, das extrem gut darin ist, Software-Schwachstellen zu finden. Einige wenige Unbefugte mit Kenntnis von Anthropic-Systemen hätten sich Zugang zu dem Modell mit dem Namen Claude Mythos Preview verschafft, berichtete der Finanzdienst Bloomberg. Von Anthropic hieß es, man prüfe den Bericht.
Mythos gelang es laut Anthropic, zum Teil über Jahrzehnte unentdeckt gebliebene Sicherheitslücken in verschiedener Software zu finden. In den falschen Händen könnte das KI-Modell deshalb zur Entwicklung gefährlicher Cyberwaffen führen. Anthropic hat keine Pläne, Mythos zu veröffentlichen - und gewährt bisher Zugang für ausgewählte Unternehmen und Organisationen, damit sie Schwachstellen in ihrer Software schließen können. So gaben die Entwickler des Web-Browsers Firefox gerade erst bekannt, dass sie mit Mythos 271 Lücken schließen konnten.
Bloomberg zufolge war unter den unbefugten Nutzern ein Mitarbeiter eines externen Dienstleisters von Anthropic mit Zugang zu Systemen der KI-Firma. Geholfen habe den Nutzern auch Wissen darüber, wie Anthropic vorherige Modelle gespeichert habe. Das Unternehmen teilte Bloomberg mit, man habe bisher keine Hinweise darauf, dass es Zugang zu dem Modell abseits der Systeme des Dienstleisters gegeben habe.
