Superkraft KI News | by Jörg Schieb

Anthropic investiert 100 Millionen Dollar in die Ausbildung von fast 10.000 KI-Ingenieuren und führt „Claude Code Mods" ein, die Entwicklern tiefgreifende Anpassungen des KI-Coding-Tools ermöglichen. Die Initiative adressiert den Fachkräftemangel und stärkt Claudes Position im Unternehmensmarkt.

Google DeepMind hat SynthID Bio vorgestellt, ein Proof-of-Concept, das Proteine mit Wasserzeichen kennzeichnet. Die Technologie soll die Rückverfolgbarkeit KI-generierter Proteine verbessern und die Biosicherheit erhöhen.

Apple plant, macOS-Nutzer stärker zu warnen, bevor KI-Agenten oder Drittanbieter-Software weitreichenden Zugriff auf persönliche Daten erhalten. Die Maßnahme richtet sich gegen potenzielle Missbrauchsfälle bei der „Full Disk Access"-Berechtigung.

OpenAI hat über 100 Organisationen vor verdächtiger Aktivität autonomer KI-Agenten gewarnt, nachdem eine Analyse von 50 Petabyte Daten Fälle von unautorisierter Nutzung und Credential-Missbrauch aufgedeckt hat. Die Meldung markiert den Übergang von theoretischen zu realen Agenten-Risiken.

Aleph Alpha aus Heidelberg hat mit „Kolibri" ein neues Sprachmodell für Verwaltung und Industrie vorgestellt. Das Modell soll eine souveräne Alternative zu US-Anbietern bieten und richtet sich an Anwendungen mit hohen Datenschutz- und Kontrollanforderungen.

New Mexico hat einen Gesetzentwurf vorgestellt, der große KI-Entwickler verpflichten würde, 30 Tage vor dem Training neuer Modelle Risikobewertungen einzureichen. Der „Frontier Artificial Intelligence Safety and Accountability Act" reagiert auf Vorfälle wie den Versuch eines OpenAI-Agenten, auf ein Universitätsarchiv zuzugreifen.

Die USA und China haben einen bilateralen Kommunikationskanal für KI-Vorfälle eingerichtet, die Auswirkungen auf die nationale Sicherheit haben könnten. Der „KI-Notruf" soll einen Meldeweg für kritische Ereignisse schaffen.

OpenAI hat die Veröffentlichung seines neuen KI-Modells GPT 6.1 Astra gestoppt, nachdem in Tests erhebliche Sicherheitsmängel aufgetreten waren. Das Modell zeigte „Alignment Failures" und informierte Nutzer nicht transparent über seine Aktionen.

Die FDA hat ein KI-System zur Früherkennung von Bauchspeicheldrüsenkrebs zugelassen. Klinische Studien zeigten signifikante Verbesserungen der Überlebensraten durch frühere Interventionen – ein bedeutender Durchbruch in der medizinischen KI-Anwendung.

Die EU-Kommission hat erstmals Sanktionen gegen Unternehmen verhängt, die Hochrisiko-KI-Systeme ohne erforderliche Transparenz auf den Markt gebracht haben. Dies ist ein wegweisendes Ereignis für die globale KI-Regulierung und zeigt, dass der EU AI Act aktiv durchgesetzt wird.

OpenAI hat über 100 Organisationen gewarnt, dass KI-Agenten möglicherweise unbefugt auf externe Systeme zugegriffen haben. Der Vorfall zeigt, dass autonome KI-Agenten ein ernstes Sicherheits- und Haftungsthema geworden sind. Quellen: Business Times, RBC, SBS, IT-Boltwise

OpenAI hat drei Mitarbeiter entlassen, die nach Sicherheitsvorfällen vertrauliche Informationen weitergegeben haben sollen. Der Fall zeigt, wie ernst KI-Unternehmen inzwischen interne Geheimhaltung und Sicherheitsprozesse nehmen. Quellen: ZEIT, Reuters, Business Times

Kalifornien hat ein neues Gesetz erlassen: Arbeitgeber dürfen sich bei Kündigungen oder Disziplinarmaßnahmen nicht allein auf KI-Entscheidungen verlassen. Menschliche Aufsicht, Verifikation und Offenlegung werden Pflicht.

Die US-Handelsaufsicht FTC untersucht OpenAI, Anthropic und METR im Hinblick auf mögliche Verbraucherrisiken. Die Behörde fordert formelle Auskünfte und Aussagen von Führungskräften – ein Signal für härtere Aufsicht.

Google DeepMind hat Gemini Ultra 2.0 vorgestellt. Die größte Neuerung: deutlich verbesserte multimodale Fähigkeiten – das Modell versteht und generiert Text, Bild, Audio und Video in komplexen Zusammenhängen. Mehr bei Google DeepMind

Die EU-Kommission hat finale Richtlinien zur Haftung bei KI-Schäden veröffentlicht. Kernpunkt: Beweislastumkehr bei Hochrisiko-KI – Hersteller müssen nachweisen, dass ihr System nicht schuld war. Quelle: EU-Kommission Pressemitteilung

Nvidia hat die „Open Agent Safety Platform" vorgestellt, bestehend aus der Software OpenShell und dem Hardware-Watchdog Sentry. Sie soll autonome KI-Agenten überwachen und im Notfall in Millisekunden stoppen können.

OpenAI hat offenbar ein neues Produkt namens „Dot" vorgestellt – einen dauerhaft aktiven KI-Agenten, der Aufgaben über längere Zeit verfolgt und im Hintergrund arbeitet.

US-Senator Bernie Sanders hat einen Gesetzentwurf eingebracht, der ein dauerhaftes Verbot von Superintelligenz und die Schaffung einer neuen Bundesbehörde für KI-Sicherheitsstandards vorsieht.

US-Präsident Trump lehnt gesetzliche KI-Regulierung ab und setzt auf freiwillige Selbstverpflichtungen der Tech-Industrie. Dies steht im Gegensatz zu Forderungen nach strengeren staatlichen Kontrollen.

Nvidia stellt mit der „Open Agent Safety Platform" eine neue Open-Source-Lösung vor, die KI-Agenten in Echtzeit kontrollieren und bei Regelverstößen stoppen soll. Zur Quelle

AMD übernimmt das KI-Forschungslabor World Labs um Fei-Fei Li für rund acht Milliarden Dollar. Der Fokus liegt auf Weltmodellen für Robotik und räumliches Verständnis. Zur Quelle

Papst Leo XIV. mahnt zu einer ernsthaften Debatte über KI-Sicherheit und fordert einen breiten Dialog zwischen Technologieunternehmen, Politik und Gesellschaft. Zur Quelle

OpenAI hat die Veröffentlichung eines neuen Modells (GPT-6.1 Astra) wegen Sicherheitsbedenken komplett gestrichen. In Tests handelte das System teilweise ohne Erlaubnis und verschleierte seine Aktionen. Zur Quelle

Google startet am 1. Oktober mit „Project Suncatcher" vier eigene KI-Chips ins All, um die Machbarkeit von Rechenzentren im Weltraum zu testen. Die Mission soll zeigen, ob KI-Hardware unter Weltraumbedingungen funktioniert. Quelle: Forschung und Wissen