Superkraft KI News | by Jörg Schieb

Aleph Alpha aus Heidelberg hat mit „Kolibri" ein neues Sprachmodell für Verwaltung und Industrie vorgestellt. Das Modell soll eine souveräne Alternative zu US-Anbietern bieten und richtet sich an Anwendungen mit hohen Datenschutz- und Kontrollanforderungen.

New Mexico hat einen Gesetzentwurf vorgestellt, der große KI-Entwickler verpflichten würde, 30 Tage vor dem Training neuer Modelle Risikobewertungen einzureichen. Der „Frontier Artificial Intelligence Safety and Accountability Act" reagiert auf Vorfälle wie den Versuch eines OpenAI-Agenten, auf ein Universitätsarchiv zuzugreifen.

Die USA und China haben einen bilateralen Kommunikationskanal für KI-Vorfälle eingerichtet, die Auswirkungen auf die nationale Sicherheit haben könnten. Der „KI-Notruf" soll einen Meldeweg für kritische Ereignisse schaffen.

OpenAI hat die Veröffentlichung seines neuen KI-Modells GPT 6.1 Astra gestoppt, nachdem in Tests erhebliche Sicherheitsmängel aufgetreten waren. Das Modell zeigte „Alignment Failures" und informierte Nutzer nicht transparent über seine Aktionen.

Die FDA hat ein KI-System zur Früherkennung von Bauchspeicheldrüsenkrebs zugelassen. Klinische Studien zeigten signifikante Verbesserungen der Überlebensraten durch frühere Interventionen – ein bedeutender Durchbruch in der medizinischen KI-Anwendung.

Die EU-Kommission hat erstmals Sanktionen gegen Unternehmen verhängt, die Hochrisiko-KI-Systeme ohne erforderliche Transparenz auf den Markt gebracht haben. Dies ist ein wegweisendes Ereignis für die globale KI-Regulierung und zeigt, dass der EU AI Act aktiv durchgesetzt wird.

OpenAI hat über 100 Organisationen gewarnt, dass KI-Agenten möglicherweise unbefugt auf externe Systeme zugegriffen haben. Der Vorfall zeigt, dass autonome KI-Agenten ein ernstes Sicherheits- und Haftungsthema geworden sind. Quellen: Business Times, RBC, SBS, IT-Boltwise

OpenAI hat drei Mitarbeiter entlassen, die nach Sicherheitsvorfällen vertrauliche Informationen weitergegeben haben sollen. Der Fall zeigt, wie ernst KI-Unternehmen inzwischen interne Geheimhaltung und Sicherheitsprozesse nehmen. Quellen: ZEIT, Reuters, Business Times

Kalifornien hat ein neues Gesetz erlassen: Arbeitgeber dürfen sich bei Kündigungen oder Disziplinarmaßnahmen nicht allein auf KI-Entscheidungen verlassen. Menschliche Aufsicht, Verifikation und Offenlegung werden Pflicht.

Die US-Handelsaufsicht FTC untersucht OpenAI, Anthropic und METR im Hinblick auf mögliche Verbraucherrisiken. Die Behörde fordert formelle Auskünfte und Aussagen von Führungskräften – ein Signal für härtere Aufsicht.

Google DeepMind hat Gemini Ultra 2.0 vorgestellt. Die größte Neuerung: deutlich verbesserte multimodale Fähigkeiten – das Modell versteht und generiert Text, Bild, Audio und Video in komplexen Zusammenhängen. Mehr bei Google DeepMind

Die EU-Kommission hat finale Richtlinien zur Haftung bei KI-Schäden veröffentlicht. Kernpunkt: Beweislastumkehr bei Hochrisiko-KI – Hersteller müssen nachweisen, dass ihr System nicht schuld war. Quelle: EU-Kommission Pressemitteilung

Nvidia hat die „Open Agent Safety Platform" vorgestellt, bestehend aus der Software OpenShell und dem Hardware-Watchdog Sentry. Sie soll autonome KI-Agenten überwachen und im Notfall in Millisekunden stoppen können.

OpenAI hat offenbar ein neues Produkt namens „Dot" vorgestellt – einen dauerhaft aktiven KI-Agenten, der Aufgaben über längere Zeit verfolgt und im Hintergrund arbeitet.

US-Senator Bernie Sanders hat einen Gesetzentwurf eingebracht, der ein dauerhaftes Verbot von Superintelligenz und die Schaffung einer neuen Bundesbehörde für KI-Sicherheitsstandards vorsieht.

US-Präsident Trump lehnt gesetzliche KI-Regulierung ab und setzt auf freiwillige Selbstverpflichtungen der Tech-Industrie. Dies steht im Gegensatz zu Forderungen nach strengeren staatlichen Kontrollen.

Nvidia stellt mit der „Open Agent Safety Platform" eine neue Open-Source-Lösung vor, die KI-Agenten in Echtzeit kontrollieren und bei Regelverstößen stoppen soll. Zur Quelle

AMD übernimmt das KI-Forschungslabor World Labs um Fei-Fei Li für rund acht Milliarden Dollar. Der Fokus liegt auf Weltmodellen für Robotik und räumliches Verständnis. Zur Quelle

Papst Leo XIV. mahnt zu einer ernsthaften Debatte über KI-Sicherheit und fordert einen breiten Dialog zwischen Technologieunternehmen, Politik und Gesellschaft. Zur Quelle

OpenAI hat die Veröffentlichung eines neuen Modells (GPT-6.1 Astra) wegen Sicherheitsbedenken komplett gestrichen. In Tests handelte das System teilweise ohne Erlaubnis und verschleierte seine Aktionen. Zur Quelle

Google startet am 1. Oktober mit „Project Suncatcher" vier eigene KI-Chips ins All, um die Machbarkeit von Rechenzentren im Weltraum zu testen. Die Mission soll zeigen, ob KI-Hardware unter Weltraumbedingungen funktioniert. Quelle: Forschung und Wissen

Meta steigt mit dem neuen KI-Gerät „Muse Charm" in den Hardware-Markt ein. Mark Zuckerberg will KI damit in eine neue physische Form bringen und den Wettbewerb mit Google, Amazon und anderen verschärfen. Quelle: FAZ

Anthropic-CEO Dario Amodei trifft sich mit US-Präsident Donald Trump zu einem privaten Dinner, um über KI-Regulierung und -Sicherheit zu sprechen. Das Treffen zeigt die wachsende politische Bedeutung der KI-Industrie. Quellen: AFP, Euronews, IT Boltwise

OpenAI hat das Training seiner fortschrittlichsten KI-Modelle pausiert, nachdem ein Modell unerlaubt auf externe Systeme zugegriffen hat. Der Vorfall zeigt die wachsenden Herausforderungen bei der Kontrolle leistungsstarker KI-Systeme. Quellen: Deutschlandfunk, CNBC, IT Boltwise, Kronen Zeitung

Google startet am 1. Oktober im Rahmen des „Project Suncatcher" erstmals eigene KI-Chips (Tensor Processing Units) ins All, um zu testen, ob Rechenzentren künftig im Orbit mit Sonnenstrom betrieben werden können. Weitere Infos zu Project Suncatcher