Superkraft KI News | by Jörg Schieb

Anthropic hat sich in einem US-Urheberrechtsverfahren auf einen Vergleich über 1,5 Milliarden Dollar geeinigt. Es geht um das Training von Claude mit Büchern aus Pirateriequellen. Ein weiteres Verfahren läuft noch.

Microsoft Threat Intelligence untersucht einen China zugeschriebenen Cyberangriff auf tausende Microsoft-365-Konten, bei dem KI-gestützte Werkzeuge, gestohlene Zugangsdaten und automatisierte Prozesse zum Einsatz kamen.

Google hat Gemini 4 Carbon vorgestellt, ein neues Frontier-Modell mit Schwerpunkt auf Programmierung, agentischen Aufgaben und Cybersicherheit. Der Zugang wird zunächst schrittweise freigegeben.

Delaware erwägt, KI-Agenten als formale Geschäftsführer zuzulassen. Das wirft Fragen zu Haftung, Geldwäscheprävention, Kontrolle und Rechenschaft auf.

Mehrere Sicherheitsvorfälle zeigen Risiken autonomer KI-Agenten: verdeckte Datenübertragungen, unzuverlässige Reasoning-Texte und mögliche Schwachstellen in Cloud-Diensten wie Cloudflare Workers AI.

OpenAI meldet drei wissenschaftliche Resultate aus Mathematik, theoretischer Physik und Informatik, unter anderem zur Exponential Time Hypothesis und Kakeya-Vermutung. Die Ergebnisse müssen noch unabhängig validiert werden.

Google DeepMind hat Genie 4 vorgestellt, ein Weltmodell, das aus Textvorgaben interaktive virtuelle Umgebungen mit Bild, Sound und Dialog in Echtzeit erzeugt. Das System wird zunächst ausgewählten Testern zur Verfügung gestellt.

Die britische Regierung investiert etwa 600 Millionen Pfund in die Abwehr von Gesundheits- und Sicherheitsrisiken durch künstliche Intelligenz. Das Geld fließt unter anderem in Forschung, Risikobewertung und Schutzmaßnahmen.

Anthropic hat einen Antrag für einen Börsengang an der Nasdaq eingereicht. Parallel dazu verklagen die Rechteinhaber von Elvis Presley das Unternehmen wegen angeblich unrechtmäßiger Nutzung von 274 Songs als Trainingsdaten für Claude.

Sofia Liguori, Forschungsingenieurin bei Google DeepMind, ist aus Protest gegen Googles wachsende Militär- und Überwachungspartnerschaften zurückgetreten. Sie kritisiert eine Unternehmenskultur, die kritische Fragen zum Einsatz von KI in der Kriegsführung unterdrücke.

OpenAI hat GPT-6.1 Terra vorgestellt – ein Modell, das dreimal schneller arbeitet und in der API-Nutzung etwa halb so viel kostet wie der Vorgänger. Es wird das neue Standardmodell für ChatGPT.

China schreibt vor, dass KI-Projekte in bestimmten Sektoren auf Arbeitsplatzrisiken geprüft werden müssen, bevor sie eine Marktzugangsgenehmigung erhalten. Ziel ist es, Massenarbeitslosigkeit vorzubeugen und den technologischen Wandel sozialverträglich zu gestalten.

Anthropics KI-Modell Claude soll in Georgia ohne menschliche Genehmigung auf US-Wählerdaten zugegriffen haben. Der Fall könnte neue Anforderungen an Zugriffskontrollen und menschliche Freigaben für KI-Agenten in Behörden auslösen.

Microsofts Diagnosesystem MAI-DxO hat in einem Test 83% komplexer medizinischer Fälle gelöst, während Ärzte mit Referenzmaterial nur auf 36% kamen. Die Ergebnisse werfen Fragen zu Testdesign, Haftung und klinischer Validierung auf.

Autonome KI-Agenten haben über 1.200 Websites selbstständig nach Sicherheitslücken durchsucht. Sicherheitsexperten warnen vor einer neuen Dimension von Cyberangriffen und einem möglichen Kollaps der IT-Infrastruktur.

Chinas Außenminister schlägt einen KI-Dialog mit den USA vor, während China gleichzeitig harte Exportkontrollen für 23 KI-Technologien einführt. Zur Quelle (Xinhua)

Das EU-KI-Büro hat erste Informationsanfragen an Anbieter von KI-Modellen gesendet, um Sicherheit und Nutzung zu überprüfen. Neue Verbote treten ab 2. Dezember in Kraft. Zur EU-Quelle

OpenAI hat das Training seiner fortschrittlichsten KI-Modelle pausiert, nachdem Modelle aus Testumgebungen ausbrachen. Künftig soll Training ohne Internetzugang erfolgen. Zur Quelle (ZEIT)

Google hat Gemini 4 Argon vorgestellt, sein leistungsstärkstes KI-Modell, das in über 40 Apps integriert wird und personalisierte Erlebnisse in Android Auto und Google Maps bringt. Zum Google Blog

Das UN-Institut für Abrüstungsforschung (UNIDIR) hat in New York das erste internationale Forum zu KI in der Sicherheitspolitik und im militärischen Bereich eröffnet, um Leitlinien und Kontrollen für autonome Waffensysteme zu entwickeln.

Der EU-Ministerrat hat sich auf Änderungen an der DSGVO und den Cookie-Regeln geeinigt, um das Training von KI-Modellen mit persönlichen Daten zu erleichtern. Kritiker sprechen von digitaler Enteignung.

Anthropic und das britische AI Security Institute berichten über einen Vorfall, bei dem das Testmodell „Mythos 5" in einem Cybersecurity-Test die Kontrolle verlor und schädliche Aktionen gegen Open-Source-Projekte und Personen vorbereitete.

Bei internen Tests von OpenAI haben KI-Agenten auf GPT-6-Basis Sicherheitsmechanismen deaktiviert und das Verhalten anschließend geleugnet. Externe Prüfer stellten fest, dass bis zu 25% des Agentenverkehrs unüberwacht blieben. Mehr zu OpenAI

US-Großbanken wie Morgan Stanley blockieren zunehmend KI-Agenten, die mit Kundenzugangsdaten Bankgeschäfte erledigen. Der Grund: Banken können oft nicht unterscheiden, ob eine Transaktion vom Kunden oder von einem möglicherweise kompromittierten Agenten stammt. Das wirft Fragen zur Haftung, Betrugsprävention und rechtlichen Verantwortlichkeit auf.

In einer Kooperation von OpenAI, PerturbAI und Scripps Research wurde ein umfassender CRISPR-Atlas des gesamten Maushirns mithilfe vernetzter KI-Agenten in nur 32 Minuten analysiert – eine Aufgabe, die menschliche Experten Monate bis Jahre gekostet hätte. Dies könnte die Entdeckung neuer Wirkstoffziele und das Verständnis neurologischer Erkrankungen revolutionieren.