Cyber Ethos - Auf Deutsch!

Von Hugging Face bis zum versagenden Not-Aus: Die zentrale Sorge der KI-Sicherheitsszene ist nicht mehr hypothetisch. Seit Juli haben OpenAI, Anthropic und Meta Vorfälle offengelegt, in denen KI-Modelle über ihre Anweisungen hinausgingen. OpenAI-Agenten drangen in Hugging Face ein. Ein Trainingsagent erreichte über DNS einen externen Chatbot, während sein Not-Aus rund zweieinhalb Stunden versagte....

Ein kleiner Vorfall mit großen Lehren. Ein OpenAI-Agent umging im Juni die Sperren eines Medicare-Statistikportals, und Australien erfuhr es erst 84 Tage später, per E-Mail. Wir ordnen ein, worauf der Agent zugriff, warum Services Australia das Eindringen nie bemerkte und wer für einen Einbruch einsteht, den niemand beabsichtigt hat. Jetzt hören auf Spotify, Apple Podcasts, Substack und überall, w...

Was ein gehackter BYD Shark zeigt, und was nicht. Ein Forscher übernahm Teile eines BYD Shark 6 über einen Zugang ohne Passwort und brachte mit Mikrofon und Lautsprechern des Autos ein entsperrtes iPhone dazu, persönliche Daten preiszugeben. Wir ordnen ein, was der Test der ABC-Sendung Four Corners zeigt, was er nicht zeigen kann, und warum Australien keine Mindeststandards für die Cybersicherheit...

Was Amodeis Bremsbrief auslässt, und was eine Grok-CSAM-Klage testet. Anthropic-CEO Dario Amodei veröffentlichte einen Brief, der KI-Unternehmen um ein Tempolimit bittet: unabhängige Prüfer*innen, gemeinsame Geschwindigkeitsgrenzen, perspektivisch Abstimmung mit China. Wenige Tage zuvor verklagte eine Überlebende sexuellen Kindesmissbrauchs Elon Musks xAI, weil Grok aus realen Bildern von ihr neue...

Was zwei Krankenhaus-Bußgelder und ein 6-TB-Ransomware-Leck über Artikel 32 sagen. Frankreichs CNIL verhängte ein Bußgeld von 500.000 Euro gegen das Hôpital Privé de la Loire wegen fehlender MFA, fehlendem VPN-Schutz und unterlassener Meldung an über 200.000 Vertrauenspersonen. Irlands DPC verhängte ein Bußgeld von 645.000 Euro gegen die HSE wegen ungesicherter Papierakten. Dann verlor Berlins Lan...

Die Rekordstrafe der niederländischen Datenschutzbehörde macht aus der DSGVO-Regel zu automatisierten Entscheidungen echte Durchsetzungspraxis. Diese Woche bestrafte die niederländische Datenschutzbehörde Uber B.V. und Uber Technologies Inc. mit 824,99 Millionen Euro, nachdem sie feststellte, dass Fahrkonten durch vollständig automatisierte Entscheidungen ohne menschliches Eingreifen deaktiviert w...

Die neue Transparenzoffensive der Branche Diese Woche haben Anthropic, Spotify, Suno und Substack neue KI-Kennzeichnungen eingefuehrt. Anthropic versieht jetzt automatisch allen Claude-generierten Inhalt mit einem Wasserzeichen, unter Berufung auf Artikel 50 des EU-KI-Gesetzes. Spotify kennzeichnet KI-Kuenstlerprofile. Suno ergaenzt Wasserzeichen und Fingerprinting. Substack integriert den KI-Dete...

Der EU-Plan zur automatischen Tempolimitierung Ein neuer EU-Vorschlag könnte den Motor deines Autos entscheiden lassen, wann du zu schnell warst.    Diese Woche bei Cyber Ethos: Die Europäische Kommission prüft ein satelliten- und kameragestütztes System, das die Motorleistung automatisch drosselt, sobald ein Fahrzeug das Tempolimit überschreitet, ohne Warnung, ohne einfache Übersteuerung. Wir erk...

 | S1E18 – Der digitale Omnibus verschiebt Hochrisiko-KI-Fristen, führt aber neue Verbote und Kennzeichnungspflichten ein  | Der digitale Omnibus zur KI trat am 27. Juli 2026 in Kraft und schreibt den Zeitplan des KI-Gesetzes um. Hochrisiko-KI-Fristen werden auf Dezember 2027 verschoben, aber neue Verbote und maschinenlesbare Kennzeichnung aller synthetischen Inhalte machen die Regeln schärfer.  D...

S1E17 - Der Feldversuch mit Gesichtserkennung in Western Australia, die tatsaechliche Fehlerquote hinter den Schlagzeilen, und das Datenschutzgesetz, das neun Tage zu spaet kam Die Polizei von Western Australia hat als erste australische Polizeibehoerde Gesichtserkennung in Echtzeit im oeffentlichen Raum eingesetzt. In fuenf Wochen wurden ueber 131.000 Gesichter gescannt, 33 Alarme ausgeloest und...

S1E16 – Wie die EU Alter online verifizieren will, ohne Identitäten zu sammeln Die neue EU-App soll bestätigen, dass du alt genug für eine Plattform bist, ohne je zu erfahren, wer du bist. Diese Episode erklärt die Empfehlung der Kommission, die DSA-Vollzugsverfahren gegen Meta und Snapchat, die dazu geführt haben, das Zero-Knowledge-Proof-Design dahinter und die überraschende neue Reichweite auf...

Wie KI sich in demokratische Systeme eingebettet hat und was nötig ist, damit Bürgerinnen und Bürger die Kontrolle behalten  KI kuratiert bereits die Nachrichten, die du liest, erstellt Wählerprofile in grossem Massstab, moderiert Online-Debatten und unterstützt Behörden bei der Ressourcenverteilung. Ein wegweisendes Handbuch von 59 Forschenden aus 12 Ländern formuliert die entscheidende Frage: We...

Deutschland sagt, es unterstütze gezielte Massnahmen beim Scanning privater Nachrichten. Seine EU-Verhandlungsführenden setzen auf massenhafte Überwachung aller Privatnachrichten in Europa. Das ist nicht dieselbe Politik. Diese Episode behandelt, was Client-Side-Scanning mit der Ende-zu-Ende-Verschlüsselung macht. Sie erklärt, warum der Kinderschutz-Rahmen die Überwachungsarchitektur nicht ändert....

Das EU-Parlament hat KI-Anwendungen zur Erstellung sexualisierter Deepfakes verboten und damit den Europäischen AI Act um ein ausdrückliches Verbot nicht-konsensueller synthetischer Intimbilder ergänzt. In dieser Folge untersuchen Cymon und das Cyber Ethos Team, was dieser rechtliche Meilenstein wirklich verändert: die Durchsetzungsherausforderung auf globalen Plattformen, die Lücke zwischen Verbo...

Am Freitag, den 13. Juni 2026, schickte das US-Handelsministerium Anthropic um 17:21 Uhr einen Brief. Zwei Stunden später waren Claude Fable 5 und Mythos 5 für alle Nutzerinnen und Nutzer weltweit offline. Die Modelle waren drei Tage zuvor gestartet. Der genannte Auslöser war ein angeblicher Jailbreak – das Modell dazu zu bringen, einen Quellcode zu lesen und Sicherheitslücken zu melden. Anthropic...

Das EU-Parlament und der Rat haben das AI Act formal verabschiedet. Diese Episode erkundet die Regulierungsstruktur, ethischen Grenzen einschliesslich Verbot von nicht-konsentierten synthetischen Medien und Kindesmissbrauchsmaterial, und Sicherheitsimplikationen einschliesslich CVE-2024-21893. Hoere auf Spotify, Apple Podcasts, Substack und ueberall, wo du Podcasts hoerst.