CISPA TL;DR - Der Podcast über KI- und IT-Sicherheitsforschung

Was passiert, wenn KI-Modelle zunehmend auf Inhalten trainieren, die selbst von KI erzeugt wurden? Forschende befürchten, dass die Modelle dadurch langfristig an Qualität verlieren könnten. Dieses Phänomen wird auch als „Model Collapse“ bezeichnet. In dieser Folge von CISPA TL;DR spricht CISPA-Forscher Louis Kerner mit uns über BitMark: ein neu entwickeltes Wasserzeichen für KI-generierte Bilder,...

Social media connects us – but who is really in control? Algorithms decide what we see, platforms decide how we interact, and users often have less control than they'd like to. But it doesn’t have to be that way. In this episode, CISPA researcher Jane Im talks about how we could redesign social media platforms to give users more agency, create healthier online communities, and rethink how social m...

Von einem spezialisierten Techthema haben sich Drohnen zu einer wichtigen Zukunftstechnologie entwickelt, die zahlreiche Standards erfüllen muss, darunter auch vielfältige Sicherheitsfunktionen. Für einen sicheren Drohnenflug müssen alle Systeme zuverlässig funktionieren. Deshalb werden die Komponenten nicht nur während des Flugs überwacht, sondern bereits in der Entwicklungsphase – lange bevor ei...

From job applications to loan approvals, AI systems are increasingly being explored and deployed in decisions that shape people’s lives. But what happens when these systems learn from biased data? Can they ever be truly fair? In this episode, CISPA researcher Tẹjúmádé Àfọ̀njá unpacks why more accurate predictions in a model don’t automatically mean fairer outcomes, why representation in AI and mac...

Smartphone, Laptop, Cloud – sie alle sollen sicherer sein, weil bestimmte Angriffstricks inzwischen blockiert sind. Klingt beruhigend, oder? Dumm nur, wenn Prozessoren trotzdem Angreifer:innen mehr verraten, als sie eigentlich dürften. In dieser Folge von CISPA TL;DR erklärt CISPA-Forscher Fabian Thomas, wie sich moderne ARM-Prozessoren so manipulieren lassen, dass sie auch sensible Informationen...

Noticed that all your newsletters and notification mails look like tiny, fancy webpages nowadays? Well, that’s because they basically are. But your inbox glow-up came with a plot twist. Turns out that CSS, the thing that makes your mails look pretty, might be a bit too powerful. In this latest episode of TL;DR CISPA researcher Leon Trampert tells us how our inboxes might be spying on us and if you...

Aufgrund der Allgegenwart von KI-Anwendungen im Alltag steigt auch die Bedeutung von Algorithmen für die Menschen. Aber wie lässt sich garantieren, dass Algorithmen faire Entscheidungen treffen? Dies ist ein Thema, das den CISPA-Forscher Julian Siber umtreibt. Im Podcast sprechen wir darüber, woher die Bias von Algorithmen kommen, welche Ansätze es für algorithmische Fairness gibt, ob wir Fairness...

Usenix Security 2025 is coming up fast – and in this special conference episode of CISPA TL;DR, we’re diving into the world of browser extensions with CISPA researcher Shubham Agarwal. Browser extensions can be incredibly useful – think ad blockers, password managers, or translation tools. But while they extend what our browsers can do, they also often gain access to everything we do online: what...

USENIX Security 2025 in Seattle is just around the corner! As one of the leading conferences in security and privacy, it's the perfect time to take a closer look at the research being presented. In this special conference episode of CISPA TL;DR, we talk to CISPA researcher Divyanshu Bhardwaj about his work on one of modern life’s worst nightmares: phone theft. As Divyanshu points out, our phones h...

Moderne KI-Modelle sind leistungsstark, aber auch angreifbar. Sie können nicht nur bei der Nutzung manipuliert werden, sondern schon während des Trainings mit veränderten Daten gefüttert werden – und das kann zu gefährlichen Fehlentscheidungen führen. In dieser Folge von CISPA TL;DR erfahrt ihr, wie das neue Tool FullCert mathematisch beweisen kann, dass ein Modell gegen solche Angriffe abgesicher...

When you scroll through Reels or watch a video on your device, there’s a lot happening under the hood. CISPA researcher Matteo Leonelli looks for security flaws in hardware that isn’t easy to inspect – a process called black box testing. In this episode of CISPA TL;DR, he explains how he used differential fuzzing to compare hardware- and software-based video decoding and what this reveals about po...

Das Führen von Interviews in der benutzerzentrierten IT-Sicherheits- und Datenschutzforschung ist eine Welt für sich. Mit dem CISPA-Doktoranden Jan Klemmer sprechen wir nicht nur über die methodischen Herausforderungen, die Interviews mit sich bringen, sondern auch über zwei seiner Studien, die auf Interviews basieren. So erzählt er von einer Studie zum Thema Transparenz und Reproduzierbarkeit in...

What’s a sports car without fuel? Pretty useless – just like machine learning models without data, says CISPA researcher Antoni Kowalczuk. That’s why AI models scrape the internet for that sweet, sweet training data – pictures in the case of image generation models. And sometimes, they (allegedly) ignore copyright laws in the process. So how can we tell if copyrighted or even sensitive data has ma...

In der aktuellen Folge von CISPA TL;DR geht es um einen oft übersehenen, aber risikoreichen Aspekt der Softwareentwicklung: Compiler-Optimierungen und ihre Auswirkungen auf die Sicherheit von kryptografischem Code. Unser Gast Lukas Gerlach hat mit seinem Team untersucht, ob moderne Compiler unbeabsichtigt dafür sorgen, dass eigentlich sicherer „Constant-Time“-Code plötzlich anfällig für Seitenkana...

Web applications are powering the Internet of today. But how do you look for bugs and vulnerabilities in these apps to make sure they are secure? Easy – you automate the process, of course. But traditional scanners are struggling to automatically access all parts of these increasingly complicated apps. Introducing: the YuraScanner! Developed by Aleksei Stafeev and his colleagues, this new type of...

Auf der renommierten IT-Konferenz USENIX Security Symposium 2024 hat die CISPA-Forscherin Lea Gröber gleich zwei Paper als Erstautorin vorgestellt: eines zur Online- und Offlinesicherheit von Content Creators in Pakistan und eines zum Thema Self-Hosting. Wir haben dies zum Anlaß genommen, mit Lea über ihre Forschung im Bereich der Usable Security zu sprechen. Zur Sprache kommt auch ihre Faszinatio...

With the holidays just around the corner, you’ll probably want to send some greetings to your loved ones via your favorite messaging app. But have you ever stopped to think about how secure your messages really are? Could they be at risk of being read by prying eyes – whether people or organizations? That’s exactly what Aurora Naska is working on: secure messaging. In this episode, we dive into wh...

Für den Erfolg von Wissenstransfer über IT-Sicherheitsthemen sind die richtigen Partner und die passgenaue Ansprache in der Beratung entscheidend. Dies für kleine und mittelständische Unternehmen umzusetzen, ist Auftrag des DAISEC in Hannover, dem Digital Innovation Hub für KI und Cybersicherheit. Was sich hinter dem EU-geförderten Projekt verbirgt und was die Herausforderungen bei der Beratung mi...

Unsere Sommer-Konferenzreihe 2024 geht mit einem Knall zu Ende, oder eher gesagt mit ein paar mehr – im Hintergrund unserer Aufnahme. Denn das USENIX Security Symposium 2024 in Philadelphia war ziemlich gut besucht und einen geeigneten Ort für die Aufnahme zu finden, nicht ganz so einfach. Aber hey, das ist live. Adrian und Gabriel haben uns Einblicke in ihre Forschung zu zum Mobilfunkprotokoll Vo...

Time for another round of our TL;DR conference special! At USENIX 2024 in Philadelphia, we met an old CISPA friend: Dr. Sebastian Roth, Postdoc at TU Vienna. Sebastian did his PhD in the research group of CISPA-Faculty Dr. Ben Stock, where he focussed on web security at the intersection of usable security. In the hallway of the conference hotel, we talk about his time at CISPA, the role of everyda...

Diesen Sommer haben wir uns aus der vertrauten Umgebung der CISPA-Büros herausgewagt und unsere Forscher zu ihren wichtigsten wissenschaftlichen Veranstaltungen begleitet: Konferenzen! Ende Juli fuhren wir nach Wien, um an der International Conference on Machine Learning teilzunehmen. Und da der Flur und die Gespräche dort ohnehin das Wichtigste an einer Konferenz sind, haben wir uns dort in einer...

This summer, we ventured out of the safe and sound surroundings of the CISPA offices and accompanied our researchers to their most important science events: conferences! At the end of July, we went to Vienna to attend the International Conference on Machine Learning. And with the hallway and the conversations there being the most important part of a conference anyway, we sat down there with our re...

„Nach der Deadline ist vor der Deadline“, dieser Spruch ist im CISPA häufig zu hören. Kein Wunder: Das wissenschaftliche Jahr ist neben viel Forschungsarbeit vor allem von Paper-Fristen und wissenschaftlichen Konferenzen geprägt. Doch warum sind Konferenzen eigentlich so wichtig? Um was geht es dort, wie laufen sie ab und was bringen sie? Auf diese und noch viel mehr Fragen haben die CISPA-Faculty...

CISPA-Faculty Dr. Franziska Boenisch spricht in dieser Folge mit uns darüber, warum Privatsphäreschutz bei Large-Language-Modellen wichtig ist und welche technische Infrastruktur die Forschung in diesem Bereich benötigt. Darüber hinaus erzählt sie, wie der Wissenstransfer in die Politik gelingen kann, wo ihrer Ansicht nach die Herausforderungen in der deutschen Forschungsförderung liegen und was s...

As End-to-end encryption is becoming ever more widespread in most popular messaging services, discussions have emerged to enable the scanning of messages and files directly on end-user-devices. Carolyn Guthoff and Divyanshu Bhardwaj, usable security researchers at CISPA, have looked into these systems in their latest study on Client-Side-Scanning. They discuss potential implications such a system...