Prompt und Antwort

Sicherheitsleitplanken bei KIs sind keine harten Grenzen, sondern eine gefährliche Illusion. In dieser Folge zeigen wir, wie Forscher von Palo Alto und Unit 42 mithilfe von genetischen Algorithmen und automatisiertem Prompt-Fuzzing jedes bekannte Large Language Model (LLM) erfolgreich knacken konnten. Wir erklären die Mechanismen dahinter und diskutieren folgende Kernpunkte: Automatisierte Jailbre...

In Folge 12 von "Agenten verstehen" widmen wir uns lokalen Modellen wie Gemma 4 und Qwen 3.6. Wir klären, warum lokale Agenten trotz gigantischer Kontextfenster bei längeren Dialogen (Multi-Turn) oft völlig den Faden verlieren und wie wir das architektonisch lösen. Die Themen dieser Folge: Der Multi-Turn-Kollaps: Warum Sprachmodelle durch "Aufmerksamkeitsverfall" (Attention Dec...

In dieser Folge des KI-Gilde Podcasts entschlüsseln wir die kryptischen Dateinamen lokaler KI-Modelle, die auf den ersten Blick wie zufällige Zeichenketten wirken. Am Beispiel eines komplexen Namens wie "Qwen3.6-35B-A3B-UD-IQ4_NL_XL.gguf" erklären wir die genaue Bauanleitung hinter den Modellen: Parameter und Mixture of Experts: Was der Unterschied zwischen den gesamten 35 Milliarden und...

In dieser Episode des KI-Gilde Podcasts dreht sich alles um PromptFoo und die systematische Evaluierung von Large Language Models (LLMs). Statt Prompts nur nach Bauchgefühl zu testen, ermöglicht PromptFoo eine automatisierte Matrixevaluierung durch harte Regeln und semantische Prüfungen, bei denen ein anderes Sprachmodell als strenger Schiedsrichter fungiert. Wir beleuchten zudem, wie der „PromptF...

Willkommen zur 11. Folge der Serie "Agenten verstehen" im KI Gilde Podcast. In dieser Episode dreht sich alles um die  Kommunikation mit autonomen KI-Agenten  (wie dem Hermes-Agenten) und deren  Anbindung an Alltags-Messenger wie WhatsApp, Slack oder Telegram . Wir beleuchten die wichtigsten technischen Hürden und eleganten Lösungen moderner Agenten-Systeme: Gateway-Architekturen:  Wie e...

In dieser Folge des KI Gilde Podcasts analysieren wir den Überlebensscanner  deathbyclawd.com . Diese Seite berechnet einen sogenannten "Todespunktestand", der vorhersagt, wie schnell große Sprachmodelle herkömmliche SaaS-Produkte (Software as a Service) ersetzen werden. Die Kernthemen der Episode: Das Ende der Benutzeroberfläche:  Warum viele teure Software-Abonnements im Kern nur simpl...

In dieser Episode des  KI Gilde Podcasts  stellen wir das Tool  LiteLLM  vor, eine zentrale Vermittlungsstelle, die speziell für Entwickler und Plattformteams evaluiert wurde. LiteLLM löst das Problem der Modell-Fragmentierung, indem es als intelligentes Netzwerk  zwischen der eigenen Anwendung und über 100 verschiedenen LLM-Anbietern  fungiert. Die wichtigsten Themen dieser Folge auf einen Blick:...

In dieser Folge von "Agenten verstehen" geht es um die "Seele" der Maschine. Wir klären, wie wir KI-Agenten aus ihrer täglichen Amnesie befreien und ihnen mit einer simplen Textdatei (soul.md) eine feste, konsistente Identität geben. Die Themen dieser Folge: Die Seele der Maschine:  Warum simple Textdateien für die Identität eines Agenten robuster und fehlerresistenter sind und...

In Episode 146 des KI Gilde Podcasts dreht sich alles um das neue Unsloth Studio. Mit dieser Plattform lassen sich große Sprachmodelle (LLMs) mit privaten Unternehmensdaten komplett lokal auf der eigenen Grafikkarte trainieren, ohne dass Daten an Cloud-Anbieter abfließen. Das Studio senkt den Grafikspeicher-Bedarf (VRAM) um bis zu 70 % und verdoppelt gleichzeitig die Trainingsgeschwindigkeit. Die...

KI-Gilde Podcast Folge 145: Agent Learnings – Die Tücken lokaler KI-Agenten In dieser Episode nehmen wir euch mit auf unsere Odyssee: Die lokale Einrichtung des Hermes-Agenten als Projektmanagement-Assistent mit Googles neuem Gemma 4 Modell. Wir sprechen ungeschönt über die realen Hürden abseits des Hypes: Infrastruktur & Backend:  Von Architektur-Problemen auf dem Mac Mini bis hin zur absurde...

In der neunten Folge des KI Gilde Podcasts zerlegen wir den revolutionären Hermes-Agenten . Wir werfen einen Blick hinter die perfekte Illusion: Nach außen ein simples Sprachmodell, im Hintergrund eine hochkomplexe, autonome Maschine. Die Themen dieser Folge: Die perfekte Illusion: Wie Hermes über eine Standard-Schnittstelle Millionen bestehende Anwendungen zum Agenten aufrüstet, ohne dass auch nu...

In dieser Folge des KI Gilde Podcasts dreht sich alles um  Voxtral , ein bahnbrechendes Text-to-Speech-Modell mit 4 Milliarden Parametern. Mit einer extrem schnellen Reaktionszeit von nur 70 bis 90 Millisekunden durchbricht es bisherige Grenzen und ermöglicht durch die parallele Verarbeitung von Semantik und Akustik absolut flüssige Echtzeitgespräche. Wir beleuchten zudem das Drama um den Release:...

In dieser Folge des KI Gilde Podcasts analysieren wir "TurboQuant", eine Technologie, die das VRAM-Speicherproblem bei langen KI-Unterhaltungen durch geniale mathematische Datenkompression löst. Mithilfe polarer Transformation und dynamischer Fehlerkorrektur schrumpft der Speicherbedarf ohne messbaren Qualitätsverlust auf ein Sechstel. Unsere Praxistests auf einer Nvidia RTX 4090 belegen...

Re-Upload In dieser Folge von "KI-Agenten besser verstehen" holen wir die Theorie in die harte Praxis. Wir vergleichen zwei reale, produktionsfähige Systeme (nanobot und nanoclaw) und ziehen die ultimativen Lehren für die echte Welt: Agenten sind keine Magie, sondern handfestes Software-Engineering. Die Themen dieser Folge: Die große Entzauberung: Warum ein Agent im Kern kein intelligent...

In Folge 140 des KI Gilde Podcasts  analysieren wir, ob die allgegenwärtigen neuen KI-Prozessoren (NPUs) von Intel und AMD nur cleveres Marketing oder ein echtes Upgrade sind. Wir erklären den Unterschied zwischen extrem effizienten NPUs und leistungshungrigen Grafikkarten und zeigen, warum die neuen Chips im Laptop-Alltag massiv Strom sparen, wenn lokale KI-Modelle ausgeführt werden. Außerdem bel...

In dieser Folge des KI Gilde Podcasts dreht sich alles um Cognee , ein System, das großen Sprachmodellen ein echtes, lernendes Langzeitgedächtnis verleiht. Während herkömmliche KI-Modelle nach jedem Task wieder bei null anfangen und Standard-Abrufsysteme bei komplexen Verknüpfungen Ausfallraten von bis zu 40 % haben, strukturiert Cognee Informationen völlig neu. Das System kombiniert dafür drei ve...

In Teil 7 der Serie "Agenten verstehen" geht es an das absolute Fundament: Die Architektur von Multi-Agenten-Systemen. Wir klären, warum ein unstrukturierter "Sack voll Agenten" im Chaos endet und wie man KI-Teams stattdessen zuverlässig orchestriert. Die Themen dieser Folge: * Die Agenten-Falle: Warum ein einzelnes Modell bei zu vielen Werkzeugen kognitiv kollabiert und unstru...

In Folge 137 des KI Gilde Podcasts dreht sich alles um die "Time to First Token" – die entscheidende Wartezeit, bevor ein lokales KI-Sprachmodell die erste Silbe generiert. Wir beleuchten, was in der rechenintensiven Prefill-Phase passiert und warum der Aufbau des sogenannten Key-Value-Caches als Gedächtnis des Modells bei großen Kontexten schnell über 80 GB Arbeitsspeicher verschlingt....

In der Folge 136 des KI Gilde Podcasts klären wir ein verbreitetes Missverständnis auf: Googles neue Embedding-Generation besteht nicht aus einem einzigen System, sondern aus zwei völlig unterschiedlichen Modellen für verschiedene Einsatzgebiete. Wir vergleichen die beiden neuen Architekturen: Embedding Gemma: Ein kleines, quelloffenes Modell, das extrem effizient ist und sich perfekt für datensch...

Die Themen dieser Folge: Die Multi-Modell-Strategie: Warum es ineffizient und teuer ist, für jede einfache Aufgabe immer das leistungsstärkste Sprachmodell zu nutzen. Kosten & Effizienz: Wie einfache Triage-Entscheidungen blitzschnell und günstig von kleinen Modellen gelöst werden und nur bei echten Problemen auf teure Hochleistungsmodelle eskaliert wird. Datenschutz & DSGVO: Wie das Syste...

In Episode 134 des KI Gilde Podcasts klären wir, ob das neue Modell Qwen 3.5 die ultimative Allzweckwaffe für die lokale Ausführung auf dem eigenen Rechner ist. Wir analysieren die Architektur des gigantischen, multimodalen Sprachmodells, das mit 36 Billionen Token trainiert wurde und nativ 2011 Sprachen sowie komplexe Dokumentenlayouts versteht. Die Highlights der Folge: Architektur & Skalier...

In Folge 133 des KI Gilde Podcasts beleuchten wir den historischen Konflikt zwischen dem KI-Unternehmen Anthropic und dem Pentagon. Nach einem 200-Millionen-Dollar-Vertrag für hochmoderne KI-Modelle weigerte sich Anthropic, seine Technologie für Massenüberwachung und vollautonome Waffensysteme bedingungslos zur Verfügung zu stellen. Daraufhin stufte der US-Präsident das Unternehmen im Februar 2026...

In Teil 5 von "Agenten verstehen" stößt der allwissende Einzel-Agent an seine kognitiven Grenzen. Die Lösung: Der Agenten-Schwarm. Wir zeigen, wie spezialisierte KI-Teams zusammenarbeiten, ohne im Chaos zu versinken. Die Themen dieser Folge: Das Ende des Generalisten: Warum ein einzelnes Modell durch Fehlerfortpflanzung ("Kaskadeneffekte") scheitert und wie ein Triage-System Au...

In dieser Episode des KI Gilde Podcasts (Folge 131) analysieren wir kostenfreie APIs für Large Language Models (LLMs) beim Bau von Prototypen. Wir klären, warum Tech-Giganten teure Rechenleistung scheinbar verschenken – die wahren Motive reichen von Kundenbindung über Hardware-Demonstrationen bis hin zum massenhaften Datensammeln für Modelltrainings. Die wichtigsten Themen im Überblick: Aggregator...

In Folge 130 des KI Gilde Podcasts geht es um Pinokio – eine echte Revolution für lokale KI-Anwendungen. Erfahre, wie du komplexe KI-Programme und autonome Agenten mit nur einem Klick direkt auf deinem eigenen Rechner ausführst, ganz ohne teure Abos oder Server-Kenntnisse. Die Themen dieser Folge: Die Technik: Wie Pinokio durch simple Textdateien ("Bauanleitungen") und isolierte Ordner n...