Attention Heads - Schweizer Perspektiven auf KI und die Technologie von morgen

In unserer Eröffnungsfolge beleuchten wir, wie ChatGPT, Github Copilot und ähnliche Technologien die Landschaft des Software Engineering im Jahr 2023 verändert haben. Wir diskutieren, wie diese Werkzeuge unsere Arbeitsweise beeinflussen und welche neuen Möglichkeiten und Herausforderungen sie für Entwickler darstellen.

Grosse Sprachmodelle wie ChatGPT, Gemini oder Claude sind längst nicht mehr nur technische Spielereien – sie beeinflussen, wie wir Informationen konsumieren, politische Debatten führen und Entscheidungen treffen. Doch wie politisch neutral sind diese Modelle wirklich? Tragen sie eine inhärente ideologische Färbung in sich? Und wenn ja, welche?

In dieser Folge nehmen wir den bahnbrechenden DeepSeek R1 genau unter die Lupe – ein Modell, das seinen Denkprozess eigenständig definiert und optimiert. Statt ihm vorzugeben, wie es nachdenken soll, beobachten wir, wie die KI in Echtzeit ihre eigenen Ketten des Denkens generiert und dabei komplexe Probleme löst. Wir erklären, wie DeepSeek R1 mithilfe von Reinforcement Learning und innovativen Met...

In dieser Folge nehmen wir das DeepSeek V3 Paper genau unter die Lupe – das Open-Source-Powerhouse, das aktuell für Furore in der KI-Szene sorgt. Wir erklären, warum dieses Modell mit seinen 671 Milliarden Parametern (37 Milliarden aktiv pro Token) und innovativen Architekturen wie Multi-Head Latent Attention und Mixture-of-Experts den Markt revolutioniert. Dabei beleuchten wir, wie DeepSeek V3 tr...

In der SRF Arena ging es auch um die Frage, wie der rasante Fortschritt der Künstlichen Intelligenz sicher und verantwortungsvoll reguliert werden kann. Experten diskutierten, ob nationale Maßnahmen ausreichen oder ob ein globaler Sicherheitsmechanismus – vergleichbar mit Ansätzen in der Nukleartechnik – notwendig wäre, um Risiken zu minimieren. In dieser reAct-Folge setzen wir uns mit den in der...

Diese Folge widmet sich den weitreichenden Veränderungen in der Arbeitswelt durch den Einsatz von Künstlicher Intelligenz. Wir stellen die provokante Frage: Führt die Automatisierung zu mehr Freizeit und Lebensqualität für die breite Masse – oder profitieren letztlich nur wenige von einem digital generierten Überschuss? Mit einem Blick, der leicht marxistische Ansätze miteinbezieht, analysieren wi...

In der SRF Arena wurde unter anderem der kontroverse Vorschlag diskutiert, große Technologieunternehmen zu enteignen – ein radikaler Ansatz, der auf eine fundamentale Umverteilung der digitalen Macht abzielt. In dieser reAct-Folge nehmen wir genau diesen Punkt unter die Lupe. Wir analysieren, ob ein solcher Eingriff den Weg zu mehr digitaler Demokratie ebnen kann, welche Chancen er eröffnet und we...

Das OpenAI-Video mit Sam Altman präsentiert nicht nur das leistungsstarke Modell o3, sondern auch das neue o3-mini – ein Modell, das mit einem genialen Kosten-Intelligenz-Verhältnis punktet. In dieser reAct-Episode schauen wir uns das Video an und reagieren auf die spektakulären Benchmarks und Demos, die zeigen, wie o3-mini trotz höherer Kosten eine derart herausragende Leistung liefert, dass o1 q...

Im OpenAI-Video mit Sam Altman wurde das neue Modell o3 vorgestellt – und es sorgt beim Arc AGI-Benchmark für Furore. In dieser reAct-Episode schauen wir uns das Video an und reagieren live auf die beeindruckenden Demos. Wir diskutieren, ob o3 bei komplexen mathematischen und programmiertechnischen Aufgaben tatsächlich an die menschliche Intelligenz herankommt – oder diese gar übertrifft. Seid dab...

Welche Gefahren, die KI mit sich bringt, sind heute, 2025, bereits Realität? Wir berichten darüber, wo wir die Entwicklungen der KI wirklich im Auge halten müssen, und zeigen an Beispielen wie "Predictive Policing" oder "KI im Krieg" auf, wieso der Einsatz von KI durchaus schon heute Gefahren mit sich bringt.

Wir sprechen über 12 Days of Shipmas! Genauer gesagt über das neue Modell o1 und ChatGPT Pro, über reinforcement fine-tuning, Sora, Canvas und Apple Intelligence.

Ein Viertel des neuen Codes bei Google wird inzwischen von Künstlicher Intelligenz geschrieben – ein erstaunlicher Einblick in die rasante Entwicklung der Technologie. Was bedeutet das für die Zukunft der Programmierung und die Rolle der Entwickler? In dieser tldr -Episode diskutieren wir den aktuellen Earnings Report von Google und die Auswirkungen der Tatsache, dass KI bereits jetzt maßgeblich a...

Fehlerhafte Planung, unrealistische Erwartungen und fehlendes Know-how – es gibt viele Gründe, warum KI-Projekte ins Stocken geraten oder scheitern. In dieser Folge decken wir auf, worauf es wirklich ankommt, um KI-Projekte erfolgreich zu machen. Von den ersten Schritten der Projektplanung bis zur Implementierung: Erfahre, welche Stolperfallen du vermeiden musst und welche Strategien dir helfen, z...

Was passiert wirklich hinter den Kulissen des Deep Learning? In dieser Folge lüften wir das Geheimnis der 'Sprache' der Künstlichen Intelligenz und tauchen tief in die Welt des Embedding Space ein. Wir diskutieren, wie Dropout Layers das Lernen der KI verbessern, warum Few-Shot Learning so revolutionär ist, und wie Fine-Tuning Modelle präziser macht. Doch das ist nicht alles: Wir werfen auch einen...

In dieser Episode zeigen wir, warum Künstliche Intelligenz sehen muss, um wirklich zu verstehen. Vision-Modelle sind der Schlüssel zur nächsten Stufe der KI-Entwicklung, denn nur mit Bildern lässt sich ein umfassendes Weltbild schaffen – Bilddaten übertreffen Text in Menge und Tiefe. Doch das ist nicht alles: Wir sprechen auch über die 'Diffusion Illusion' – eine coole Technik, bei der Stable Diff...

In dieser Episode von Attention Heads tauchen wir tief in die Welt der Künstlichen Intelligenz ein und fragen uns: Wird es wirklich möglich sein, in 1000 Tagen AGI (Artificial General Intelligence) zu haben? Dieses gewagte Statement stammt von keinem Geringeren als Sam Altman. Doch was steckt wirklich dahinter? Wir führen euch von A bis C durch spannende Konzepte wie Attention Heads, Agents und AG...

In dieser Folge von tldr werfen wir einen genaueren Blick auf das neueste Modell von OpenAI: o1. Was macht dieses Modell anders? Mit einem angeblichen IQ von 120 und der Fähigkeit, erst nachzudenken, bevor es antwortet, könnte es der nächste Schritt in Richtung AGI (Artificial General Intelligence) sein. Aber wie intelligent ist es wirklich? Wir sprechen über die wichtigsten Neuerungen, wie man di...

Während die KI-Industrie von Hype und Marketingversprechen dominiert wird, werfen wir einen kritischen Blick auf zwei aktuelle Entwicklungen: OpenAIs geheimnisvolles "Strawberry"-Modell und das Open-Source "Reflection"-Modell. Wir hinterfragen die großen Behauptungen und analysieren, was wirklich hinter diesen neuen Ansätzen steckt.

In dieser optimistischen Partnerfolge zu unserer düsteren KI-Dystopie wagen wir einen hoffnungsvollen Blick in eine Zukunft, in der KI ihr volles Potenzial entfaltet. Von der 4-Tage-Arbeitswoche bis zur Renaissance des Gemeinschaftssinns – wir erkunden, wie KI unser Leben bereichern könnte. Doch Vorsicht: Diese Utopie kommt nicht von allein. Erfahren Sie, welche Weichen wir heute stellen müssen, u...

Diese Folge untersucht kritisch mögliche negative Auswirkungen fortschrittlicher KI in den nächsten 10-15 Jahren. Wir diskutieren Szenarien wie massiven Jobverlust, Veränderungen in der zwischenmenschlichen Kommunikation und potenzielle Machtkonzentrationen bei KI-Unternehmen. Teil 1 unserer Doppelfolge zur KI-Zukunft - realistische Bedrohung oder übertriebene Ängste? Teil 2 wird utopische Visione...

KI ist in aller Munde, aber was steckt wirklich dahinter? Wir analysieren den aktuellen KI-Hype kritisch, hinterfragen überzogene Marketingversprechen und diskutieren die Diskrepanz zwischen Erwartungen und Realität. Dabei beleuchten wir die Rolle von KI in Unternehmen, gesellschaftliche Erwartungen an KI-Systeme und die treibenden Kräfte hinter der KI-Adoption. Eine nüchterne Bestandsaufnahme des...

Diese Folge befasst sich mit der oft übersehenen Bedeutung von Open-Source-KI-Modellen. Wir diskutieren, wie diese Modelle Innovation und Forschung vorantreiben und warum sie für die Zukunft der KI wesentlich sind. Themen umfassen die Entwicklung von OpenAI weg vom Open-Source-Ansatz, Herausforderungen und Chancen in der Open-Source-Entwicklung, sowie den Vergleich zu proprietären Modellen wie GPT...

In dieser Episode von "Attention Heads" beschäftigen wir uns mit der viel diskutierten, aber vielleicht überflüssigen Frage: Ist Künstliche Intelligenz wirklich intelligent? Wir philosophieren über die Definition von Intelligenz und analysieren, ob KI diesen Kriterien gerecht wird. Dabei kommen wir zu dem Schluss, dass die Frage selbst oft mehr Verwirrung stiftet als Klarheit bringt. Wir...

In dieser spannenden Episode von "Attention Heads" beschäftigen wir uns mit einem der heißesten Themen der modernen Bildung: Künstliche Intelligenz im Klassenzimmer. Von Universitäten bis hin zu Primarschulen durchdringt KI zunehmend den Bildungssektor. Doch was bedeutet das für Schüler, Lehrer und das Bildungssystem als Ganzes? Wir diskutieren den Einsatz von KI wie ChatGPT im Unterrich...

Die fünfte Episode unseres KI-Podcasts wagt sich an ein kontroverses und oft übersehenes Thema: die inhärenten Biases in KI-Modellen wie ChatGPT, mit einem speziellen Fokus auf deren Auswirkungen auf Minderheiten. Wir enthüllen den tiefgreifenden, doch weitgehend unbekannten Einfluss, den OpenAI auf die Entwicklung und Gestaltung von ChatGPT ausübt. Diese Folge beleuchtet, wie Vorurteile in den Da...