Mechanical Dirk

Mechanical Dreams

Science EN ↓ Επεισόδια: 170

An automatically generated podcast about machine learning and natural language processing. The two fictional hosts talk about papers that I want to learn more about on my way to work. It's not good, but it's useful.

Μην παραλείψεις να επισκεφτείς τη σελίδα του podcast και να στηρίξεις τον δημιουργό: mechanicaldreams.mechanicaldirk.com

Δημιουργός

Mechanical Dirk

Κατηγορία

Science

Ιστοσελίδα του podcast

mechanicaldreams.mechanicaldirk.com

Τελευταίο επεισόδιο

27 Σεπ 2026

Πού να ακούσεις;

Podcast στην εφαρμογή Replaio Radio Έρχεται σύντομα

Τα podcast έρχονται σύντομα στην εφαρμογή. Εγκατάστησέ την τώρα και δες πρώτος μια εντελώς νέα προσέγγιση στα podcast

Κατέβασέ το από το Google Play Δωρεάν εγκατάσταση Android σχεδόν 10 εκατ. λήψεις · βαθμολογία 4,8 iOS σύντομα

Επεισόδια

The Zamba2 Suite 29.11.2024
Small-scale proxies for large-scale Transformer training instabilities 26.11.2024
Hardware Scaling Trends and Diminishing Returns in Large-Scale Distributed Training 25.11.2024

I slightly tweaked the personality of the hosts.

Scaling Laws and Compute-Optimal Training Beyond Fixed Training Durations 19.11.2024
Understanding WSD Learning Rates 18.11.2024
Toward Understanding Why Adam Converges Faster Than SGD for Transformers 16.11.2024

New generation algorithm! Should make the episodes longer, more detailed, and more coherent.

Amuro & Char - Analyzing the Relationship between Pre-Training and Fine-Tuning of Large Language Models 08.11.2024
Evaluation data contamination in LLMs: How do we measure it and (when) does it matter? 07.11.2024
How Does Critical Batch Size Scale in Pre-training? 04.11.2024
The Road Less Scheduled 01.11.2024
Learning-Rate-Free Learning by D-Adaptation 31.10.2024
Scaling FP8 Training to Trillion Token LLMs 30.10.2024
Geometric Dynamics of Signal Propagation Predict Trainability of Transformers 29.10.2024
A Survey on Model MoErging 28.10.2024
Liquid Time-constant Networks 27.10.2024
Scaling Laws for Predicting Downstream Performance in LLMs 26.10.2024
A Spectral Condition for Feature Learning 25.10.2024
Don't decay the learning rate 24.10.2024

A classic paper about learning rates.

OLMoE 23.10.2024

professor norris: Welcome back to Mechanical Dreams, the podcast where we delve into the exciting world of machine learning and natural language processing. I'm Professor Norris, and as always, I'm joined by my brilliant student, Linda. linda: It's great to be back, Professor. And I'm particularly excited about today's paper. It tackles a topic that's been buzzing in...

An Empirical Model of Large Batch Training 23.10.2024

First attempt to automatically generate a podcast from a paper. This one is way too short, but it's a start.

Άκου το podcast Mechanical Dreams στο Replaio

Ραδιόφωνο και podcast σε μία εφαρμογή - δωρεάν, χωρίς εγγραφή. Εγκατάστησέ την σήμερα και μη χάσεις την πρεμιέρα

Κατέβασέ το από το Google Play

Το Replaio δεν είναι εκδότης podcast - τα ονόματα των εκπομπών, τα εξώφυλλα και ο ήχος ανήκουν στους δημιουργούς τους και διανέμονται μέσω δημόσιων ροών RSS