Vida com IA

Fala galera, nesse episódio eu falo sobre model distillation, que é a tecnica de destilar o conhecimento de um modelo maior para um modelo menor. Essa tecnica tbm é conhecida como teacher-student. No episódio eu abordo o fato de que existem 2 grandes tipos de model distillation, white box e black box distillation. Link do grupo do wpp: ⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh...

Fala galera, nesse episódio eu dou dicas de como usar o chatgpt nos seus projetos. Eu discuto como usar a API do ChatGPT ou de outros LLMs pra alavancar os seus projetos e como decidir entre usar um LLM ou treinar o seu próprio modelo! Link do grupo do wpp: https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Instagram do podcast: https://www.instagram.com/podcast.lifewithai Linkedin do podcast: https...

Fala galera, nesse episódio eu explico o paper do DeepSeek R1, o modelo que está dando o que falar pela sua qualidade comparada ao O1 da OpenAI. No episódio eu explico a pipeline de treinamento do DeepSeek R1, DeepSeek R1-Zero e dos modelos destilados. Link do grupo do wpp: ⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠ https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Paper DeepSeek R1: https://arxiv.org/pdf/2501.12948 Instagram d...

Fala galera, nesse episódio eu explico o DeepSeek V3. Eu passei por todos os pontos tecnicos que chamaram atenção no paper, como Mixture of Experts, MLA, Multi Token Prediction, GRPO... Espero que gostem! :) Link do grupo do wpp: ⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Paper do DeepSeek V3: https://arxiv.org/pdf/2412.19437v1 Instagram do podcast: https://www.instagram.com/podca...

Fala galera, nesse episódio, junto com o pessoal da IBM, nós fizemos uma mesa redonda sobre o futuro da IA. Falamos tanto sobre o futuro da IA nas big techs, o que elas vão focar em lançar nos próximos anos, assim como o na parte de enterprise AI, qual será foco em 2025 e 2026. Link do grupo do wpp: https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Linkedin do Viola: https://www.linkedin.com/in/thi...

Fala galera, nesse episódio eu explico o ChatGPT. Primeiro eu dou uma definição para leigos e depois tecnica, explicando o que é o ChatGPT. Depois eu falo de como o modelo foi treinado e explico as suas capabilidades! Link do grupo do wpp: ⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Instagram do podcast: https://www.instagram.com/podcast.lifewithai Linkedin do podcast: https://www.l...

Fala galera, nesse episódio eu falo sobre um blog post muito interessante da Hugging Face falando sobre as diferentes formas de fazer scalar o test time compute. O blog post é baseado em um paper da Deep Mind que explora o assunto mesmo antes do lançamento do o1. Link do grupo do wpp: ⁠⁠⁠⁠⁠⁠⁠⁠⁠https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Instagram do podcast: https://www.instagram.com/podcast....

Fala galera, bem vindos ao episódios 100! Finalmente depois de mais de 3 anos com o podcast! Nesse episódio eu entrevisto o meu amigo Bernardo Torres. O Be faz PhD em IA para música e no episódio a gente conversou sobre as diferentes tecnicas de IA para processamento de sinais tanto em música quanto em áudio! Link do grupo do wpp:https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Linkedin do Be: htt...

Fala galera, nesse episódio eu falo sobre GraphRAG. Essa nova tecnica de RAG é bastante útil para recuperar informações mais globais sobre documentos ou conjunto de documentos e é uma área que está crescendo muito! GraphRAG paper: https://arxiv.org/pdf/2404.16130 LightRAG paper: https://arxiv.org/pdf/2410.05779 Link do grupo do wpp: https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Instagram do pod...

Fala galera, nesse episódio do podcast eu falo sobre as IAs on-device e o blog post da Hugging Face SmolLM. Primeiro eu falo a minha opinião sobre as diferenças de utilização e necessidade entre IAs on-device e IAs em clusters. Depois eu explico algumas partes do blog post do SmolLM. SmolLM blog post: https://huggingface.co/blog/smollm MobileLLM paper: https://arxiv.org/pdf/2402.14905 Link do grup...

Fala galera, nesse episódio eu entrevistei o Felipe, CEO e Fundador da Clarice AI, o Grammarly brasileiro! No episódio a gente conversou sobre como eles estão desenvolvendo a tecnologia de correção e melhora no estilo da escrita, além do enorme dataset que eles tem pra treinar um LLM brasileiro focado na melhora da escrita! Vagas abertas na Clarice AI: https://clariceai.notion.site/Carreiras-e2771...

Fala galera, nesse episódio eu entrevisto o Hugo Abonizio, LLM Engineer na Maritaca AI, a única empresa de LLM brasileira que acabou de lançar o Sabia 3, um LLM focado em portugues com resultados entre o gpt4o e o Claude 3.5 Sonnet. No episódio a gente fala sobre a Maritaca AI, o Sabia 3 e LLMs em geral. Foi um papo muuito massa e eu recomendo a todo mundo escutar e compartilhar com a galera! LSTM...

Fala galera, nesse episódio eu explico a minha ideia do porque Chain of Thought funciona. Ninguem sabe realmente ainda porque Chain of Thought funciona, não existe prova sobre isso, mas no episódio eu dou um pouco da minha intuição do porque ele funciona. Link do grupo do wpp: https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Instagram of the podcast: https://www.instagram.com/podcast.lifewithai Li...

Fala galera, nesse episódio do podcast eu falo sobre o novo modelo da OpenAI, O OpenAI o1, o modelo que pensa antes de responder. No episódio eu compartilho a minha opinião e a sensação depois dos primeiros contatos com o modelo. Link do grupo do wpp: ⁠⁠https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Instagram of the podcast: https://www.instagram.com/podcast.lifewithai Linkedin of the podcast: h...

Fala galera, nesse episódio eu falo sobre os diferentes tipos de IA. Eu não entro a fundo nos modelos, no episódio eu foco mais em explicar os diferentes tipos e quais problemas eles resolvem. Como tipos de IA eu falo sobre estatística, machine learning, reinforcement learning, deep learning e IA generativa. Link do grupo do wpp: ⁠⁠⁠https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Instagram do pod...

Fala galera, esse episódio não tem nada a ver com IA, nele eu falo sobre falas dicas de investimentos, que é um tema que eu gosto bastante. No espiódio eu falo dos diferentes tipos de investimento, renda fixa, variavel, exterior, previdencia, cripto... Importante falar que nada disso é recomendação de investimento! Link do grupo do wpp: ⁠⁠⁠https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Instagram...

Fala galera, esse é o último episódio da serie sobre o paper do Llama3. Nele eu falo sobre a discussão que eles fizeram sobre análise de contaminação nos benchmarks, da parte de visão e audio. Eu espero que voces tenham gostado dessa serie de episódio sobre o paper, eu aprendi bastante! Link do grupo do wpp: ⁠⁠https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Instagram do podcast: https://www.insta...

Fala galera, nesse episódio eu falo sobre o pre-treinamento e pós-treinamento do Llama 3. Link do grupo do wpp: ⁠⁠https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Instagram do podcast: https://www.instagram.com/podcast.lifewithai Linkedin do podcast: https://www.linkedin.com/company/life-with-ai Llama 3 paper: https://scontent-cdg4-3.xx.fbcdn.net/v/t39.2365-6/452387774_1036916434819166_41739787470...

Fala galera, FINALMENTE saiu o paper do Llama 3! Eles lançaram o modelo de 405B e atualizaram os modelos de 8B e 70B. Nesse episódio eu dou um pouco a minha opinião sobre cenário em geral ao redor do modelo e o que isso representa. Nesse episódio eu dou uma visão geral do artigo, e nos próximos episódios eu vou mais a fundo nos detalhes tecnicos! Instagram of the podcast: https://www.instagram.com...

Fala galera, nesse episódio eu falo sobre como escolher o melhor modelo de IA para o seu problema. Quais são os tradeoffs que voces tem que considerar na hora de escolher o modelo. Link do grupo do wpp: ⁠https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Github Transformers tutorials do Niels Rogge: https://github.com/NielsRogge/Transformers-Tutorials Instagram of the podcast: https://www.instagram....

Fala galera, nesse episódio do podcast eu falo sobre o Stable Diffusion, um famoso algoritmo open source de geração de imagem. Link do grupo do wpp: https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Instagram of the podcast: https://www.instagram.com/podcast.lifewithai Linkedin of the podcast: https://www.linkedin.com/company/life-with-ai Stable diffusion paper: ⁠⁠https://arxiv.org/pdf/2112.10752⁠⁠...

Fala galera, nesse episódio eu falo sobre modelos de difusão, o algoritmo por trás de todos os modelos famosos de geração de imagem como o stable diffusion, dall-e e o midjourney. No episódio eu explico o processo de difusão e também alguns quesitos tecnicos relevantes pro problema, como o ruído branco e o processo de markov. Link do grupo do wpp: https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh V...

Fala galera, nesse episódio eu falo sobre 3 modelos muito importantes que usam contrastive learning, CLIP, SigLIP e JinaCLIP. Eles são modelos de embedding de text-imagem que nos permitem de por exemplo faz retrieval em text e imagem ao mesmo tempo. Link do grupo do wpp: https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh CLIP paper: https://arxiv.org/pdf/2103.00020 SigLIP paper: https://arxiv.org/pd...

Fala galera, nesse episódio eu falo sobre 2 conceitos tecnico muito importantes em Deep Learning, constrastive learning e similaridade de cosseno. Eles muito úteis pra treinar modelos de embedding ou fazer RAG. Link pro grupo do whatsapp: ⁠https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Ótimo blog post sobre contrastive loss: https://lilianweng.github.io/posts/2021-05-31-contrastive/ SimCLR paper...

Fala galera, nesse episódio do podcast eu falo sobre o dataset FineWeb, o melhor dataset open source de pre-treinamento existente até hoje. No episódio eu explico como eles fizeram a curadoria do dataset e um pouco dos resultados. Link pro grupo do whatsapp: https://chat.whatsapp.com/KJBSOV4IbHKIWmKudYiCeh Link do blog da huggingface: https://huggingface.co/spaces/HuggingFaceFW/blogpost-fineweb-v1...