Andrea Viliotti

The episode explores the evolution of Large Language Models (LLMs), from the use of simple architectures to Transformer-based ones, highlighting the exponential increase in parameters and training data. It examines the challenges related to computational costs, data bias, and environmental sustainability, with a particular focus on applications across various sectors and the rise of multimodal mod...

La puntata analizza l'evoluzione dei Large Language Model (LLM), dall'impiego di architetture semplici a quelle basate sui Transformer, sottolineando il rapido aumento del numero di parametri e dei dati di addestramento. Vengono esaminate le sfide relative ai costi computazionali, ai bias presenti nei dati e alla sostenibilità ambientale, con un focus particolare sulle applicazioni in diversi sett...

The episode delves into the evolution of AI agents, from the rigid programming of the 1950s to autonomous and multi-agent systems capable of managing complex processes, analyzing multimedia data, and making strategic decisions. It highlights the importance of effective governance to mitigate the risks associated with the autonomy of these systems, including audits on data preprocessing and the imp...

La puntata esplora l'evoluzione degli agenti AI, partendo dalla programmazione rigida degli anni '50 fino ad arrivare a sistemi autonomi e multi-agente in grado di gestire processi complessi, analizzare dati multimediali e prendere decisioni strategiche. Si mette in luce l'importanza di una governance efficace per mitigare i rischi legati all'autonomia di questi sistemi, includendo audit sulla pre...

The episode presents a guide focused on the creation of academic startups, highlighting the experience of the Harvard University Office of Technology Development. It examines the key phases of the process: from intellectual property protection and market evaluation to securing funding and defining the legal and organizational structure of the company. Successful case studies and alternative models...

La puntata illustra un manuale dedicato alla creazione di startup accademiche, con un focus sull’esperienza dell'Harvard University Office of Technology Development. Vengono esaminate le fasi fondamentali del processo: dalla tutela della proprietà intellettuale e l'analisi del mercato, alla ricerca di finanziamenti, fino alla definizione della struttura legale e organizzativa dell’impresa. Sono in...

The episode delves into the strategic importance of auditing in data preprocessing for artificial intelligence models. It examines crucial aspects such as data integrity and traceability, the reduction of false alarms, and bias mitigation. The implications for businesses are also illustrated, with concrete examples of how accurate auditing enhances the reliability, scalability, and fairness of AI...

La puntata approfondisce l'importanza strategica dell'audit nella pre-elaborazione dei dati per i modelli di intelligenza artificiale. Si analizzano aspetti cruciali come l'integrità e la tracciabilità dei dati, la riduzione dei falsi allarmi e la mitigazione dei bias. Vengono inoltre illustrate le implicazioni per le aziende, con esempi concreti di come un audit accurato migliori l'affidabilità,...

The episode introduces  Chimera , an advanced artificial intelligence framework designed for predicting chemical retrosynthesis. Chimera integrates multiple  machine learning  models, each with distinct inductive biases, thereby improving the overall accuracy of predictions, particularly for complex or rare reactions. Tests conducted on public and industrial datasets, such as  USPTO  and  Novartis...

La puntata introduce  Chimera , un innovativo framework di intelligenza artificiale progettato per la previsione della retrosintesi chimica. Chimera integra diversi modelli di  machine learning , ognuno caratterizzato da bias induttivi distinti, migliorando così l'accuratezza complessiva delle previsioni, soprattutto nel caso di reazioni complesse o poco comuni. I test condotti su dataset pubblici...

The episode explores the impact of artificial intelligence (AI) on business strategies, highlighting the importance of a well-defined AI strategy to enhance productivity, growth, and sustainability. It emphasizes the need to integrate AI into existing processes, creating hybrid roles known as "digital workers," and investing in staff training. The importance of Responsible AI is also underlined to...

La puntata analizza l'impatto dell'intelligenza artificiale (IA) sulle strategie aziendali, evidenziando l'importanza di una strategia IA ben definita per migliorare produttività, crescita e sostenibilità. Si sottolinea la necessità di integrare l'IA nei processi esistenti, creando figure ibride, ossia "lavoratori digitali", e di investire nella formazione del personale. Viene inoltre enfatizzata...

The episode delves into the debate on human rationality, comparing the logical rationality model, based on maximizing expected utility, with the ecological rationality approach, which emphasizes the use of adaptive heuristics in uncertain contexts. It critiques the interpretation of "cognitive biases" as mere fallacies, highlighting how they are often influenced by context and experimental conditi...

La puntata esplora il dibattito sulla razionalità umana, confrontando il modello di razionalità logica, basato sulla massimizzazione dell'utilità attesa, con l'approccio della razionalità ecologica, che enfatizza l'uso di euristiche adattive in contesti caratterizzati da incertezza. Viene criticata l'interpretazione dei "bias cognitivi" come semplici fallacie, evidenziando come essi siano spesso i...

The episode examines the "PROCESSBENCH" study, which introduces an innovative method to evaluate the ability of language models to detect errors in step-by-step mathematical reasoning. This approach focuses on the entire logical process rather than just the final result. The study leverages a large dataset of 3,400 mathematical problems, ranging from school-level exercises to olympiad-level challe...

La puntata esamina lo studio "PROCESSBENCH", che propone un metodo innovativo per valutare la capacità dei modelli linguistici di identificare errori nel ragionamento matematico passo-passo. L'approccio si concentra sull'intero processo logico, anziché limitarsi al risultato finale. Lo studio utilizza un ampio dataset di 3.400 problemi matematici, che spaziano da esercizi scolastici a problemi di...

The episode explores the "AI knowledge circuits" in large language models (LLMs), illustrating how these models internally encode and manage information through connections between different components, such as MLP layers and attention heads. The study highlights the possibility of selectively modifying these circuits ( knowledge editing ) to correct errors or update information, offering a more e...

La puntata analizza i "circuiti della conoscenza AI" nei modelli linguistici di grandi dimensioni (LLM), mostrando come questi modelli codifichino e gestiscano le informazioni internamente attraverso connessioni tra diverse componenti, come gli strati MLP e gli  attention head . Lo studio evidenzia la possibilità di modificare selettivamente questi circuiti ( knowledge editing ) per correggere err...

The episode delves into EvalGIM, an open-source library designed to provide a unified and flexible framework for evaluating text-to-image generative models. EvalGIM stands out by integrating advanced metrics, such as FID and CLIPScore, enabling the assessment of the quality, diversity, and consistency of generated images. It also includes intuitive visualizations to aid in interpreting results. Th...

La puntata analizza EvalGIM, una libreria open-source concepita per offrire un framework unificato e flessibile nella valutazione dei modelli generativi di immagini text-to-image. EvalGIM si distingue per l'integrazione di metriche avanzate, come FID e CLIPScore, che permettono di esaminare la qualità, la diversità e la coerenza delle immagini generate. Inoltre, include visualizzazioni intuitive p...

The episode examines technological forecasts for 2025 according to Mark van Rijmenam, highlighting the ubiquity of artificial intelligence and its ethical and social implications, the information overload and the need for effective data management, the tokenization of assets and associated risks, the looming cryptographic crisis driven by quantum computing, and the impact of technologies such as a...

La puntata analizza le previsioni tecnologiche per il 2025 secondo Mark van Rijmenam, evidenziando l'onnipresenza dell'intelligenza artificiale e le sue implicazioni etiche e sociali, il sovraccarico informativo e la necessità di una gestione efficace dei dati, la tokenizzazione degli asset e i rischi connessi, l'imminente crisi crittografica dovuta al calcolo quantistico, e l'impatto di tecnologi...

The episode introduces the Byte Latent Transformer (BLT), a new language model that processes the raw bytes of text rather than relying on tokenization. Unlike traditional models, the BLT dynamically creates byte “patches,” allocating computational resources according to the complexity of the input. This approach proves more efficient, reducing FLOPS by up to 50% compared to models like LLaMA 3, w...

La puntata presenta il Byte Latent Transformer (BLT), un nuovo modello linguistico che elabora direttamente i byte del testo invece di utilizzare la tokenizzazione. A differenza dei modelli tradizionali, il BLT crea dinamicamente “patch” di byte, allocando risorse computazionali in base alla complessità del testo. Questo approccio risulta più efficiente, riducendo fino al 50% i FLOPS rispetto a mo...

The episode discusses Google's new quantum chip, Willow, highlighting its superior performance compared to classical supercomputers thanks to a significant reduction in quantum error rates. Willow achieves the "below threshold" milestone, halving the error rate as the number of qubits increases, and surpasses the limits of classical systems in benchmarks such as "random circuit sampling." This adv...