Hidden layers

In this episode I had the honor to interview Benjamin Mayr, Vice President, Head of Architecture at NiCE Cognigy. Benjamin took me deep into what it really takes to run enterprise-grade conversational and agentic AI at scale. We talked about the "harness" around the model - the layer that turns a raw LLM into a reliable agent in a live contact center. He also broke down the LLM Gateway, which pool...

פרק נוסף לפודקאסט שלנו והפעם פרק בשיתוף חברת Manifold, שבו ראיינתי את גלעד לוי, המייסד והמנכל של החברה. לא בכל יום אתה מראיין יזם שרוצה לקרוא תיגר על הטכנולוגיה הכי מוכרת ונפוצה בתחום ה-AI וממש עובד על ארכיטקטורה חדשה שתחליף את הטרנספורמים המפורסמים. גלעד, שאת התואר הראשון שלו עשה בגיל 15 בטכניון, שיתף אותי על למה הוא חושב שטרנספורמרים כבר לא מספיקה, על הגישה שלהם להתמודד עם בעיות AI וגם למה כל כך...

פרק נוסף לפודקאסט שלנו והפעם פרק בשיתוף עם חברת Alice, שבו ראיינתי את אבי גולן, Chief Product & Engineering Officer בחברה. את הפרק הזה רציתי המון זמו להקליט. את אבי גולן אני מכיר כבר שנים רבות ומאוד ריתק אותי לשמוע על השינוי ש-Alice עשו במוצר שלהם. כיום הם עובדים עם 8 מתוך 10 מעבודת ה-AI המובילות בעולם והם עוזרים להם להבין מה גבולות הגזרה של המודלים שלהם. הם מריצים מבחני עומק על היכולות של המו...

פרק חדש בפודקסט והפעם שיתוף פעולה עם Bria. בפרק הזה היה לי תענוג לראיין את מישה פיינשטין, ה-CTO של חברת Bria. אני עוקב אחרי Bria מאז שהוקמה ועוד אז המשימה שלהם נראתה לי כמעט בלתי אפשרית: הם רוצים לאמן מודל בסיס מאפס שידע לייצר תמונות באיכות הגבוהה ביותר אבל גם לדעת איזה אומן תרם ליצירת התמונה ולשלם לו בהתאם. כלומר, הם פיתחו מודל שידע לייצר תמונות אבל גם להביא תמלוגים לכל מי שהמודל התבסס עליו בג'ינ...

הפעם היה לי הכבוד לראיין את ערן הופמן, ה-Chief R&D officer בחברת Dream. בחברת Dream מפתחים טכנולוגיה מיוחדת שנועדה להגן על ממשלות וגופים ציבוריים כנגד מתקפות סייבר. בפרק דברנו על האתגרים המיוחדים שיש בסוג הלקוחות האלה, על הסטאק הטכנולוגי המאתגר וגם על איך מודלי AI כמו מיתוס משפיעים על עתיד הסייבר ויכולות התקיפה כנגד מעצמות. חברת Dream הציגה בכנס CyberML שלנו: https://machinelearning.co.il/lp-e...

הפרק היה לי הכבוד לראין את עופרי זיו, מייסד שותף וה-VP Research בחברת Tenzai ולדבר איתו על איך בונים האקר מבוסס מודלי AI. בפרק צללנו לדרך שבה מודלי AI הופכים להיות טובים במציאת חולשות ואיך ניתן להפוך אותם להאקרים שעוזרים למצוא נקודות תורפה במערכות. חברת Tenzai היא אחת מהשותפות שלנו בכנס CyberML בו הם משתפים לעומק על התהליך הטכני של בניית האקר AI. לינק לכנס: https://machinelearning.co.il/lp-events/...

בפרק הזה היה לי הכבוד לארח את בן משיח, Director of Data & AI בחברת Claroty. מה שמיוחד ב-Claroty הוא שהם מאבטחים את המתקנים הרגישים בעולם: החל ממפעלים ובתי חולים ועד לדאטה סנטרים גדולים. כל זה יוצר אתגרים מאוד משמעותיים כשמנסים להגן על אתרים חשובים שכאלה - במיוחד שחלקם לרוב מנותק מהאינטרנט. בפרק דברנו על איך הם משלבים AI כדי לתת מענה לכל איומי הסייבר של הלקוחות שלהם וגם לאן הולך התחום כולו. אם...

הפרק הזה היה לי העונג לארח את שירן, VP Research בחברת Cyera. למי שלא מכיר, מדובר על אחת מחברות הסייבר הישראליות הצומחות ביותר. בפרק דברנו על הדרך שבה עושים מחקר דאטה ו-AI מעמיק ועל האופן שבו מודלי שפה עוזרים להגן על דליפות מידע. הפרק עסק גם בצורך לאמן מודלים באופן עצמאי (במיוחד בסקייל שלהם) וגם על העתיד של תחום הסייבר וה-AI. מוזמנים לשמוע עוד על מה ש-Cyera עושה בתחום בכנס CyberML שלנו: https://mac...

הפרק הזה היה לי העונג לארח את טום ברנע מחברת Tenable - אחת מחברות הסייבר המשמעותיות בעולם. בפרק דברנו על איך תחום הסייבר משתנה בעקבות מודלי GenAI ואיך הם כחברת אבטחה צריכים להתמודד עם כל השינויים האלה. מה שמיוחד בפרק הזה הוא שטום שיתף לא מעט ממה שקורה בשטח ובאתגרים שחברות מתמודדות עמן ביום יום. העובדה שב-Tenable פועלים עם כל כך הרבה חברות מביאה להם ראיה מאוד רחבה על השוק ועל הדרך שבה ארגונים מנסים...

בפרק הזה היה לי העונג לראיין את גבריאל כהן, המייסד שותף של NanoClaw.  לגבריאל יש סיפור חיים מרתק שהוביל אותו להקים גרסה מאובטחת של OpenClaw שיודעת לספק את כל הפונקציונליות העיקרית אבל באופן הרבה יותר בטוח. הפרויקט תפס תאוצה בחודשים האחרונים והפך להיות סנסציה גדול בקרב קהילת ה-AI הבינלאומית - כולל אנדריי קרפתי שהתלהב מהפרויקט מאוד.  בפרק עצמו דברנו על מה המהות של סוכנים, איך בונים אותה בצורה מאובטח...

הפרק היה לי העונג לדבר עם גילי כנפו, AI Lead בחברת Vega - בין הסטארטאפים הכי מעניינים בתחום ה-AI והסייבר. דברנו על איך מאבטחים דאטה בעידן ה-AI, איך חוקרים פרצות אבטחה בעזרת סוכנים ובכלל לאן כל התחום הולך בשנים הקרובות. גילי ידבר על כל זה ועוד בכנס CyberML שלנו: https://machinelearning.co.il/lp-events/cyberml/

עדי הוא מי שאני הולך אליו ללמוד על כל דבר שקשור לחומרה בתחום ה-AI. בפרק הזה דברנו על שבבים לאימון, להרצה ובכלל על העתיד של כל התחום הזה. דברנו כמובן גם עם אנבידיה ועל התחרות שיש להם ואיך אפשר באמת לאתגר את הדומיננטיות שלה בעולם השבבים. פרק חובה לכל מי שרוצה להבין לעומק את צד החומרה במהפכת ה-AI.

In this episode I had the honor to interview Leo Leung, Director of Product Management - AI & Computing Infrastructure. Leo Leung took me deep into the 8th Gen TPUs. We explored how Google connects 134,000 chips into a single system and why they are specifically increasing memory and SRAM to support the high-speed requirements of autonomous agents. This interview was part of my coverage of the...

In this episode I had the opportunity to interview Bill Jia, VP Engineering at Google Cloud. Bill Jia shared how his team bridges the gap between DeepMind’s research and massive production runs on 100k+ TPUs, focusing on "Good-put", the art of ensuring productive compute time during weeks of training. I learned so much about the actual transformation from research to production in this conversatio...

In this episode I had the honor to speak with John Abel, Managing Director, Office of the CTO at Google Cloud. I had an amazing conversation with him and he gave me such interesting perspectives about the future of agents. We also discussed why domain experts are the real winners of the AI revolution and how "Agentic AI" will finally eliminate daily friction to make room for creative work. This in...

בפרק הזה, חלק מסדרת CyberML שלקראת הכנס שלנו, אירחתי את נדב ארז מ-Twine לשיחה מרתקת על הצומת בין AI לסייבר. נדב הוא ה-CTO של Twine ואחד המייסדים, ובחברה הם בונים את "אלכס" - עובד דיגיטלי שמקבל KPI ופועל מולו 24/7 בעולמות ה-Identity Management. דברנו על איך בונים עובדים דיגיטליים שאפשר לסמוך עליהם, על מתקפות סייבר עתידיות, על מודלי AI שמתמחים בסייבר ועוד מלא דברים מעניינים. נדב ידבר על כל זה, ועל ע...

בפרק הזה היה לי העונג לארח את עומר נבו, CTO ומייסד שותף בחברת Irregular. דיברנו על שני נושאים שמרתקים אותי במיוחד: הערכת היכולות המסוכנות של מודלי AI מתקדמים והמרוץ לבניית הגנות סייבר בעולם של סוכנים אוטונומיים. הזכרנו את שיתופי הפעולה הייחודיים של Irregular עם השחקניות הגדולות בעולם כמו OpenAI, אנטרופיק וגוגל, ועל האופן שבו הם בונים סביבות סימולציה מורכבות כדי להבין איפה המודלים נשברים.  דנו באיו...

בפרק הזה היה לי העונג לארח את רוני גולדשמיט מחברת Nexar ודברנו על שני נושאים שמאוד מסקרנים אותי: מודלי AI שאפשר להריץ מקומית וגם על World models  - מודלי AI שבוראים ויוצרים עולמות שלמים עם חוקי פיזיקה מלאים. בפרק דברנו גם על פריצת הדרך החדשה שהשיגה Nexar בתחום ועל משפחת המודלים החדשים שהיא הכריזה עליהם שמבינים את הפיזקליות של העולם בצורה ממש טובה. דברנו על איך מאמנים מודל שכזה, מה היישומים של הטכנ...

לכתוב קוד באמצעות AI זה קל, לבדוק שהוא באמת טוב זה כבר חתיכת אתגר. בדיוק על זה דברתי עם איתמר פרידמן, המייסד של Qodo - סטארטאפ ישראלי מבטיח שמוודא שהקוד שנכתב על ידי מודלי AI באמת באיכות טובה. בפרק דברנו על מה זה אומר בכלל קוד טוב, למה זה כזה קשה לבדוק איכות של קוד כזה וגם: איך איתמר הגיב ברגע שאנטרופיק השיקה מוצר מתחרה לשלו.

בפרק הזה אירחתי את אנדריי אוסטרובסקי (Andrey Ostrovsky), Staff Machine Learning Engineer ב-Intuit, לשיחה עמוקה על האתגרים בשילוב AI בכתיבת קוד בתאגידים גדולים. הפרק בחסות Intuit. מה שמיוחד בשיחה שהייתה לנו היה שלא דברנו רק על איך המפתח הבודד יכול להשתמש ב-AI, אלא ממש על איך ארגון יכול לכתוב קוד בסקייל באמצעות AI. כלומר, איך בונים מכונה שמייצרת קוד אבל באופן שמשתפר באופן קבוע (אבולוציוני) ומה התהלי...

בפרק הזה דברתי עם צופית וריטה, שתיהן חוקרות מ-Intuit, ודברנו על השילוב של תחום ה-AI והסייבר. הראיון הזה היה המשך להרצאה המעולה שהן העבירו בכנס GenML שבו הן דיברו על איך מודלי AI יכולים להיות מושפעים משינוי קטן בקלט. בפרק הזה הן דיברו איך אפשר לעשות שינוי קטן בתמונה, או במסמך, ולגרום למודלי AI הכי מתקדמים לבצע פעולות אחרות לגמרי. הן גם סיפרו על המחקר שהן עושות ואיך זה בא לידי ביטוי בסוף במוצר הסופי...

הפרק היה לי העונג לארח את יובל בלפר, Senior Developer Advocate בחברת AI21 Labs. למי שלא מכיר, חברת AI21 Labs היא החלוצה הישראלית בתחום מודלי השפה ובין החברות היחידות הישראליות שמפתחות מודל בסיס מאפס. הקלטנו את הפרק בנובמבר, קצת לפני הכנס של הקהילה (GenML25) והוא היה הכנה לקראת ההרצאה שלהם בכנס. בשיחה דברנו על המוצרים השונים של החברה, המודלים לאורך השנים, השינויים שקרו בשנים האחרונות, הפלטפורמה החד...

בפרק הזה אירחתי את עידן בסוק, Chief R&D and AI Officer, בחברת Aidoc העוסקת בתחום פיתוח מודלי AI לעולם המדיקל. דברנו על השלבים הראשונים של החברה, המעבר ממספר מודלים למודל אחד גדול, על מה זה אומר לפתח מודל בסיס בתחום המדיקל ועל ההזדמנויות האדירות שיש בשילוב AI בתחום הרפואה.

בפרק הזה היה לי העונג לארח את נעמי קן כורם, Senior Researcher, בחברת לייטריקס לשיחה מרתקת על מודלי AI בתחום הוידאו. בפרק דברנו על הדרך שלייטריקס עברה בשנים האחרונות ואיך לצד האפליקציות שהם משחררים לצרכנים, הם התחילו גם לשחרר מודלי AI בקוד פתוח ולהנגיש את הטכנלוגיה שלהם. דברנו על איך זה לאמן מודלי בסיס בתחום הוידאו, על היתרונות שלהם לעומת המתחרים וגם על העתיד של התחום. כל מי שרוצה ללמוד עוד על הנוש...

אני שמח לשתף פעולה בפעם השישית עם Nebius Academy (לשעבר YDATA) ולספר לכם על תוכנית ההכשרה שלהם לתחומים ה-AI. בפרק הזה ראיינתי את כרמל, מנהל התוכנית, ואת נועה, חוקרת בתחום ומרצה בתוכנית. בפרק הזה דברנו על הכשרות בתחום ה-AI ועל הקורס של Nebius Academy. שוחחנו על איך הסילבוס התעדכן עם כל ההתפתחויות בתחום, על ההכנה של הבוגרים לשוק העבודה, הפרויקט גמר ועוד הרבה נושאים נוספים. המחזור הבא מתחיל ממש בקרוב...