מדברים פתוח

בשנה האחרונה עולם הבינה המלאכותית לא הפסיק להאיץ  מודלים, גרסאות ומוצרים חדשים בקצב מסחרר. אבל מעבר לאפליקציות ולצ'אטבוטים שכולנו מכירים מסתתרת שאלה גדולה בהרבה מה באמת נדרש כדי לממש בינה מלאכותית ברמה של מדינה שלמה? בפרק הזה אנחנו מארחים בפעם השנייה את שחר ברכה, סגן מנהל המטה הלאומי לבינה מלאכותית (ובעברו ראש מערך התקשוב הממשלתי), לשיחה סביב השאלה שחזרה שוב ושוב מהקהל: על תפקידי המטה הלאומי לבינה...

הבאזוורדס של עולם הפיתוח לא מפסיקים להתחלף, והפעם ג'וש ואילן עושים סדר במעבר מסוכני AI כלליים לעבודה ממוקדת עם Skills ו-Claude Code. דיברנו על הפער בין ההבטחה לאוטונומיה לבין המציאות, למה ה-Harness חשוב לא פחות מהמודל עצמו, מה קורה כשנותנים ל-MCP לפתוח כרטיסיות ב-Jira או לעשות Code Review, ואיזה סכנות אבטחה מסתתרות כשנותנים ל-AI לרוץ ב-YOLO Mode. האם מקצוע הפיתוח שינה את פניו לתמיד?

בפרק זה אירחנו את איתי יונה, חוקר  לשעבר ב-Google DeepMind ומומחה לאבטחת מידע ולמידת מכונה. בשיחה שכל כולה צוללת אל תוך עולם ה-Adversarial Machine Learning ובודקת עד כמה קל "לשבור" את מודלי השפה המתוחכמים ביותר שאנו מכירים כיום. הנושאים המרכזיים בפרק: מה זה בכלל Jailbreak? איתי מסביר כי בניגוד לאבטחת תוכנה קלאסית, כאן התקיפה מתמקדת במודל עצמו ובניסיון לגרום לו להתנהג בניגוד למטרה המקורית שלו דרך ש...

כולם מדברים על AI Agents, וכולם רצים ליישם את MCP (Model Context Protocol) – הפרוטוקול שהפך לסטנדרט החדש בחיבור מודלים לעולם האמיתי. על הנייר? זה גאוני. אנחנו נותנים ל"מוח" (ה-LLM) "ידיים" (Tools) כדי לבצע פעולות עצמאיות. בפועל? יצרנו וקטור תקיפה חדש לחלוטין שאנחנו עדיין לא יודעים איך לאכול. בפרק הזה (שהוקלט מהממ"ד, כי אין כמו אקטואליה לחידוד חושים), אירחנו את לירן טל מחברת Snyk, מומחה אבטחה ומובי...

בפרק סיום השנה של "מדברים פתוח" אירחנו את ניצן דוד פוקס ("המשחק הגדול") כדי להבין לעומק את השפעת בינה המלאכותית הגיאופוליטיקה העולמית ולמה אנחנו לא בתחרות מסחרית, אלא במלחמה על הסדר העולמי החדש.   בין היתר דיברנו על: ארבעת שדות הקרב: המעצמות נלחמות על כוח חישוב, דאטה, כישרון ורגולציה. סקרנו את מעמדן של השחקניות השונות   המועדון הסגור של "Pac Silica":  אם במקרה לא שמעתם אז ישראל נבחרה לאחת מ-8 המדי...

בפרק הזה אנחנו מארחים את פרופ׳ מאיר פדר מאוניברסיטת תל אביב, מדען תורת האינפורמציה עם רקע תעשייתי וזוכה פרס אוסקר טכנולוגי. דיברנו על למה מודלים עצומים מצליחים להכליל למרות חוקי הסטטיסטיקה הקלאסיים, איך אוקאם ותורת האינפורמציה יכולים להסביר את “הקסם” של ה-AI, ולמה קיר החשמל והעלות מכריחים אותנו לחשוב על ארכיטקטורות חדשות מעבר לרשתות נוירונים. לינקים  Information-Theoretic Framework for Understandi...

בעולם שבו פחות ופחות אנשים "גולשים" באינטרנט ויותר פשוט מדברים עם מודלים, האינטרנט עצמו משתנה מתחת לרגליים שלנו. בפרק הזה אילן וג'וש מארחים את אייל בן ברוך, מוביל תחום הדאטה וה AI בטבילי,Taviliy סטארטאפ ישראלי ששם לעצמו מטרה לבנות את שכבת החיבור בין האייג'נטים לאינטרנט. נכנסים לעומק של איך נראית חוויית חיפוש כשקהל היעד כבר לא בן אדם מול כרום, אלא אייג'נט שמבצע עשרות מיליוני קריאות ביום. מדברים על...

בפרק הזה ארחנו את נירית כהן, מומחית לעתיד העבודה, ודיברנו על אחת השאלות הבוערות של העידן שלנו: מה זה בכלל "קריירה" כשידע מתיישן כל 5–7 שנים, תפקידים משתנים בקצב מפחיד, והגבול בין חיים לעבודה כמעט נעלם. דיברנו על: למה המודל הישן של "למד מקצוע, תישאר בחברה, תצא לפנסיה" כבר לא עובד. למה הביטחון התעסוקתי האמיתי היום הוא לא תפקיד – אלא היכולת להישאר רלוונטיים. איך נראית קריירה כשמנהלים כמה כיוונים מקצו...

פותחים את עונה 4 עם סיפור קוד-פתוח משולב בינה מלאכותית בפרק זה אירחנו את יניר מרמור ממכון וויצמן, ממקימי פרויקט “עברית AI” — יוזמה קהילתית לשיפור תמלול דיבור בעברית. דיברנו על איסוף הדאטה הקהילתי, היבטי זכויות יוצרים ואיך הם התמודדו עם הבעיה, בניית דאטה-סטים וגם על האפליקציות הפתוחות (ווב ובוט וואטסאפ) שכבר מתמללות עשרות אלפי שעות בחודש — לצד אתגרי פרטיות ותוכניות להמשך (סטרימינג, דומיינים רפואיים...

בפרק הסיום שלנו אנו שוברים את המיתוס שמודלים חייבים להיות מפלצות GPU. פרופ’ ניר שביט, מייסד-שותף של Neural Magic וכיום ברד האט, חושף כיצד Sparsity ו-Quantization מצמצמים את משקל המודל, חוסכים בזיכרון ובכסף – ומשאירים את הביצועים בשיא. ניר מסביר למה vLLM הוא ה”לינוקס” של עולם ה-LLM: שכבת אינפרנס פתוחה שמסתירה את כאב-הראש של חומרה משתנה ומנהלת זיכרון, תזמון ומשאבים על פני כמה GPUs, תוך תחרות צמודה מ...

בפרק סיום לעונה זו אנחנו צוללים לעולם שבו הביולוגיה והבינה המלאכותית נפגשות. אירחנו את פרופ' ניר שביט, ממייסדי Neural Magic וחוקר בעל שם בתחום מדעי המחשב, לשיחה על הקשר העמוק בין המבנה של המוח האנושי לבין הדרך שבה אנו מפתחים מערכות בינה מלאכותית. שוחחנו על מושגי יסוד בעולם הבינה המלאכותית  שוחחנו על המושג Sparsity—איך המוח יודע לעבוד בצורה חסכונית ויעילה, ואיך הרעיון הזה הופך למפתח בהאצת מודלים של...

בפרק שוחחנו עם אסף מ-IBM Research, ממובילי מודל Granite. הסברנו מהו מודל פתוח: ארכיטקטורה, קוד אימון, משקולות ונתונים, ולמה ברוב המקרים רק שני החלקים הראשונים זמינים. דיברנו על רישיונות שונים, מ-MIT החופשי ועד Llama-License המחייב לשמור את השם. הסברנו שהכסף עבר מאימון יחיד ויקר לאינפרנס מתמשך, ולכן ענקיות בונות חוות GPU ומציעות תשתיות כמו Watsonx, VLLM ו-MCP. ראינו כיצד קהילה יכולה לתרום קוד ו-syn...

בפרק הזה אילן “שם על האש” את ג’וש לשיחה מעמיקה על MCP – Model Components Protocol, ה־באזז החם שמחבר מודלי LLM לעולם האמיתי. השניים עוברים מהיסטוריית החודשיים הסוערת של הפרוטוקול ועד הדילמות שמטרידות כל צוות Dev ואנשי SecOps: מה זה MCP ולמה הוא מהפכני? איך קהילת המפתחים הגיבה לכלי החדש?   מה הם אתגרי העומדים בפני אנטרפרייז שרוצים לאמץ את הטכנולוגיה   מדוע יש יותר  חשיפה לסיכוני “מודלים סוררים”  ולס...

בפרק הזה של „מדברים פתוח” אירחנו את ד״ר רועי צזנה – עתידן, חוקר מגמות ומחבר „המדריך לעתיד” – לשיחה סוערת על העתיד שמתרחש ממש עכשיו. למה קצב הפיתוח בבינה מלאכותית מרגיש כמו „לוח שח‑מט אקספוננציאלי” ולמה חצי שנה כבר נחשב „טווח ארוך”. נקודת הסינגולריות: האם נעבור אותה עד 2030, ומה יקרה ביום שבו מודל מאמן מודל חזק ממנו. מתי אלגוריתם יתחיל „לרמות” בלי לכתוב על כך ב‑chain‑of‑thought, ולמה אנחנו צריכים מ...

בפרק הזה של “מדברים פתוח” אנחנו מארחים שוב את שון פז, ראש קבוצת Solution Architects ב‑Red Hat, לשיחה כנה על הדרך שבה ארגוני אנטרפרייז מטמיעים יכולות AI. דיברנו על הפער בין ההייפ למציאות, על יוזקייסים פנימיים שמגבירים פרודוקטיביות, המחסור ב‑GPU, סיכוני אבטחה והדילמה הנצחית Build‑לעומת‑Buy. איך מודדים הצלחה, מהו AI Center of Excellence, ולמה מפתחים לא יישארו בארגון שאין בו קו‑פיילוט? כל התובנות – בפ...

פרק חגיגי לפסח של "מדברים פתוח" עם קונספט מיוחד – אתם שאלתם, ואנחנו ענינו! אילן וג'וש אספו שאלות מהמאזינים על הנושאים החמים ביותר בעולם הבינה המלאכותית: • האם בעתיד נוכל לזהות תוכן סינתטי ו Deepfake, ומה הסיכונים הכרוכים בכך? • האם מבחן טיורינג עדיין רלוונטי כאשר ה-AI נהיה כה אנושי? • מה זה "וייב קודינג", והאם כתיבת קוד תהפוך נגישה לכל אדם או שתגרום לשינוי דרמטי במקצוע המפתח? • כיצד AI משפיע על הח...

בפרק הזה של "מדברים פתוח" אנחנו מארחים שוב את לירן טל, Developer Advocate בסניק ומומחה לאבטחת מידע, לשיחה מרתקת על סכנות ופרצות אבטחה בעולם ה-LLMs וה-AI. נסקור את סוגי המתקפות החדשות שנוצרו עם ההייפ סביב המודלים, כמו Prompt Injection ו-Data Poisoning, נדבר על איך אפשר להתגונן מפני פרצות כאלה, וננסה להבין איך לא חוזרים שוב על טעויות העבר. הצטרפו אלינו כדי להכיר את הסיכונים שאולי אתם אפילו לא מודעים...

בפרק זה התעמקנו בשאלות קריטיות סביב בינה מלאכותית ואחריות – Responsible AI. בשיחה פתוחה עם אורח מיוחד מהאקדמיה, פרופ׳ אבי (אביגדור) גל מהטכניון, דנים בהיבטים משפטיים, אתיים וטכנולוגיים של השימוש ב-AI. בין השאלות שעל הפרק: מי נושא באחריות כאשר מערכות בינה מלאכותית פוגעות בזכויות הפרט או גורמות להפליות? כיצד ניתן לשלב תהליכי פיתוח, רגולציה ואחריות חברתית תוך שמירה על חדשנות? בנוסף, מוצגות דוגמאות מע...

בפרק זה אירחנו את שרון דשת, ארכיטקטית AI and Data מרד האט המתמחה בתחום הבינה המלאכותית. שוחחנו על סוגים שונים של סוכנים חכמים, המטרות שלהם, והבעיות שהם נועדו לפתור.   links: Andrew Ng Explores The Rise Of AI Agents And Agentic Reasoning | SnowFlake BUILD 2024 Keynote https://www.geeksforgeeks.org/what-is-agentic-ai/ https://research.ibm.com/blog/ibm-swe-agents https://microsoft.github.io/autogen/0...

בעולם שלנו שבו הטכנולוגיה מתקדמת בקצב מסחרר והכול משתנה במהירות, לא רק מנהלים צריכים ללמוד להתמודד עם שינויים ואי־ודאות. בדיוק בגלל זה הזמנו את דורון פדיוק Red Hat - Director of Engineering – מנהל עתיר ניסיון בהובלת שינויים – לשתף אותנו בטיפים ותובנות על Change Management: מה זה בעצם אומר, ואיך צולחים בהצלחה תקופות מאתגרות. מוזמנים להצטרף לפרק הקרוב ולקבל כלים פרקטיים שיכולים לעזור לכולנו לנווט טו...

בפרק זה ראיינו את בן גדסי ודור סימוני על שימושים פרקטיים של בינה מלאכותית לטובת שיפור שירותי רפואה. 

בפרק הזה שוחחנו עם דולב על הדרכים לתכנן מערכות תוכנה באופן נכון, תוך הדגשת חשיבות הפשטות.עסקנו בסיבות שבגללן לעיתים נוטים לפתח מערכות מורכבות מדי, וכן הסכנות והאתגרים הנלווים לסיבוכיות יתר. בנוסף, עסקנו בדרכים לזיהוי מערכות מסובכות מדי, במטרה לעודד תכנון מודע, יעיל וניתן לתחזוקה לאורך זמן. מאמרים של דולב על simplicity:  the hidden cost of complexity jumping down complexitys rabbit hole

בחברת אלמנטור VP engineering בפרק זה ראיינו איתי נשרי  איתי סיפר לנו איך החברה צמחה וגדלה למובילת שוק באמצעות בניית אקוסיסטם הקוד הפתוח ועל המודל הפיתוח הייחודי שמשלב עבודה עם הקהילה בשלוש רמות שונות

בפרק הזה שוחחנו עם עו"ד יואב אלקלעי ממשרד פרל כהן, מומחה בתחום הקניין הרוחני והפטנטים. יחד, ניסינו לעשות סדר בנושא הרישיונות בעולם הקוד הפתוח. לקראת סיום, דיברנו גם על פטנטים ורישיונות קוד בהקשר של עולם הבינה המלאכותית

בפרק זה של הפודקאסט, ג'וש מראיין את אילן פינטו, מנהל פיתוח ברד האט שאחראי על הובלת בניית מוצרי הבינה המלאכותית בחברה  יחד הם צוללים לעולם הפיתוח של מוצרים ותוכנות מבוססות בינה מלאכותית ומדברים על הרכיבים והטכנולוגיות שמפתחים צריכים להכיר     הם דנים במגבלות של מודלי בינה מלאכותית מציגים כיצד ניתן לדייק את המודלים באמצעות הנדסת פרומפטים פשוטה ומדגימים דרכים לשיפור תשובות המודלים ללא צורך באימון נוס...