Hidden layers

בפרק הזה היה לי העונג לארח את אילן קדר, מנכ"ל ומייסד שותף בחברת Plurai, חבר שאני מכיר כבר כמעט עשור. את הפרק הקלטנו באולפן החדש של NVIDIA בתל אביב.
אילן הוביל בעבר קבוצות AI בנקסר, ועכשיו הוא בונה ב-Plurai סימולטור שבודק AI Agents ותופס את הבעיות שלהם לפני שהלקוחות נתקלים בהן. בשיחה דיברנו על Evaluation של Agents, על דאטה סינתטי ולמה לבקש ממודל "תייצר לי עשר דוגמאות" לא עובד, ועל איך בונים Small Language Models שמותאמים למשימה אחת ועולים הרבה פחות.
פרק חובה לכל מי שבונה Agents בארגון ורוצה להבין איך עוברים מדמו לפרודקשן.
גילוי נאות: אילן הוא חבר טוב ויש לי גם הזכות לייעץ ל-Plurai ולעבוד איתם :)לינק לאתר שלהם: https://www.plurai.ai/

הפרק הזה היה לי העונג לארח את אבישי זווצניק, Security Research Director בחברת Cato Networks ולדבר על ההשפעה של AI על כל תחום הסייבר.
חברת Cato היא בין חברות הסייבר הותיקות בישראל שמגנה על ארגונים רבים בארץ ובעולם - מה שמאפשר להם לחוות מקרוב את כל השינוי שקורה בתחום.
בשיחה עם אבישי דיברנו על הדרך שבה AI שינה את הדרך שהם עובדים בה, את האופי שבו הם משלבים AI בפיתוח שלהם והכי חשוב: על הצורך לסגור פרצות מהר נוכח רף האיומים החדש שנוצר.
פרק חובה למי שרוצה להכיר לעומק את מאחורי הקלעים של תחום הסייבר וה-AI וכיצד הוא משתנה.

פרק ראשון בסדרה חדשה שלנו על עולמות ה-Data Centers, הקומפיוט וה-AI Factories, והפעם הקלטנו באולפן החדש של NVIDIA בתל אביב.
האורח הראשון בסדרה הוא גלעד שיינר, סגן נשיא בכיר (SVP) ל-Networking ב-NVIDIA. גלעד הצטרף למלאנוקס ב-2001 כמתכנן שבבים, בשנים הראשונות של פרוטוקול InfiniBand, ומעטים מכירים כמוהו את מה שקורה בין ה-GPUs.
שאלתי את גלעד למה GPU לבד כבר לא מספיק, ומה ההבדל בין חוות שרתים רגילה לבין AI Factory, מפעל שמייצר טוקנים. דיברנו על NVLink ועל 1,152 GPUs שעובדים כמחשב אחד, על מחשוב בתוך הרשת (עם אנלוגיית פיצרייה מצוינת), על למה NVIDIA תומכת גם ב-Ethernet, ועל Scale-Across: חיבור של AI Factories רחוקים לאימון אחד.
והכי מעניין מבחינתי: עד כמה האנרגיה והאופטיקה הופכות לצוואר הבקבוק האמיתי, ולמה ארבעה מתוך שבעת השבבים במערכת של NVIDIA הם שבבי רשת, ומה התפקיד של ישראל בכל זה.
פרק חובה לכל מי שרוצה להבין איך בנויה התשתית שמאחורי ה-AI.

In this episode I had the honor to interview Benjamin Mayr, Vice President, Head of Architecture at NiCE Cognigy.
Benjamin took me deep into what it really takes to run enterprise-grade conversational and agentic AI at scale. We talked about the "harness" around the model - the layer that turns a raw LLM into a reliable agent in a live contact center. He also broke down the LLM Gateway, which pools and load-balances across many model endpoints to keep everything fast and always-on.
We also explored why picking the right model for the right job beats raw reasoning power, and looked ahead to a future of personal agents, agent-to-agent interactions, and even humanoid robots as the next interface.
This interview was part of my coverage of the NiCE World conference.
I learned so much about the real path from conversational AI to production-grade agents in this conversation.
Audio is here:https://hiddenlayers.podbean.com/

פרק נוסף לפודקאסט שלנו והפעם פרק בשיתוף חברת Manifold, שבו ראיינתי את גלעד לוי, המייסד והמנכל של החברה.
לא בכל יום אתה מראיין יזם שרוצה לקרוא תיגר על הטכנולוגיה הכי מוכרת ונפוצה בתחום ה-AI וממש עובד על ארכיטקטורה חדשה שתחליף את הטרנספורמים המפורסמים.
גלעד, שאת התואר הראשון שלו עשה בגיל 15 בטכניון, שיתף אותי על למה הוא חושב שטרנספורמרים כבר לא מספיקה, על הגישה שלהם להתמודד עם בעיות AI וגם למה כל כך חשוב לו להקים מעבדה מתקדמת בתחום ה-AI כאן בישראל.
פרק טכני מהרגיל אבל מאוד מעניין לכל מי שרוצה לצלול למאחורי הקלעים.

פרק נוסף לפודקאסט שלנו והפעם פרק בשיתוף עם חברת Alice, שבו ראיינתי את אבי גולן, Chief Product & Engineering Officer בחברה.
את הפרק הזה רציתי המון זמו להקליט. את אבי גולן אני מכיר כבר שנים רבות ומאוד ריתק אותי לשמוע על השינוי ש-Alice עשו במוצר שלהם. כיום הם עובדים עם 8 מתוך 10 מעבודת ה-AI המובילות בעולם והם עוזרים להם להבין מה גבולות הגזרה של המודלים שלהם. הם מריצים מבחני עומק על היכולות של המודלים ומוודאים שהם לא סוטים מסט היכולות שהוגדר להם.
מה שמרתק באמת זה שהם בנו מנגנון בסקייל שיודע לקחת את המודלים האלה לקצה במספר רחב של תחומים (הם קוראים לזה GYM) ואז לספק תובנות מאוד חשובות למעבדות - תובנות שהם יכולים להשתמש בהם כדי לתקן את נקודות התורפה של המודלים שלהם.

פרק חדש בפודקסט והפעם שיתוף פעולה עם Bria.
בפרק הזה היה לי תענוג לראיין את מישה פיינשטין, ה-CTO של חברת Bria.
אני עוקב אחרי Bria מאז שהוקמה ועוד אז המשימה שלהם נראתה לי כמעט בלתי אפשרית: הם רוצים לאמן מודל בסיס מאפס שידע לייצר תמונות באיכות הגבוהה ביותר אבל גם לדעת איזה אומן תרם ליצירת התמונה ולשלם לו בהתאם.
כלומר, הם פיתחו מודל שידע לייצר תמונות אבל גם להביא תמלוגים לכל מי שהמודל התבסס עליו בג'ינרוט הנוכחי. זה אתגר טכנולוגי כל כך קשה וזה פשוט תענוג לראות חברה ישראלית שמצליחה בו כל כך.
אז אם אתם רוצים ללמוד איך זה להתחרות בחברות הטכנולוגיה הגדולות בעולם ואיך זה ליצור מודל בסיס עצמאי, אז אתם מוזמנים להאזין לפרק.

הפעם היה לי הכבוד לראיין את ערן הופמן, ה-Chief R&D officer בחברת Dream. בחברת Dream מפתחים טכנולוגיה מיוחדת שנועדה להגן על ממשלות וגופים ציבוריים כנגד מתקפות סייבר.
בפרק דברנו על האתגרים המיוחדים שיש בסוג הלקוחות האלה, על הסטאק הטכנולוגי המאתגר וגם על איך מודלי AI כמו מיתוס משפיעים על עתיד הסייבר ויכולות התקיפה כנגד מעצמות.
חברת Dream הציגה בכנס CyberML שלנו: https://machinelearning.co.il/lp-events/cyberml/

הפרק היה לי הכבוד לראין את עופרי זיו, מייסד שותף וה-VP Research בחברת Tenzai ולדבר איתו על איך בונים האקר מבוסס מודלי AI.
בפרק צללנו לדרך שבה מודלי AI הופכים להיות טובים במציאת חולשות ואיך ניתן להפוך אותם להאקרים שעוזרים למצוא נקודות תורפה במערכות.
חברת Tenzai היא אחת מהשותפות שלנו בכנס CyberML בו הם משתפים לעומק על התהליך הטכני של בניית האקר AI.
לינק לכנס: https://machinelearning.co.il/lp-events/cyberml/

בפרק הזה היה לי הכבוד לארח את בן משיח, Director of Data & AI בחברת Claroty. מה שמיוחד ב-Claroty הוא שהם מאבטחים את המתקנים הרגישים בעולם: החל ממפעלים ובתי חולים ועד לדאטה סנטרים גדולים.
כל זה יוצר אתגרים מאוד משמעותיים כשמנסים להגן על אתרים חשובים שכאלה - במיוחד שחלקם לרוב מנותק מהאינטרנט. בפרק דברנו על איך הם משלבים AI כדי לתת מענה לכל איומי הסייבר של הלקוחות שלהם וגם לאן הולך התחום כולו.
אם אתם רוצים לשמוע עוד על הנושא, Claroty ידברו על כל זה ועוד בכנס CyberML שלנו:
https://machinelearning.co.il/lp-events/cyberml/