Hidden layers

In this episode I had the honor to interview Benjamin Mayr, Vice President, Head of Architecture at NiCE Cognigy.
Benjamin took me deep into what it really takes to run enterprise-grade conversational and agentic AI at scale. We talked about the "harness" around the model - the layer that turns a raw LLM into a reliable agent in a live contact center. He also broke down the LLM Gateway, which pools and load-balances across many model endpoints to keep everything fast and always-on.
We also explored why picking the right model for the right job beats raw reasoning power, and looked ahead to a future of personal agents, agent-to-agent interactions, and even humanoid robots as the next interface.
This interview was part of my coverage of the NiCE World conference.
I learned so much about the real path from conversational AI to production-grade agents in this conversation.
Audio is here:https://hiddenlayers.podbean.com/

פרק נוסף לפודקאסט שלנו והפעם פרק בשיתוף חברת Manifold, שבו ראיינתי את גלעד לוי, המייסד והמנכל של החברה.
לא בכל יום אתה מראיין יזם שרוצה לקרוא תיגר על הטכנולוגיה הכי מוכרת ונפוצה בתחום ה-AI וממש עובד על ארכיטקטורה חדשה שתחליף את הטרנספורמים המפורסמים.
גלעד, שאת התואר הראשון שלו עשה בגיל 15 בטכניון, שיתף אותי על למה הוא חושב שטרנספורמרים כבר לא מספיקה, על הגישה שלהם להתמודד עם בעיות AI וגם למה כל כך חשוב לו להקים מעבדה מתקדמת בתחום ה-AI כאן בישראל.
פרק טכני מהרגיל אבל מאוד מעניין לכל מי שרוצה לצלול למאחורי הקלעים.

פרק נוסף לפודקאסט שלנו והפעם פרק בשיתוף עם חברת Alice, שבו ראיינתי את אבי גולן, Chief Product & Engineering Officer בחברה.
את הפרק הזה רציתי המון זמו להקליט. את אבי גולן אני מכיר כבר שנים רבות ומאוד ריתק אותי לשמוע על השינוי ש-Alice עשו במוצר שלהם. כיום הם עובדים עם 8 מתוך 10 מעבודת ה-AI המובילות בעולם והם עוזרים להם להבין מה גבולות הגזרה של המודלים שלהם. הם מריצים מבחני עומק על היכולות של המודלים ומוודאים שהם לא סוטים מסט היכולות שהוגדר להם.
מה שמרתק באמת זה שהם בנו מנגנון בסקייל שיודע לקחת את המודלים האלה לקצה במספר רחב של תחומים (הם קוראים לזה GYM) ואז לספק תובנות מאוד חשובות למעבדות - תובנות שהם יכולים להשתמש בהם כדי לתקן את נקודות התורפה של המודלים שלהם.

פרק חדש בפודקסט והפעם שיתוף פעולה עם Bria.
בפרק הזה היה לי תענוג לראיין את מישה פיינשטין, ה-CTO של חברת Bria.
אני עוקב אחרי Bria מאז שהוקמה ועוד אז המשימה שלהם נראתה לי כמעט בלתי אפשרית: הם רוצים לאמן מודל בסיס מאפס שידע לייצר תמונות באיכות הגבוהה ביותר אבל גם לדעת איזה אומן תרם ליצירת התמונה ולשלם לו בהתאם.
כלומר, הם פיתחו מודל שידע לייצר תמונות אבל גם להביא תמלוגים לכל מי שהמודל התבסס עליו בג'ינרוט הנוכחי. זה אתגר טכנולוגי כל כך קשה וזה פשוט תענוג לראות חברה ישראלית שמצליחה בו כל כך.
אז אם אתם רוצים ללמוד איך זה להתחרות בחברות הטכנולוגיה הגדולות בעולם ואיך זה ליצור מודל בסיס עצמאי, אז אתם מוזמנים להאזין לפרק.

הפעם היה לי הכבוד לראיין את ערן הופמן, ה-Chief R&D officer בחברת Dream. בחברת Dream מפתחים טכנולוגיה מיוחדת שנועדה להגן על ממשלות וגופים ציבוריים כנגד מתקפות סייבר.
בפרק דברנו על האתגרים המיוחדים שיש בסוג הלקוחות האלה, על הסטאק הטכנולוגי המאתגר וגם על איך מודלי AI כמו מיתוס משפיעים על עתיד הסייבר ויכולות התקיפה כנגד מעצמות.
חברת Dream הציגה בכנס CyberML שלנו: https://machinelearning.co.il/lp-events/cyberml/

הפרק היה לי הכבוד לראין את עופרי זיו, מייסד שותף וה-VP Research בחברת Tenzai ולדבר איתו על איך בונים האקר מבוסס מודלי AI.
בפרק צללנו לדרך שבה מודלי AI הופכים להיות טובים במציאת חולשות ואיך ניתן להפוך אותם להאקרים שעוזרים למצוא נקודות תורפה במערכות.
חברת Tenzai היא אחת מהשותפות שלנו בכנס CyberML בו הם משתפים לעומק על התהליך הטכני של בניית האקר AI.
לינק לכנס: https://machinelearning.co.il/lp-events/cyberml/

בפרק הזה היה לי הכבוד לארח את בן משיח, Director of Data & AI בחברת Claroty. מה שמיוחד ב-Claroty הוא שהם מאבטחים את המתקנים הרגישים בעולם: החל ממפעלים ובתי חולים ועד לדאטה סנטרים גדולים.
כל זה יוצר אתגרים מאוד משמעותיים כשמנסים להגן על אתרים חשובים שכאלה - במיוחד שחלקם לרוב מנותק מהאינטרנט. בפרק דברנו על איך הם משלבים AI כדי לתת מענה לכל איומי הסייבר של הלקוחות שלהם וגם לאן הולך התחום כולו.
אם אתם רוצים לשמוע עוד על הנושא, Claroty ידברו על כל זה ועוד בכנס CyberML שלנו:
https://machinelearning.co.il/lp-events/cyberml/

הפרק הזה היה לי העונג לארח את שירן, VP Research בחברת Cyera.למי שלא מכיר, מדובר על אחת מחברות הסייבר הישראליות הצומחות ביותר.
בפרק דברנו על הדרך שבה עושים מחקר דאטה ו-AI מעמיק ועל האופן שבו מודלי שפה עוזרים להגן על דליפות מידע. הפרק עסק גם בצורך לאמן מודלים באופן עצמאי (במיוחד בסקייל שלהם) וגם על העתיד של תחום הסייבר וה-AI.
מוזמנים לשמוע עוד על מה ש-Cyera עושה בתחום בכנס CyberML שלנו:https://machinelearning.co.il/lp-events/cyberml/

הפרק הזה היה לי העונג לארח את טום ברנע מחברת Tenable - אחת מחברות הסייבר המשמעותיות בעולם. בפרק דברנו על איך תחום הסייבר משתנה בעקבות מודלי GenAI ואיך הם כחברת אבטחה צריכים להתמודד עם כל השינויים האלה.
מה שמיוחד בפרק הזה הוא שטום שיתף לא מעט ממה שקורה בשטח ובאתגרים שחברות מתמודדות עמן ביום יום. העובדה שב-Tenable פועלים עם כל כך הרבה חברות מביאה להם ראיה מאוד רחבה על השוק ועל הדרך שבה ארגונים מנסים להתמודד עם כל האיומים החדשים.
הם כמובן גם ידברו בכנס CyberML שלנו ויסבירו עוד על מה שהם עושים בסייט בארץ.
לינק: https://machinelearning.co.il/lp-events/cyberml/

בפרק הזה היה לי העונג לראיין את גבריאל כהן, המייסד שותף של NanoClaw. 
לגבריאל יש סיפור חיים מרתק שהוביל אותו להקים גרסה מאובטחת של OpenClaw שיודעת לספק את כל הפונקציונליות העיקרית אבל באופן הרבה יותר בטוח.
הפרויקט תפס תאוצה בחודשים האחרונים והפך להיות סנסציה גדול בקרב קהילת ה-AI הבינלאומית - כולל אנדריי קרפתי שהתלהב מהפרויקט מאוד. 
בפרק עצמו דברנו על מה המהות של סוכנים, איך בונים אותה בצורה מאובטחת, מה העתיד של התחום כולו ועל עוד הרבה נושאים מרתקים.
 
זמין גם ביוטיוב: https://youtu.be/Yg2pRynmUtY