Hidden layers

הפרק היה לי העונג לדבר עם גילי כנפו, AI Lead בחברת Vega - בין הסטארטאפים הכי מעניינים בתחום ה-AI והסייבר.דברנו על איך מאבטחים דאטה בעידן ה-AI, איך חוקרים פרצות אבטחה בעזרת סוכנים ובכלל לאן כל התחום הולך בשנים הקרובות.
גילי ידבר על כל זה ועוד בכנס CyberML שלנו:https://machinelearning.co.il/lp-events/cyberml/

עדי הוא מי שאני הולך אליו ללמוד על כל דבר שקשור לחומרה בתחום ה-AI. בפרק הזה דברנו על שבבים לאימון, להרצה ובכלל על העתיד של כל התחום הזה.
דברנו כמובן גם עם אנבידיה ועל התחרות שיש להם ואיך אפשר באמת לאתגר את הדומיננטיות שלה בעולם השבבים.
פרק חובה לכל מי שרוצה להבין לעומק את צד החומרה במהפכת ה-AI.

In this episode I had the honor to interview Leo Leung, Director of Product Management - AI & Computing Infrastructure. Leo Leung took me deep into the 8th Gen TPUs.
We explored how Google connects 134,000 chips into a single system and why they are specifically increasing memory and SRAM to support the high-speed requirements of autonomous agents.
This interview was part of my coverage of the Google Cloud Next conference.

In this episode I had the opportunity to interview Bill Jia, VP Engineering at Google Cloud.
Bill Jia shared how his team bridges the gap between DeepMind’s research and massive production runs on 100k+ TPUs, focusing on "Good-put", the art of ensuring productive compute time during weeks of training.
I learned so much about the actual transformation from research to production in this conversation. 
This interview was part of my coverage of the Google Cloud Next conference.
 

In this episode I had the honor to speak with John Abel, Managing Director, Office of the CTO at Google Cloud.
I had an amazing conversation with him and he gave me such interesting perspectives about the future of agents.
We also discussed why domain experts are the real winners of the AI revolution and how "Agentic AI" will finally eliminate daily friction to make room for creative work.
This interview was part of my coverage of the Google Cloud Next conference.

בפרק הזה, חלק מסדרת CyberML שלקראת הכנס שלנו, אירחתי את נדב ארז מ-Twine לשיחה מרתקת על הצומת בין AI לסייבר. נדב הוא ה-CTO של Twine ואחד המייסדים, ובחברה הם בונים את "אלכס" - עובד דיגיטלי שמקבל KPI ופועל מולו 24/7 בעולמות ה-Identity Management.
דברנו על איך בונים עובדים דיגיטליים שאפשר לסמוך עליהם, על מתקפות סייבר עתידיות, על מודלי AI שמתמחים בסייבר ועוד מלא דברים מעניינים.
נדב ידבר על כל זה, ועל עוד הרבה מעבר, בכנס CyberML שלנו.
לינק לכנס שלנו: https://machinelearning.co.il/lp-events/cyberml/

בפרק הזה היה לי העונג לארח את עומר נבו, CTO ומייסד שותף בחברת Irregular. דיברנו על שני נושאים שמרתקים אותי במיוחד: הערכת היכולות המסוכנות של מודלי AI מתקדמים והמרוץ לבניית הגנות סייבר בעולם של סוכנים אוטונומיים.
הזכרנו את שיתופי הפעולה הייחודיים של Irregular עם השחקניות הגדולות בעולם כמו OpenAI, אנטרופיק וגוגל, ועל האופן שבו הם בונים סביבות סימולציה מורכבות כדי להבין איפה המודלים נשברים. 
דנו באיום של תקיפות "דיסטילציה" שמטרתן לשכפל מודלים יקרים, וגם על היכולת המדהימה לחזות מראש את מסלול הסיכון של מודל עוד בשלבי הפיתוח שלו. דיברנו גם על הפער שבין אינטרסים עסקיים לבטיחות, ואיך נראה העתיד של הגנת הסייבר בעידן הבינה המלאכותית.כנס CyberML: https://machinelearning.co.il/lp-events/cyberml/

בפרק הזה היה לי העונג לארח את רוני גולדשמיט מחברת Nexar ודברנו על שני נושאים שמאוד מסקרנים אותי: מודלי AI שאפשר להריץ מקומית וגם על World models  - מודלי AI שבוראים ויוצרים עולמות שלמים עם חוקי פיזיקה מלאים.
בפרק דברנו גם על פריצת הדרך החדשה שהשיגה Nexar בתחום ועל משפחת המודלים החדשים שהיא הכריזה עליהם שמבינים את הפיזקליות של העולם בצורה ממש טובה. דברנו על איך מאמנים מודל שכזה, מה היישומים של הטכנולוגיה וגם מה יהיה לנו בעתיד.
דף ההשקה: https://badas.nexar.app/מאמר: https://arxiv.org/abs/2604.05767בלוג על הנושא:https://www.nexar-ai.com/blog/beyond-the-beep-badas-2-0-and-the-end-of-reactive-collision-warnings

לכתוב קוד באמצעות AI זה קל, לבדוק שהוא באמת טוב זה כבר חתיכת אתגר. בדיוק על זה דברתי עם איתמר פרידמן, המייסד של Qodo - סטארטאפ ישראלי מבטיח שמוודא שהקוד שנכתב על ידי מודלי AI באמת באיכות טובה. בפרק דברנו על מה זה אומר בכלל קוד טוב, למה זה כזה קשה לבדוק איכות של קוד כזה וגם: איך איתמר הגיב ברגע שאנטרופיק השיקה מוצר מתחרה לשלו.

בפרק הזה אירחתי את אנדריי אוסטרובסקי (Andrey Ostrovsky), Staff Machine Learning Engineer ב-Intuit, לשיחה עמוקה על האתגרים בשילוב AI בכתיבת קוד בתאגידים גדולים. הפרק בחסות Intuit.
מה שמיוחד בשיחה שהייתה לנו היה שלא דברנו רק על איך המפתח הבודד יכול להשתמש ב-AI, אלא ממש על איך ארגון יכול לכתוב קוד בסקייל באמצעות AI. כלומר, איך בונים מכונה שמייצרת קוד אבל באופן שמשתפר באופן קבוע (אבולוציוני) ומה התהליכים האירגוניים המתאימים לזה.
מה שבאמת היה מיוחד בשיח שלנו זה שמדובר על תאגיד גדול. אינטואיט היא ענקית פיננסית ועוסקת בנושאים הכי רגישים של הלקוחות שלה. אין מקום לטעויות. ועם כל זה, הם בנו מתודולוגיה שלמה שמאפשרת להם לאמץ קוד שנכתב עם AI שעומד בכל תנאי האבטחה והאיכות שלהם. אני לא מכיר הרבה ארגונים בגודל הזה שעשו את כל כברת הדרך הזו.
כלמי שעובד בארגון שרוצה להכניס קוד בסקייל (לא רק ברמת המפתח) חייב לשמוע את הפרק הזה. אנדריי והצוות עשו עבודה ממש מעולה והרגשתי שיכלתי לדבר איתו עוד שעות על זה.