Hidden layers

ראיון עם מיכה ואוהד מאורקל - שימוש בבינה מלאכותית בשדה הקרב

בפרק הזה דברתי עם מיכה ואוהד מאורקל ובו דברנו על הפעילות שלהם בתחום הדיפנס.
 
השיחה הייתה מרתקת במיוחד כי דברנו על איך גורמים ליכולות AI לרוץ באופן חלק בשדה הקרב. החל מ-GPU טקטי ועד לדאטה סנטרים ניידים שיכולים להיפרש בשטח.
בפרק דברנו על שלל הפתרונות שיש להם בעולם התוכן הזה וגם על העמידה האיתנה של אורקל העולמית ומהקומית לצד ישראל.
 
לינק לכנס: https://machinelearning.co.il/lp-events/defenseml-en-25/

AI on the Edge - Interview with Krishna Rangasayee, Founder and CEO of SiMa.ai

I had a great time with Krishna Rangasayee, Founder & CEO of SiMa.ai, diving into AI at the edge, defense-grade requirements, and building products people actually use.
 
We unpacked why “efficiency per watt” matters more than headline benchmarks, and how to make multimodal workloads (vision, language, sensor fusion) run in real time on low power. Krishna shared a builder’s view of the stack - toolchains, quantization, compilation, and observability - so teams can ship updates without breaking latency budgets.
 
We also explored defense applications: on-device processing for privacy and resiliency, deterministic behavior, and long hardware lifecycles. If you care about taking AI out of the lab and into the world, this one’s for you.
Sima.ai is going to present their work at the DefenseML 2025 conference: https://machinelearning.co.il/lp-events/defenseml-en-25/

ראיון עם טל פיאלקוב - VP AI Cyber בחברת Dream

בפרק הזה היה לי העונג לארח את טל פיאלקוב שהוא VP AI Cyber בחברת Dream.
 
את טל אני מכיר שנים רבות והוא עסק לא מעט בשילוב של עולמות הסייבר וה-AI.
בפרק הזה דברנו על איך בונים באמצעות AI מוצרי סייבר מדור חדש ואיך אפשר לרתום מודלים מתקדמים כדי להגן על מדינות ממתקפות סייבר.
 
טל הולך לדבר באירוע DefenseML שלנו בדיוק על הנושאים האלה. לינק לכנס: https://machinelearning.co.il/lp-events/defenseml-en-25/

תחרות אחזור מידע סמנטי בשפה העברית - ראיון עם טל ואמיר ממפא"ת

פרק חדש בפודקאסט והפעם פרק מיוחד על אחזור מידע סמנטי בעברית ועל התחרות של מפא"ת בתחום.
בפרק ראיינתי את טל ואמיר ממפא"ת ודיברנו על תחרות הדאטה החדשה שנפתחה ממש בימים האחרונים. התחרות עוסקת באתגר מאוד מיוחד: היכולת לאחזר מידע רלוונטי מטקסטים בעברית. בפרק דברנו על התחום עצמו, על למה זו עדיין בעיה לא פתורה בעברית (וגם באנגלית), על מודלים נפוצים בתחום ועל מי יכול לקחת חלק בתחרות.
לינק לתחרות: https://www.codabench.org/competitions/9950/

ראיון עם חגי לופסקו - SVP AI Inference בחברת Cerebras Systems

חגי חוזר אלינו בפעם השנייה והפעם בתפקיד חדש כ-SVP AI Inference בחברת Cerebras Systems. למי שלא מכיר, חברת Cerebras היא בין המתחרות הכי גדולות של Nvidia והיא מפתחת שבבים שמתאימים גם לאימון מודלים וגם להרצה שלהם. הם בנו כמה מחשבי על ברחבי העולם וגם Perplexity ומיסטרל בחרו בחומרה שלהם כדי להריץ את המודלים שלהם.
 
בשיחה דברנו על ההבדלים בינם לבין המתחרות, איך חומרה יכולה להשפיע קצב ג'ינרוט הטוקנים, על הרצה של מודלים בפרודקשיין וגם על כל תחום ה-Inference. 

Interview with Harald (Harry) Kroeger, Head of Sales and President Automotive at SiMa.AI

הפרק הזה הוא בשיתוף Sima.ai והיה לי העונג לראיין את הארי קרוגר,  Head of Sales and President Automotive בחברה.
 
לחברת Sima.ai יש באמת סיפור מרתק: הם קמו לפני למעלה מ-5 שנים וגייסו כ270 מיליון דולר כדי לפתח שבבים שמאפשרים למודלי AI לרוץ ביעלות על חומרת קצה.
 
בשיחה המרתקת עם הארי דברנו על תהליך יצור השבבים (הם הצליחו להפתיע אפילו את TSMC), על מה זה בכלל אומר להריץ מודלים על הקצה ולמה זה כל כך חשוב, על אילו אפשרויות חדשות נפתחות ברגע שיש שבבים חזקים מספיק וכמובן, איך לא, על Inference ועל החשיבות של התחום כולו.

ראיון עם רן טסלר, Director of Solutions Architecture בחברת AWS

ראיון שקיימתי עם רן טסלר, Director of Solutions Architecture בחברת AWS על כל הפעילות שלהם בתחום ה-AI באופן כללי וספציפית על המאמצים שלהם בעולמות ה-GenAI. דברנו על הדרך שAWS עברה בשנים האחרונות ובאילו מוצרים הם הכניסו את יכולות ה-AI השונות שפותחו באמזון. דברנו גם על פלטפורמת בדרוק שלהם ובכלל על כל הכלים שיש לחברות וארגונים כדי לבנות שירותי GenAI שונים.

ראיון עם דני ווינר מחברת אורקל

קשה להתעלם מהשנה האחרונה של אורקל.
החל מכך שחברת OpenAI בחרה בחומרה שלהם להריץ את המודלים שלה ועד לתהליך בניית מחשב העל הגדול ביותר בעולם.
בפרק המיוחד הזה עם דני ווינר, Director Cloud Solutions בחברת אורקל, ניסתי להבין לעומק איך אורקל פועלת בתחום ה-AI ומה האסטרטגיה שלה בתחום.
דברנו על מה הבידול שלהם בעולם שכולם "מוכרים GPU", על המוצרים שלהם לאנשי דאטה וגם על מה התוכניות שלהם לעתיד.
והכי חשוב: הבנתי לעומק שוב את החשיבות של תחום ה-Inference ועד כמה זה יהיה שם המשחק ב-2025.
 
(הפרק הוקלט לפני כנס GenML)
 

פרק עם גיא פיגנבלט, מנהל בכיר בקבוצת המחקר של איביי

ניהלתי שיחה מרתקת עם גיא פייגנבלט מאיביי על העולם המורכב והמפתיע של בינה מלאכותית במסחר אלקטרוני. צללנו לאופן שבו איביי מנצלת בינה מלאכותית גנרטיבית ומודלי שפה גדולים לכל דבר - החל מאוטומציה של תיאורי מוצרים (תארו לעצמכם העלאת תמונה וקבלת מודעה מוכנה!) ועד לבניית עוזר קניות.
חקרנו גם את האתגרים הייחודיים ביישום טכנולוגיות אלה בשוק עם מיליארדי פריטים ומיליוני מוכרים, במיוחד בכל הנוגע למגוון האתגרים וההזיות של מודלים. אם מעניין אתכם היישום המעשי של בינה מלאכותית בקנה מידה גדול, הפרק הזה מציע נקודת מבט מעניינת (הפרק הוקלט לפני כנס GenML).

ראיון עם פרופסור גל צ'צי'ק - Sr. Director of AI Research בחברת Nvidia

השבוע היה לי הכבוד לארח את גל צ'צ'יק, Sr. Director of AI Research at NVIDIA ופרופסור באוניברסיטת בר-אילן. ניהלנו שיחה מעולה ודיברנו על **NVIDIA כחברת מחקר**.
תופתעו לגלות על כל המחקר המרתק שנעשה ב-NVIDIA ואיך הם אפילו משתמשים בלמידת חיזוק (RL) כדי לשפר את ביצועי מרכזי הנתונים שלהם. זהו פרק מצוין לכל מי שרוצה לקבל נקודת מבט ייחודית זו על NVIDIA.