Technology

איך באמת מריצים LLM בסקייל עצום? [עושים תוכנה]

עושים תוכנה עם חן פלדמן ועמית בן דור Osim Tochna by PI Media

May 18, 202641:53Technology

מה הופך בקשה אחת ל-LLM למורכבת כל כך מאחורי הקלעים? איך מאות מיליארדי פרמטרים נדחסים על עשרות GPUs, ואיך כל ה-cluster הזה משרת אלפי משתמשים במקביל בלי להתפוצץ? אירחתי את מייק ארליכסון, אושייה בעולם הAI, ופירקנו את עולם ה...

About This Episode

איך באמת מריצים LLM בסקייל עצום? [עושים תוכנה] is an episode from עושים תוכנה עם חן פלדמן ועמית בן דור Osim Tochna by PI Media. מה הופך בקשה אחת ל-LLM למורכבת כל כך מאחורי הקלעים? איך מאות מיליארדי פרמטרים נדחסים על עשרות GPUs, ואיך כל ה-cl...

Podcast

This episode belongs to עושים תוכנה עם חן פלדמן ועמית בן דור Osim Tochna.

Listen Online

Use the player on this page to stream the episode online.

Episode Details

Published May 18, 2026, 41:53 long, audio available.

איך באמת מריצים LLM בסקייל עצום? [עושים תוכנה]

About This Episode

Related Episodes