HE

יסודות הלמידה העמוקה המודרנית

ספר הקורס

הורדת ספר הקורס

יסודות הלמידה העמוקה המודרנית מאת ד״ר ברק אור

אודות הקורס

  • קהל יעד: מהנדסי תוכנה, דאטה סיינטיסטים, חוקרים ומפתחים עם רקע בפייתון, המעוניינים לרכוש בסיס חזק בלמידה עמוקה ולעבוד עם מודלים עדכניים בתעשייה
  • משך הקורס: כ־10 שעות (23 שיעורים קצרים בני 4–5 דקות + תרגול)
  • מה מקבלים
    • שליטה מלאה ביסודות של רשתות נוירונים ובאימון מודלים בפועל
    • תרגול של ארכיטקטורות מרכזיות כמו CNN, LSTM ו־Vision Transformers
    • הבנה מעשית של פונקציית מחיר, מדדים והטמעה בארגון
    • קבצי קוד פתוחים, סביבות עבודה מוכנות ב־Colab, והנחיות שלב אחר שלב
    • תרגול בשתי הספריות המרכזיות: PyTorch ו-TensorFlow
  • נושאים מרכזיים
    • למידת מכונה מול למידה עמוקה  – הבחנה
    • נוירון, שכבות, פונקציות אקטיבציה, FeedForward
    • Backpropagation, פונקציית מחיר, אופטימיזציה ואימון בפועל
    • בעיות Overfitting, שיטות Regularization ובחירת מדדי ביצוע
    • CNNs ו־RNNs, הורדת מימד, Transformers
    • תשתיות תעשייתיות: Colab, שמירת מודלים, בניית API עם FastAPI
    • הכנה להמשך התמחות בעולמות CV, Tabular Data, TimeSeries ו־LLMs
  • יתרונות
    • שילוב אידאלי בין תיאוריה, תרגול וקוד פתוח
    • מבנה קצר וממוקד – מתאים לשילוב תוך כדי עבודה
    • פרויקטים להתנסות עצמית בסביבת Colab עם מדדי הצלחה ברורים

בסיס מקצועי ב־Deep Learning

לבנות ולאמן מודלים מתוך הבנה—לא רק להריץ קוד

הקורס מפתח בסיס שיטתי ברשתות נוירונים וב־Deep Learning מודרני. הוא מחבר אינטואיציה, מתמטיקה שימושית, קוד ומדדי הערכה כדי שתוכלו להבין מדוע מודל לומד, נכשל או מכליל.

היכולות שתבנו

הלמידה עוקבת אחר הצינור המלא: ייצוג, חישוב קדימה, פונקציית מחיר, Backpropagation, אופטימיזציה, הכללה ובחירת ארכיטקטורה.

  • להסביר נוירונים, שכבות ופונקציות אקטיבציה.
  • לממש אימון ולבחור פונקציות מחיר ומדדים.
  • לזהות Overfitting וליישם Regularization.
  • להשוות CNN, LSTM ו־Transformers.
  • לבנות תהליך ניסוי שחוזר על עצמו וניתן לבדיקה.

29 שיעורים, חמישה שאלונים ותרגול קוד

חמישה פרקי לימוד כוללים 29 שיעורים, חמישה שאלוני ידע ומחברות Colab. התרגול ב־PyTorch וב־TensorFlow מחבר את העקרונות לנתונים, קוד ותוצאות מדידות.

  • מחברות מוכנות ופתרונות מלאים.
  • כ־10 שעות למידה ותרגול בקצב אישי.
  • הכנה להתמחות בראייה ממוחשבת, מודלי שפה, סדרות זמן ונתונים טבלאיים.

למי הקורס מתאים

למהנדסי תוכנה, מדעני נתונים, חוקרים ומפתחים שמכירים פייתון ורוצים בסיס מקצועי לפני התמחות בתחום מתקדם יותר.

  • מפתחים העוברים מלמידת מכונה קלאסית ללמידה עמוקה.
  • אנשי מקצוע שרוצים להבין ולפתור בעיות אימון.
  • צוותים טכניים שרוצים שפה משותפת ועדכנית.
שאלות נפוצות
איזה רקע נדרש?

מומלץ ידע בסיסי בפייתון והיכרות עם מושגי למידת מכונה. הקורס בונה את יסודות הלמידה העמוקה באופן מדורג.

האם יש תרגול מעשי?

כן. הקורס כולל מחברות Colab, תרגילי קוד, שאלוני ידע ופתרונות ב־PyTorch וב־TensorFlow.

לאילו תחומים הקורס מכין?

לראייה ממוחשבת, מודלי שפה, סדרות זמן, נתונים טבלאיים ויישומי Deep Learning נוספים.

Show More

Course Content

מודול 1: עקרונות למידה עמוקה
המודול הראשון בקורס עוסק בהנחת היסודות להבנה עמוקה של רשתות נוירונים ולמידה עמוקה. הוא פותח בהבחנה בין למידת מכונה (Machine Learning) ללמידה עמוקה (Deep Learning), ומסביר את היתרון של רשתות עומק ביכולתן ללמוד ייצוגים מופשטים היישר מהנתונים, ללא צורך בהגדרה ידנית של מאפיינים. לאחר מכן, נבנה מושג ה"נוירון המלאכותי", ונבחנת חשיבותן של פונקציות אקטיבציה לא-ליניאריות בהפיכת הרשתות למודלים עוצמתיים ומייצגים. פונקציית המחיר (Loss Function) מוצגת בפירוט, יחד עם מנגנון הלמידה באמצעות Backpropagation והאלגוריתם Gradient Descent. נבחנים גם תפקידם של קצב הלמידה (Learning Rate), אופטימיזציה והבחירה באצוות (Mini-Batch Training) להשגת שיפור יציב ויעיל של המודל לאורך אפוקים.המודול מתעמק במדדים להערכת ביצועי המודל - הן בסיווג (כגון דיוק, Precision, Recall, AUC) והן ברגרסיה (MAE, MSE, R²) תוך הדגמה של מגבלות המדדים, במיוחד במקרים של חוסר איזון בין המחלקות. לבסוף, מוצגת בעיית התאמת היתר (Overfitting), יחד עם שלוש שיטות מרכזיות להתמודדות איתה: Dropout, Early Stopping ו־Weight Decay.בסיום המודול, נבין כיצד רשתות נוירונים לומדות, איך למדוד את איכות הלמידה, ומהם הסיכונים העיקריים הכרוכים באימון מודלים מורכבים מדי. כל שיעור נבנה באופן מדורג, עם שילוב של דוגמאות מתמטיות, הדמיות, ומקרי בוחן מעשיים.

  • שיעור 1: ההבדל בין למידת מכונה ללמידה עמוקה
    05:04
  • שיעור 2: מהי רשת נוירונים?
    06:32
  • שיעור 3: פונקציית מחיר ואופטימיזציה
    08:00
  • שיעור 4: איך מאמנים רשת?
    04:33
  • שיעור 5: מדדים להערכת ביצועים
    07:11
  • שיעור 6: התאמת יתר ורגולריזציה
    03:28
  • שאלון 1
  • תרגיל #1 – MLP on MNIST

מודול 2: ארכיטקטורות מרכזיות
במודול זה נעמיק במבני הרשתות המרכזיים בלמידה עמוקה, ונסביר כיצד הארכיטקטורה הנכונה מאפשרת למודל להבין טוב יותר את מבנה הנתונים. הוא פותח בצורך בקונבולוציה - מנגנון יעיל ללמידה מתוך מידע חזותי ומסביר כיצד רשתות CNN מנצלות תכונות של תמונות כמו מקומיות, שיתוף משקל והזזה, כדי לזהות תבניות כגון קצוות, מרקמים וצורות במיקומים שונים. לאחר מכן, נציג את התמונה המלאה של רשת CNN מודרנית: מושגי stride, padding ו־pooling מוסברים לעומק, כולל השפעתם על גודל הפלט, יעילות המודל והקשר בין שכבות. המושג "שדה קלט" (Receptive Field) מציג איך הרשת לומדת הקשרים רחבים יותר מתוך תמונה.בהמשך, המודול עובר למידע רציף - טקסט, סאונד או אותות - ומציג את משפחת הרשתות בזמן (RNN, GRU, LSTM). מוסבר כיצד רשתות אלו משמרות זיכרון של מידע קודם, ומה היתרונות של מנגנוני השערים (Gates) בניהול זרימת המידע. כמו כן, נידון השימוש ברשתות דו-כיווניות (Bi-LSTM) להבנת הקשר לשני הכיוונים. לבסוף, מוצגת ארכיטקטורת ה־Transformer, מהפכת העשור האחרון. מוסבר כיצד מנגנון ה־Self-Attention מאפשר לכל רכיב ברצף "להתייחס" לכל רכיב אחר, ובכך מחליף את הצורך ברציפות של RNN. נבחנים יתרונות ה־Transformer כמו מקביליות, קיבולת הקשרים הרחוקים והפיכתו לסטנדרט בעיבוד שפה ובחלק מהמודלים הוויזואליים.מודול זה מעניק שליטה באבני הבניין הארכיטקטוניות של רשתות עומק – מ־CNN דרך LSTM ועד Transformer - תוך הבנה של העקרונות המתמטיים, האינטואיציה שמאחוריהם, והקשרים למקרי שימוש אמיתיים.

מודול 3: טכניקות מתקדמות לאימון והבנת המודל
במודול זה נלמד טכניקות מתקדמות שמאפשרות למודלים עמוקים להתאמן מהר יותר, להיות יציבים יותר ולהפוך לשקופים וברורים יותר. תחילתו בהצגת חשיבות הנירמול והאתחול - BatchNorm, LayerNorm ושיטות אתחול כמו Xavier ו־He - המבטיחים זרימת מידע חלקה ושימור גרדיאנטים יציבים. לאחר מכן, המיקוד עובר לדאטא עצמו בעזרת Augmentation, שבו טרנספורמציות פשוטות אך חכמות מעשירות את הדאטאסט ומגבירות את יכולת ההכללה. בהמשך מוצגות שיטות אופטימיזציה מתקדמות כמו AdamW, Lion ו־Adafactor, המספקות איזון בין מהירות, יציבות ויעילות חישובית בהתאם לדרישות המודל. לבסוף, נדון בחשיבות השקיפות (Explainability) ונציג כלים כמו GradCAM, SHAP ו־Feature Importance, המאפשרים להבין מה הוביל את המודל להחלטותיו. מודול זה מעניק סט כלים המשלב יציבות מתמטית, עיבוד דאטא חכם ושקיפות תפעולית - מרכיבים חיוניים לעבודה מקצועית בתעשייה.

מודול 4: כלים תעשייתיים והטמעה
במודול זה מתמקדים בהיבט התעשייתי של למידה עמוקה - איך להפוך מודל מאומן לכלי עבודה אמיתי שמשרת משתמשים ומערכות. תחילה נלמד להבדיל בין שתי הספריות המרכזיות בתחום, TensorFlow ו־PyTorch, ולהבין את יתרונותיהן השונים במחקר מול פרודקשן. לאחר מכן נתנסה בעבודה נכונה עם Google Colab - סביבת ענן זמינה וחינמית - ונראה כיצד לנצל את היכולות של GPU, לנהל קבצים ולשלב ניטור בזמן אמת. המודול ממשיך בהצגת Mixed Precision Training, שיטה שמאפשרת להאיץ את תהליך האימון ולחסוך בזיכרון מבלי לפגוע בביצועים. בהמשך נלמד כיצד לבצע Transfer Learning ו־Fine-Tuning - שימוש במודלים מאומנים מראש והתאמתם למשימות חדשות באופן מהיר ויעיל. לאחר מכן נעסוק בניהול חיי המודל: שמירה, טעינה וניהול גרסאות בעזרת פורמטים כמו TorchScript, SavedModel ו־ONNX. לבסוף, נסיים במימוש תעשייתי בסיסי - הפיכת מודל לשירות REST API באמצעות FastAPI, כולל דוגמאות להרצה בענן ולשיקולים של יציבות וסקיילינג. מודול זה מעניק את התמונה המלאה של שלב ההטמעה - משלב האימון ועד הפעלה רציפה בסביבות אמיתיות - ומכין את הלומד לעבודה מקצועית עם מערכות AI בקנה מידה תעשייתי.

מודול 5: המשך הדרך והתמחות
במודול זה מסכמים את יסודות הלמידה העמוקה המודרנית ומכוונים להמשך הדרך המקצועית. הוא פותח במיפוי תחומי ההתמחות המרכזיים - ראייה ממוחשבת, עיבוד שפה טבעית, דאטה טבלאי וסדרות זמן –- תוך הצגת האתגרים הייחודיים בכל תחום והמודלים המובילים המתאימים אליו. בהמשך, נבנית מפת דרכים למהנדס למידה עמוקה תעשייתי, הכוללת עקרונות עבודה נכונים: תיעוד, ניהול גרסאות, ניטור, אתיקה ושקיפות. השיעורים משלבים דוגמאות ליישומים תעשייתיים ומעניקים בסיס לחשיבה מערכתית: בניית תשתית אמינה שמחזיקה לאורך זמן. מודול זה משלים את המסע מן היסודות התיאורטיים ועד לתפיסה כוללת של מקצוענות תעשייתית.

Student Ratings & Reviews

No Review Yet
No Review Yet