הפער בין כיוון הצעד לביצועו באימון רשתות מבוססות פיזיקה
מאמר ב־IEEE בוחן כיצד צעד אימון שנראה מבטיח ברמה המקומית יכול להוביל להחמרה ברכיב ההפסד לאחר ביצועו.
מהו הפער שהמאמר בוחן
רשתות עצביות מבוססות פיזיקה משלבות באימון אילוצים הנובעים ממשוואות פיזיקליות. המאמר בוחן מצב שבו הכיוון המקומי של צעד האימון מנבא שיפור ברכיב של פונקציית ההפסד, אך לאחר ביצוע הצעד המלא אותו רכיב דווקא עולה.
למה בודקים את הצעד המלא
העדכון בפועל תלוי גם באורך הצעד ובמצבו הפנימי של אלגוריתם האופטימיזציה. המחקר מודד את אותו רכיב על אותן נקודות לפני העדכון ואחריו. כך אפשר לייחס את ההבדל לשינוי בפרמטרי המודל ולבחון את הפער בין התחזית המקומית לתוצאה שנמדדה.
מה נמצא בניסויים
ב־111 ריצות מזווגות, בארבע משפחות של משוואות דיפרנציאליות חלקיות ובשלוש שיטות עדכון, תחזית מסדר ראשון זיהתה נכון את סימן השינוי ב־86.39% מהמקרים. הוספת מידע על העקמומיות בכיוון הצעד העלתה את המדד ל־99.63%. המדד מתאר את היכולת לחזות עלייה או ירידה ברכיב ההפסד.
מה המשמעות לאימון מודלים
התוצאות מציעות לבחון את אמינותו של צעד האופטימיזציה לאחר ביצועו. במחקר משלים של 30 ריצות נבחנה גם קבלת צעדים המבוססת על עקמומיות, ונמצאה ירידה בשכיחות היפוכי הסימן. השוואות שגיאת הפתרון הסופית נותרו ללא הבדל סטטיסטי מובהק מול קבוצות הביקורת המזווגות.
The Direction-Execution Gap in Physics-Informed Neural Network Optimization
כתב העת IEEE Computational Intelligence Letters, כרך 1, עמ׳ 18–23, שנת 2026.