למתמטיקה המחלקהDepartment of Mathematics
לפתרון משופרות מחסום בהמרות שימושלא מאולצת אופטימיזציה בעיות
לינארית
: הסטודנט שם' ברקוב צ מריה
מנחה:יעקובזון" פיאנה ר ד
לפתרון משופרות מחסום בהמרות שימושלינארית לא מאולצת אופטימיזציה בעיות
הבעיה • תיאור
מאולצת • אופטימיזציה לבעיות מחסום המרות גישת
של המרות מחסום משופרותBמחלקה •
תיאור שיטת הפתרון האיטרטיבית•
דוגמאות•
הבעיה :תיאור
* arg min /
/ 0, 1,ni
x f x x
x g x i m
R
:כאן
: nf R R– ) נתונה ) פונקציה מטרה פונקציית , היא
: nig R R– אילוצים פונקציות . ,הן 1,i m
כבישים במערכת תעבורה לנתח נרצה: " הבא גרף י ע המתוארת פשוטה כבישים מערכת על נסתכל
: היא המטרה , דקה בכל במערכת העוברים רכבים מספר בהינתן
כללי שעיכוב כך בדקה כביש בכל העוברים הרכבים מספר מצא. מינימאלי יהיה הכבישים במערכת רכבים של
1
2
3
4
ברשת - תעבורה של מינימאלי כללי עיכוב דוגמא
1
2
3
4
נסמן:
F)מספר הרכבים במערכת כבישים )נתון
i =1,2,3 צומת כניסה לכביש
j =2,3,4צומת יציאה מהכביש
xij מספר הרכבים בכביש המחבר בין צומת i לצומת j
tij זמן להגיע מצומת i לצומת j פונקציה של(xij)
cijמספר הרכבים בכביש המחבר בין צומת i לצומת j )נתונים( 12 13 32 24 34, , , ,c c c c c c
ברשת - תעבורה של מינימאלי כללי עיכוב דוגמא
1
2
3
4
: הינה המודל בעיית
)i( * arg min /
/ , 0; 0n
x f x x
x g g h
R
כאשר:
512 13 32 24 34
512 13 32 24 34
) (
, , , ,
, , , ,
Tf x t x
x x x x x x
t x t x t x t x t x t x
g x c x
g x x
R
R
1 13 32 34 2 12 32 24 3 12 13) ( , ) ( , ) (h x x x x h x x x x h x x x F
ברשת - תעבורה של מינימאלי כללי עיכוב דוגמא
) " מ ) ה מחסום המרות מבוססת ושיטה מחסום המרות
מקורית לבעיה כאלטרנטיבה מציעה מחסום שיטת
* arg min /
/ 0, 1,ni
x f x x
x g x i m
R
האחרת : הבעיה את
arg min /
/ 0, 1,nB i
B x f x x x
x g x i m
R
: n R R
0x Bx
limBx
x
:והפונקציה שמקיימת המחסום המרת היא
לכל
0כאשר
למת :המחסום
" מ ה ושיטת מחסום :המרות
המרות על המתבססות שיטות של ההתכנסות משפטמחסום:
מסקנות:אז , • התחום של פנימית מנקודה נתחיל אם
• , )*(- המינימום את מוצאים צעד בכל שבו חיפוש תהליך אז פתרון קיים ל אם
המתכנסת סדרה יוצר מאולצת לא לבעיה
בתחום )*( . הבעיה לפתרון
• , התנאי אז ברציפות גזירה מחסום המרת אם
לתנאי שקול
' לאגראנז , כופלי ווקטור למעשה הוא ווקטור
B 2
kBk
x
arg mink kx f x x
: n R R
0k kf x x
1
0km
k kik
i i
g xf x g x
g x
1 2, , ,k k k kmu u u u
k
ki k
i
g xu
g x
" מ ה ושיטת מחסום :המרות
: מחסום להמרות דוגמאות
של מחסום של : Frishהמרת מחסום : Carrolהמרת
.הן פונקציות מטרה המתאימות לבעיה C * ו- F* כאשר B
" מ ה ושיטת מחסום :המרות
1
*) , ( ) ( log) ) ((m
ii
F x f x g x
1
1
*) , ( ) ( ) ) ((m
ii
C x f x g x
: " מ ה ושיטת מחסום המרות של חסרונות
הוא • באם אופטימיזציה לבעיית בפתרון מוגדרות לא מחסום המרות
. האפשרי התחום שפת על נמצא
גדל • הבעיה עבור הסיאן מטריצת של ספקטראלי מספר
( - הדיוק את קובע ספקטרלי מספר קטן ש ככל מאוד
.) לפתרון והתכנסות
" מקסימאלי* עצמי ערך בין יחס י ע מוגדר מטריצה של הספקטרלי המספר
. שלה ומינימאלי
B
0
" מ ה ושיטת מחסום :המרות
ושיטת משופרות מחסום המרותמ" שלR. Polyak: המ
: משופרות מחסום המרות
, - מונוטוניות רציפות שליליות אי פונקציות הן משופרות מחסום המרות
שני/ במשתנה קעורות וקמורות
: המתאימות המטרה פונקציות
: הן משופרות מחסום המרות על המבוססות מטרה פונקציות
- ' שלו החשובות התכונות כל על השומרות הקלאסי יאן ללגרנז תחליף
מקורית - פונקציה כמו סדר מאותו חלקות
האופטימום - בנקודת וחלקות מוגדרות
1) , ( log) 1(, ) , ( [) 1( 1]F C
t tt t
1
) () , , ( ) ( log) 1(,
mi
ii
g xF x y f x y
1
1
) () , , ( ) ( [) 1( 1]
mi
ii
g xC x y f x y
" מ המ ושיטת משופרות מחסום :המרות
המרות :Bמחלקת היא קבוצת כל הפונקציות ,Bכלשהו. יהיה
אשר מקיימות:
(1)
(2)
(3)
- יורדת וקמורה/עולה וקעורה(4)
עבור יורדת: עבור עולה:
אם אז אם אזי:(5)
(6)
(7)
(8)
קיים כך ש- ו-(9)0
lim ) ,0(ktt l
" מ המ ושיטת משופרות מחסום :המרות
: חדשה אופטימיזציה בעית נגדיר
: וקמורה יורדת עבור
: וקעורה עולה עבור
:)**( בעיה' של יאן לאגראנז
** * arg min /x f x x
/ , 0, 1,nix g x i m R
/ 0 , , 1,nix g x i m R
sign ,ts t 1
, , , ,m
i ii
F x y f x s y g x
למה: היא )*( • אופטימיזציה, )**( אופטימיזציה בעיית אם בעיית היא גם אז קמורה
קמורה
• )**( , גם )*( אז הפתרון לקיום ומספיקים הכרחיים תנאים מקיימת אםמקיימת
נקודה ובאותה התנאים אותם
" מ המ ושיטת משופרות מחסום :המרות
: בבעיה נתבונן
•
• , קומפקטית גם אז קומפקטית אם
• ,)*( - יהיו של אופטימאליים תנאים מתקיימים ב כי נניח
: תחום נגדיר
ˆ arg min /) (*
/ , 1,ni
x f x x
x g x i m
R
0 , , 0 *, *x y
10 0
, * , 1, *, , , 0
0 , 1
i i im
i
y y y i rD y y R and
y r i m
המרות שיטת מתאימים פרמטרים עבור כי מראה הבא משפטשל )*( לפתרון מתכנסת על המופעלת משופרות (מחסום (*
: " מ המ שיטת של התכנסות משפט
בנקודה )*(, וכי בבעיה קמורות כי נניח
נתונה )*(. המרה תהיה לבעיה ומספיקים הכרחיים תנאים מתקיימים
: נגדיר- , ו
2 2, , 1, ,if C g C i m *x B
1
, , ,m
i ii
F x y f x s y g x
sign ,ts t
" מ המ ושיטת משופרות מחסום :המרות
- , ו , שלכל כך קטנים מספיק קיימים אז
•- ש כך ווקטור קיים
•- ו מתקיים לכל
•- - : ש כך ו ווקטורים לזוג
- - ו ב תלוי שלא קיים
בסביבת • ממש קמורה הפונקציה
0 0 0 1
0 min ii my
0, , *, ,y D y
ˆ , arg min , , /x y F x y x ˆ, , 0xF x y
0 ˆ , * *x y x ˆ , * *y y y
ˆ ˆ ,x x y
1 2ˆ ˆ , , , , , , ,g g g my y y diag g x g x g x y
ˆ ˆ,y y y
0 1c ˆ ˆmax * , * *x x y y c y y
, ,F x y ˆ ˆ ,x x y
נוכל: איטרציה בכל עבור מסקנהלחשב
את ? בוחרים איך היא השאלההרעיון:
" מ המ ושיטת משופרות מחסום :המרות
1
1 11
arg min) ) , , ((
[diag ) , ) ((]
k k
k k m kg i i
x F x y
y g x y
00, , *, ,y D y
0y
פונקציה ונגדיר בפונקציה :נציב
הבעיה
כי להוכיח וניתן מחסום שיטת של קלאסית מגישה מתקבלת
של )*( הפתרון עם מתלכד של פתרונה
) , , (F x y
0
1
) , ( , , ,m
ii
M x F x y f x g x
0 )1,..,1( my R
arg min , /
/ 0, 1,
M B
nB i
B x M x x
x g x i m
R
MB
: " מ המ שיטת של אתחול משפט
מקיימת )*(, )*( בעיה בבעיה קמורות כי נניח
, וכי בנקודה מתקיימים תנאים הכרחיים ומספיקים לאופטימום Slaterתנאיי
של )*(. תהיה המרה נתונה ו- נגדיר:
2 2, , 1, ,if C g C i m
*x B
1
, ,m
ii
M x f x s g x
sign ,ts t
" מ המ ושיטת משופרות מחסום :המרות
, לכל אז קומפקטית קבוצה עבורו קיים אם
•- ש כך ווקטור קיים
- ו
•- - : ש כך ו ווקטורים לזוג
- - ו ב תלוי שלא קיים
בסביבת • ממש קמורה הפונקציה
0 0
arg min , /x M x x ˆ, 0xM x
x 0
1 2ˆ ˆ , diag , , , , , ,g g g my y y g x g x g x y y
0 1c ˆ ˆmax * , *x x y y c
,M x x
0
0 0lim ) ) (( lim ) ) (, ( ) *(f x M x f x
0 0
של הפתרון Polyakשיטת
" מ המ ושיטת משופרות מחסום :המרות
0
1
1 11
1,1, ,1
arg min) ) , , ((
[diag ) , ) ((]
m
k k
k k m kg i i
y
x F x y
y g x y
R
: - שמתקיים כך ב תלוי שאינו קיים לכל
סידרה • נוצרת איטרטיבי מתהליך כתוצאה
לפתרון • מתקרבים איטרציה בכל
לינארי • הינו לפתרון התכנסות קצב
,k kx y
0 0 1c
1 1max * , * *k k kx x y y c y y
) *, *(x y
) *, *(x y
: ברשת תעבורה לבעית נחזוראת נציב
: מטרה בפונקצית
ואת:
: אילוצים בפונקציות
דוגמא עבור פתרון הדגמתברשת תעבורה של מינימאלי כללי :עיכוב
512 13 32 24 34
512 13 32 24 34
) (
, , , ,
, , , ,
Tf x t x
x x x x x x
t x t x t x t x t x t x
R
R
1 13 32 34 2 12 32 24 3 12 13) ( , ) ( , ) (h x x x x h x x x x h x x x F
12 13 32 24 3412 13 32 24 34
12 13 32 24 34
0.1 0.15 , , 1 , , 5
11 31 11 31 11
x x x x xt t t t t
x x x x x
g x x c
g x x
12 13 32 24 3410, 30, 10, 30, 10, 5c c c c c F
דוגמא עבור פתרון הדגמתברשת תעבורה של מינימאלי כללי :עיכוב
בנקודה - מתקבל לבעיה מדויק *=x(2.5 2.5 0 2.5 2.5) פתרון = )*40.3030f )xערך של הפונקציה בנקודה זאת -
0.1נבחר: - : " " מ המ בשיטת שימוש י ע שהתקבלו תוצאות
: מדויק פתרון מול שקיבלנו תוצאות השוואת
דוגמא עבור פתרון הדגמתברשת תעבורה של מינימאלי כללי :עיכוב
: בנורמה התכנסות גרפים
דוגמא עבור פתרון הדגמתברשת תעבורה של מינימאלי כללי :עיכוב
הפונקציה של מינימאלי לערך :התכנסות
דוגמא עבור פתרון הדגמתברשת תעבורה של מינימאלי כללי :עיכוב
:) ליניארית ) לא קמורה מאולצת אופטימיזציה בעיית נתונה תהי
2דוגמה :
221
2 21 2
1 2
2 21 2
1
2
21 2
min) (
64 0
9 0
25 ) 10( 0
0
0
) , (
xx e
x x
x x
x x
x
x
x x R
בנקודה - מתקבל לבעיה מדויק פתרון(5,0)x=*f )x*( = 26ערך של הפונקציה בנקודה זאת -
2דוגמה :
: " " מ המ בשיטת שימוש י ע שהתקבלו תוצאות
0.05נבחר
: מדויק פתרון מול שקיבלנו תוצאות השוואת
: בנורמה התכנסות גרפים
2דוגמה :
1) , ( log) 1(t
t
12 ) , ( [) 1( 1]
tt
: הפונקציה של מינימאלי לערך התכנסות
3דוגמה :
1) , ( log) 1(t
t
1
2 ) , ( [) 1( 1]t
t
:) ליניארית ) לא קמורה מאולצת אופטימיזציה בעיית נתונה תהי
3דוגמה :
בנקודה - מתקבל לבעיה מדויק פתרוןזאת - בנקודה הפונקציה של f(x*) = 3ערך
* 2,1x
2 21 2
21
22
1
2
21 2
min) (
2 0
1 0
0
0
) , (
x x
x
x
x
x
x x R
3דוגמה :
: " " מ המ בשיטת שימוש י ע שהתקבלו תוצאות
0.1נבחר
: מדויק פתרון מול שקיבלנו תוצאות השוואת
: בנורמה התכנסות גרפים
3דוגמה :
1) , ( log) 1(t
t
12 ) , ( [) 1( 1]
tt
: הפונקציה של מינימאלי לערך התכנסות
3דוגמה :
12 ) , ( [) 1( 1]
tt
1) , ( log) 1(t
t
:) ליניארית ) לא קמורה מאולצת אופטימיזציה בעיית נתונה תהי
4דוגמה :
בנקודה - מתקבל לבעיה מדויק פתרוןזאת - בנקודה הפונקציה של - = )*f )xערך
24
21 2 1 2
2 21 2
1 2
1
2
21 2
min) ( 10*) (
8 0
8 3* 0
0
0
) , (
x x x x
x x
x x
x
x
x x R
* 2,2x
4דוגמה :
: " " מ המ בשיטת שימוש י ע שהתקבלו תוצאות
0.1נבחר
: מדויק פתרון מול שקיבלנו תוצאות השוואת
: בנורמה התכנסות גרפים
4דוגמה :
1) , ( log) 1(t
t
12 ) , ( [) 1( 1]
tt
: הפונקציה של מינימאלי לערך התכנסות
4דוגמה :
12 ) , ( [) 1( 1]
tt
1) , ( log) 1(
tt