Nonconvex optimization problem

19 views
Skip to first unread message

S. M

unread,
Jul 12, 2016, 6:02:05 AM7/12/16
to IranDeepLearning
با سلام از اساتید گرامی خواستارم لطفا یک کمی این مساله غیر محدب بودن برای بنده بازتر کنند اینکه منظور از
Nonconvex optimization problem
در شبکه های عصبی چیست و اینکه اصطلاح غیر محدب بودن به چه توابعي اطلاق میشود. اگر منبع خاصی درنظر دارید که با ادبیات روان این مسئله باز کرده سپاسگزار میشم ذکر کنید
متشکرم

Seyyed Hossein Hasanpour

unread,
Jul 12, 2016, 11:23:35 AM7/12/16
to IranDeepLearning

سلام بطور خلاصه همونطور که تو تصویر بالا کشیدم! یه تابع کانوکس یه تابع کاسه شکل هست که Gradient Descent بطور خاص بخوبی درش کار میکنه . 
و فقط یک نقطه مینیمم بیشتر نداره.
در نقطه  مقابل اون توابع غیرکانوکس هستن که دارای لوکال مینیمم های مختلفی هستن که همین مساله باعث میشه الگوریتم گرادینت دیسنت بخوبی درش کار نکنه .
بحث کانوکس بودن و نبودن در cost function برای ما مهم هست چون بر اساس اون هست که ما میزان خوب بودن /نبودن پارامترهامون رو مشخص میکنیم . 
توابع خطی همه کانوکس هستن اما توابع غیر خطی نه . 
اینجا رو بخونید خوبه . 
هرچند تو هفته سوم مربوط به بحث logistic regression آموزش یادگیری ماشین اندرو ان جی دقیقا این بحث هم بطور ساده و خیلی قشنگ توضیح داده میشه. اونم ببینید خیلی خوبه براتون . 

S. M

unread,
Jul 12, 2016, 12:10:02 PM7/12/16
to IranDeepLearning
سلام ممنونم از پاسخ کامل شما آموزشی که ميفرماييد کجا ميتونم دنبال کنم؟ ممنونم

Seyyed Hossein Hasanpour

unread,
Jul 12, 2016, 12:46:30 PM7/12/16
to IranDeepLearning
خواهش میکنم 
تو سایت تو بخش منابع یادگیری لینک این آموزش رو گذاشته بودم (بخش متفرقه مربوط به آبان 94).
به هرحال میتونید از اینجا استفاده کنید : https://www.coursera.org/learn/machine-learning 
فقط شاید آی پی ایران رو کورس ایرا بلاک کرده باشه! مطمئن نیستم اگر بود و صفحه leave نمایش داده میشد از فیلترشکن استفاده کنید! 

S. M

unread,
Jul 13, 2016, 3:08:44 AM7/13/16
to IranDeepLearning
سلام در ادامه سوالم میخوام بدونم که توابع
Non-concave
در رابطه با همان مبحث توابع بهینه سازی یا خطا چه توابعي هستند و اینکه اگر ذکر شود یک تابع غیر محدب و غیر مقعر است به چه معناست؟
سپاسگزارم

Seyyed Hossein Hasanpour

unread,
Jul 13, 2016, 9:38:50 AM7/13/16
to IranDeepLearning

سلام 
concave منفی convex هست. و non-concave هم باچیزی که من میدونم همون شکلی که دادم برعکسش کنید مشخص میشه.

S. M

unread,
Jul 14, 2016, 2:02:59 AM7/14/16
to IranDeepLearning
سپاسگزارم
Reply all
Reply to author
Forward
This conversation is locked
You cannot reply and perform actions on locked conversations.
0 new messages