引言

這篇文章只是做些介紹，以后好知道將來(lái)會(huì)怎么學(xué)習(xí)這些方面的知識(shí)，另外還有一些英文單詞的記錄，以便將來(lái)能夠使用來(lái)寫(xiě)點(diǎn)文章，吹吹牛逼。如果你也想跟著學(xué)習(xí)的話，歡迎跟帖奧。

簡(jiǎn)介

這門(mén)課程中我們學(xué)習(xí)的都是convex optimization problem，就是凸優(yōu)化問(wèn)題的求解問(wèn)題。注意是“求解”問(wèn)題。而且每種方法可能都有一些限制的條件，很多工科的學(xué)生都喜歡拿來(lái)就用，除了問(wèn)題再說(shuō)，我，不只是我都很反對(duì)這樣解決問(wèn)題，大家一定要明白自己的模型是否能夠使用這種方法求解。這樣會(huì)給我們減少很多麻煩的。

為什么我們專(zhuān)門(mén)拿出時(shí)間來(lái)學(xué)習(xí)convex optimization呢？呵呵，因?yàn)樗?jiǎn)單！我去，那它既然簡(jiǎn)單，我們的實(shí)際問(wèn)題能夠解決么？其實(shí)我們已經(jīng)限制了學(xué)習(xí)范圍，也就是說(shuō)convex optimization problem，要是學(xué)好這門(mén)課，也許能解個(gè)八九不離十。我只能說(shuō)到這里，因?yàn)槲抑捞邢蘖恕＃海?/p>

在這門(mén)課程里，我們會(huì)講述一個(gè)SVM（所謂支持向量機(jī)啊），這個(gè)東西跟小波、神經(jīng)網(wǎng)絡(luò)齊名，曾經(jīng)的博士們要畢業(yè)，要是不知道這三個(gè)東西，當(dāng)今的工科大牛們也許會(huì)說(shuō)你難畢業(yè)了！可見(jiàn)這門(mén)課程確實(shí)很有價(jià)值呢！

目標(biāo)（course goals）

我們的目標(biāo)是？ 多么想回答沒(méi)有蛀牙！呵呵。把目標(biāo)定的高一點(diǎn)，即使自己達(dá)不到，當(dāng)我們回頭看時(shí)，我們也許也成大牛了。

* 能夠?qū)⒛承?shí)際問(wèn)題做成convex optimization problem!

* 能夠用計(jì)算機(jī)程序解決某些convex optimization problem!

* 能夠分析解決方案。例如計(jì)算復(fù)雜度，原理，或者與其它一些方法的對(duì)比等！

需要參考并且強(qiáng)烈建議看的書(shū)

《Convex Optimization》

可以在這里下載到：http://www.stanford.edu/~boyd/cvxbook/

另外大家也可以在這個(gè)網(wǎng)址找到幻燈片，那個(gè)牛寫(xiě)的！有時(shí)間就看唄。

再插一嘴，牛說(shuō)，“英文課本不可怕，只要你能堅(jiān)持認(rèn)真啃完第一、二章，后面的章節(jié)就會(huì)容易了，因?yàn)楹竺娴膯卧~你已經(jīng)在這兩個(gè)章節(jié)中解決了。”。

讀完本文需要知道的內(nèi)容

What is Mathematical optimization problem?

minimize f0(x)

subject to fi(x) <= bi, i = 1,2,...,m

where

* x = (x1, x2, x3, ..., xm)' optimization variables. 這個(gè)就是所謂的優(yōu)化變量了，它是一個(gè)向量，其中xi都是標(biāo)量。

* f0 : Rn -> R, objective function. 這個(gè)就是所謂的目標(biāo)函數(shù)了。

* fi : Rn -> R, i = 1,2,...,m. constraint functions. 這個(gè)就是所謂的約束函數(shù)了。

optimal solution: x* has smallest value of f0 among all vectors that satisfy the constraints.?

最優(yōu)解x*就是在所有滿足限制條件的向量中有最小f0值的向量。

這里描述的是數(shù)學(xué)優(yōu)化問(wèn)題，后面的文章我們學(xué)到的可能都是convex optimization problem. 我們?cè)诖嗣枋觯且驗(yàn)镃onvex optimization就是Mathematical optimization problem的問(wèn)題之一?。?/p>