demonstrate 的 blog » 日志 » 最近比较忙... 难道已经变质了
最近比较忙... 难道已经变质了
demonstrate 发表于 2008-05-07 10:47:12
一步一步走吧
1. logistic regression，推导及其实现（5.8）
推导现在剩下 bias 这一部分了，看到的文章中处理的不多
原来自己实现的那个部分对多类问题似乎有些问题
看了一下，Matlab 自己就有 logistic regression 的程序
参照一下
2. penalized logistic regression，推导及其实现
ms 巨简单，就是加了个 ridge 扰动，和 ridge regression 一样
前面的搞定之后就很容易搞完了。
3. PLR with DAG，推导及其实现
现在问题在于推导上，感觉应该不困难，把 Lagrange 函数搞出
来后面就简单了。只是原来的 IRLS 算法不知道还能用不能用。
4. IVM
似乎主要在于算法方面。
5. 申请奖学金（5.10）
现在 CV 的模板差不多弄好了，先把英文的完善一下好了。
另外 publications 最后也要搞出来一个名堂了，否则，每次都要
重新找 -,-bbb
6. 对 facial expression recognition 实验的检查（5.11）
从 PCA ＋ LDA 开始好了，后面把 PLR 加进来比较一下。
7. 对 undersample 的 LDA 算法的继续研究
主要是 Ye Jieping 的文章，似乎没看完，原来看了不少了，需要
最后细化完成那个 slides。这部分作为基本的储备已解决 graph
embedding 里面类似问题的参考思想。
8. 跟文献
不要忘了，sigh... ICML 08 的估计也要出来了，06 的还没完全搞
定，另外 NIPS... ~~><~~ 谁来救救我，读文献一个人真慢啊真慢
啊...
- » 2006年: 川味凉粉凉皮
- » 2006年: reading and writing week
- » 2006年: 沉沦啊沉沦...
- » 完售是悲剧通贩是福音
- » 枪案锵锵锵
- » 白日梦
- » 故事的开始也被叫做回忆
- » 环保狂想曲
最新评论
-
2008-05-08 12:43:17
5 基本搞定...
-
2008-05-09 02:13:10
8 现在和 oilboy、浦剑弄了个饭后 10 分钟 talk，专门用来跟文献，目标是讲清楚问题是什么，难点在什么地方，用什么解决，解决得如何这么几个问题...
期待两位的热心参与~
现在和 juvel 开始校对数值逼近，今晚基本把格式搞定了，明天召唤复印社搞定 PRML 事宜。 -
2008-05-11 10:07:49
1, 2 搞定
现在问题是发现描述趋势性数据的一个小问题，似乎用 DAG 和 logistic regression 的时候比较麻烦... -
2008-05-11 14:03:39
3 现在的主要问题是出现了耦合
SVM 在从 Lagrange 函数出发推到对偶形式时，原来的待求变量完全可以用对偶变量表示出来，而 logistic regression 仍然是耦合状态，不能直接进入对偶问题。
在没有约束的情况下可以直接用 Newton-Raphson 方法求解。现在加入了约束，求解出现了困难，f***
好吧，看书去！ -
2008-05-11 15:52:18
看样子问题还是 convex 的
算法设计的问题... -
2008-05-15 21:44:51
看了一些关于 interior point 算法的说明，觉得实现起来应该难度不大，现在主要有两种算法：
logarithm barrier
primal-dual interior point
好吧，争取尽快把程序写出来。
下面就是要找数据了~ -
2008-05-19 22:45:44
基本把算法步骤搞明白了...
然后发现 Matlab 2008a 里面似乎已经 implement 了 interior point method 里面 barrier methods，倒是 primal-dual 方法没有实现，个么先 fmincon 一会。
明天开始做实验... -
2008-05-22 16:00:20
primal-dual interior point, 这个去年在MSRI的workshop上听了很多，可惜没太听懂。
-
2008-05-23 00:16:20
嗯，手头的一本 Stephen Boyd 的 Convex Optimization 上面倒是有叙述，只是现在没时间仔细看其机理了，赶论文实验中...
