次梯度方法(subgradient method)是传统的梯度下降方法的拓展,用来处理不可导的凸函数。它的优势是比传统方法处理问题范围大,劣势是算法收敛速度慢。但是,由于它对不可导函数有很好的处理方法,所以学习它还是很有必要的。
如果f可导,那么它的次梯度等于它的梯度。
次梯度不一定是下降方向,在求解时,要保留最小值。
参考:
http://www.cnblogs.com/connorzx/p/4797194.html
次导数wiki
https://zh.wikipedia.org/wiki/%E6%AC%A1%E5%AF%BC%E6%95%B0