与标准的SVM不同,非线性TWSVM不能在线性TWSVM的基础上直接引入核函数,而是从带有核函数的两个超平面
直接出发构造原始最优化问题。其中
K是一个适当的核函数。两个原始最优化问题分别为
和
它们对应的对偶问题分别为
和
其中
据此构造非线性双子支持向量机算法。
非线性双子支持向量机(非线性TWSVM)
(1)给定训练集T={(x1,+1),…,(xp,+1),(xp+1,-1),…,(xp+q,-1)};
(2)选取适当核函数K及惩罚参数c1及c2;
(3)构造并求解二次规划问题式(2-39)和式(2-40),得解α*和γ*,然后计算:
(4)对于一个新的待预测点x∈Rn,它的类别判断为
与标准的SVM不同,TWSVM求解的是两个最优化问题,得到的是两个非平行的决策超平面,因此具有更好的灵活性和推广能力。基于TWSVM的研究是近几年的研究热点[24-35]。但是我们可以看出,无论是线性TWSVM还是非线性TWSVM,都要预先进行逆矩阵的运算,比如求HTH和GTG的逆,以及求STS和RTR的逆,显然当数据量很大或数据的维数很高时,计算这样的逆矩阵将变得不可行。尽管有些文献可以利用一些技巧,比如Sherman-Morrison-Woodbury公式[96]来求解逆矩阵[97],但仍然不能避免大规模问题的困境。另外,由于TWSVM应用了两个损失函数,分别是Hinge损失函数和二次损失函数,因此其稀疏性没有标准SVM的好。线性TWSVM的对偶问题没有出现内积,因此不能直接应用核函数实现非线性问题的处理,所以才采用了非线性TWSVM重新构造了两个不同的原始问题。有文献已经证明非线性TWSVM在应用线性核的时候不等价于线性TWSVM,这与标准SVM的思想是背离的[37]。
免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。