Skip to main content
Erschienen in: Neural Computing and Applications 7-8/2013

01.06.2013 | ICONIP 2011

The coordinate descent method with stochastic optimization for linear support vector machines

verfasst von: Tianyou Zheng, Xun Liang, Run Cao

Erschienen in: Neural Computing and Applications | Ausgabe 7-8/2013

Einloggen

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Abstract

Optimizing the training speed of support vector machines (SVMs) is one of the most important topics in the SVM research. In this paper, we propose an algorithm in which the size of working set is reduced to one in order to obtain a faster training speed. Instead of the complex heuristic criteria, the random order for selecting the elements into the working set is adopted. The proposed algorithm shows a better performance in linear SVM training, especially in the large-scale scenario.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe




 

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Literatur
1.
Zurück zum Zitat Cortes C, Vapnik V (1995) Support vector networks. Mach Learn 20:273–297MATH Cortes C, Vapnik V (1995) Support vector networks. Mach Learn 20:273–297MATH
2.
Zurück zum Zitat Fan R-E, Chang K-W, Hsieh C-J, Wang X-R, Lin C-J (2008) LIBLINEAR: a library for large linear classification. J Mach Learn Res 9:1871–1874MATH Fan R-E, Chang K-W, Hsieh C-J, Wang X-R, Lin C-J (2008) LIBLINEAR: a library for large linear classification. J Mach Learn Res 9:1871–1874MATH
3.
Zurück zum Zitat Osuna E, Freund R, Girosi F (1997) Training support vector machines: an application to face detection. In: Proceedings of computer vision and pattern recognition, 1063–6919:130–136 Osuna E, Freund R, Girosi F (1997) Training support vector machines: an application to face detection. In: Proceedings of computer vision and pattern recognition, 1063–6919:130–136
4.
Zurück zum Zitat Platt JC (1998) Fast training of support vector machines using sequential minimal optimization. In: Schölkopf B, Burges C, Smola A (eds) Advances in kernel methods—support vector learning. MIT Press, Cambridge, pp 185–208 Platt JC (1998) Fast training of support vector machines using sequential minimal optimization. In: Schölkopf B, Burges C, Smola A (eds) Advances in kernel methods—support vector learning. MIT Press, Cambridge, pp 185–208
5.
Zurück zum Zitat JoachimsT (2006) Training linear SVMs in linear time. ACM KDD JoachimsT (2006) Training linear SVMs in linear time. ACM KDD
6.
Zurück zum Zitat Smola AJ, Vishwanathan SVN, Le Q (2008) Bundle methods for machine learning. NIPS Smola AJ, Vishwanathan SVN, Le Q (2008) Bundle methods for machine learning. NIPS
7.
Zurück zum Zitat Lin C-J, Weng RC, Keerthi SS (2008) Trust region Newton method for large-scale logistic regression. JML R9:627–650MathSciNet Lin C-J, Weng RC, Keerthi SS (2008) Trust region Newton method for large-scale logistic regression. JML R9:627–650MathSciNet
8.
Zurück zum Zitat Shai S-S, Singer Y, Srebro N, Pegasos (2007) Primal estimated sub-gradient solver for SVM. In: Proceedings of the 24th international conference on machine learning, ACM, New York Shai S-S, Singer Y, Srebro N, Pegasos (2007) Primal estimated sub-gradient solver for SVM. In: Proceedings of the 24th international conference on machine learning, ACM, New York
10.
Zurück zum Zitat Zhang T (2004) Solving large scale linear prediction problems using stochastic gradient descent algorithms. ICML Zhang T (2004) Solving large scale linear prediction problems using stochastic gradient descent algorithms. ICML
11.
Zurück zum Zitat Chang K-W, Hsie C-J, Lin C-J, Sathiya KS, Sundararajan S (2008) A dual coordinate descent method for large-scale linear SVM. In: Proceedings of the 25th international conference on machine learning, ACM, New York Chang K-W, Hsie C-J, Lin C-J, Sathiya KS, Sundararajan S (2008) A dual coordinate descent method for large-scale linear SVM. In: Proceedings of the 25th international conference on machine learning, ACM, New York
12.
Zurück zum Zitat Chang K-W, Hsie C-J, Lin C-J (2008) Coordinate descent method for large-scale L2-loss linear SVM. J Mach Learn Res 9:1369–1398MathSciNetMATH Chang K-W, Hsie C-J, Lin C-J (2008) Coordinate descent method for large-scale L2-loss linear SVM. J Mach Learn Res 9:1369–1398MathSciNetMATH
13.
Zurück zum Zitat Luo Z-Q, Tseng P (1992) On the convergence of coordinate descent method for convex differentiable minimization. J Optim Theory Appl 72:7–35MathSciNetMATHCrossRef Luo Z-Q, Tseng P (1992) On the convergence of coordinate descent method for convex differentiable minimization. J Optim Theory Appl 72:7–35MathSciNetMATHCrossRef
Metadaten
Titel
The coordinate descent method with stochastic optimization for linear support vector machines
verfasst von
Tianyou Zheng
Xun Liang
Run Cao
Publikationsdatum
01.06.2013
Verlag
Springer-Verlag
Erschienen in
Neural Computing and Applications / Ausgabe 7-8/2013
Print ISSN: 0941-0643
Elektronische ISSN: 1433-3058
DOI
https://doi.org/10.1007/s00521-012-1139-3

Weitere Artikel der Ausgabe 7-8/2013

Neural Computing and Applications 7-8/2013 Zur Ausgabe