Skip to main content

2016 | OriginalPaper | Buchkapitel

7. Acceleration of Convergence of the Alternating Least Squares Algorithm for Nonlinear Principal Component Analysis

verfasst von : Yuichi Mori, Masahiro Kuroda, Naomichi Makino

Erschienen in: Nonlinear Principal Component Analysis and Its Applications

Verlag: Springer Singapore

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Abstract

Nonlinear principal component analysis (PCA) requires iterative computation using the alternating least squares (ALS) algorithm, which alternates between optimal scaling for quantifying qualitative data and the analysis of optimally scaled data using the ordinary PCA approach. PRINCIPALS of Young et al. (Psychometrika 43:279–281) (1978) and PRINCALS of Gifi (Nonlinear Multivariate Analysis. Wiley, Chichester) (1990) are the ALS algorithms used for nonlinear PCA. When applying nonlinear PCA to very large data sets of numerous nominal and ordinal variables, the ALS algorithm may require many iterations and significant computation time to converge. One reason for the slow convergence of the ALS algorithm is that the speed of convergence is linear. In order to accelerate the convergence of the ALS algorithm, Kuroda et al. (Comput Stat Data Anal 55:143–153) (2011) developed a new iterative algorithm using the vector \(\varepsilon \) algorithm by Wynn (Math Comput 16:301–322) (1962).

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe




 

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Fußnoten
1
Times are typically available to 10 msec.
 
Literatur
Zurück zum Zitat Brezinski, C., Zaglia, M.: Extrapolation Methods: Theory and Practice. Elsevier Science Ltd., North-holland, Amsterdam (1991)MATH Brezinski, C., Zaglia, M.: Extrapolation Methods: Theory and Practice. Elsevier Science Ltd., North-holland, Amsterdam (1991)MATH
Zurück zum Zitat Gifi, A.: Nonlinear Multivariate Analysis. Wiley, Chichester (1990)MATH Gifi, A.: Nonlinear Multivariate Analysis. Wiley, Chichester (1990)MATH
Zurück zum Zitat Kuroda, M., Mori, Y., Iizuka, M., Sakakihara, M.: Accelerating the convergence of the EM algorithm using the vector epsilon algorithm. Comput. Stat. Data Anal. 55, 143–153 (2011)CrossRefMATH Kuroda, M., Mori, Y., Iizuka, M., Sakakihara, M.: Accelerating the convergence of the EM algorithm using the vector epsilon algorithm. Comput. Stat. Data Anal. 55, 143–153 (2011)CrossRefMATH
Zurück zum Zitat Kruskal, J.B.: Nonmetric multidimensional scaling: A numerical method. Psychometrika, 29, 115–129 (1964) Kruskal, J.B.: Nonmetric multidimensional scaling: A numerical method. Psychometrika, 29, 115–129 (1964)
Zurück zum Zitat Mori, Y., Tanaka, Y., Tarumi, T.: Principal component analysis based on a subset of variables for qualitative data. Data Science, Classification, and Related Methods (Proceedings of IFCS-96), pp. 547-554, Springer, Berlin (1997) Mori, Y., Tanaka, Y., Tarumi, T.: Principal component analysis based on a subset of variables for qualitative data. Data Science, Classification, and Related Methods (Proceedings of IFCS-96), pp. 547-554, Springer, Berlin (1997)
Zurück zum Zitat Tanaka, Y., Mori, Y.: Principal component analysis based on a subset of variables: variable selection and sensitivity analysis. Am. J. Math. Manag. Sci. 17, 61–89 (1997)MathSciNetMATH Tanaka, Y., Mori, Y.: Principal component analysis based on a subset of variables: variable selection and sensitivity analysis. Am. J. Math. Manag. Sci. 17, 61–89 (1997)MathSciNetMATH
Zurück zum Zitat Young, F.W., Takane, Y., de Leeuw, J.: Principal components of mixed measurement level multivariate data: an alternating least squares method with optimal scaling features. Psychometrika 43, 279–281 (1978)CrossRefMATH Young, F.W., Takane, Y., de Leeuw, J.: Principal components of mixed measurement level multivariate data: an alternating least squares method with optimal scaling features. Psychometrika 43, 279–281 (1978)CrossRefMATH
Metadaten
Titel
Acceleration of Convergence of the Alternating Least Squares Algorithm for Nonlinear Principal Component Analysis
verfasst von
Yuichi Mori
Masahiro Kuroda
Naomichi Makino
Copyright-Jahr
2016
Verlag
Springer Singapore
DOI
https://doi.org/10.1007/978-981-10-0159-8_7