Skip to main content

2018 | OriginalPaper | Buchkapitel

Dimensionality Reduction and Visualization by Doubly Kernelized Unit Ball Embedding

verfasst von : Behrouz Haji Soleimani, Stan Matwin

Erschienen in: Advances in Artificial Intelligence

Verlag: Springer International Publishing

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Abstract

In this paper, we present a nonlinear dimensionality reduction algorithm which is aimed to preserve the local structure of data by building and exploiting a neighborhood graph. The cost function is defined to minimize the discrepancy between the similarities of points in the input and output spaces. We propose an effective way to calculate the input and output similarities based on Gaussian and polynomial kernel functions. By maximizing the within-cluster cohesion and between-cluster separation, KUBE remarkably improves the quality of clustering algorithms on the low-dimensional embedding. Our experiments on image recognition datasets show that KUBE can learn the structure of manifolds and it significantly improves the clustering quality.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe




 

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Literatur
1.
Zurück zum Zitat Belkin, M., Niyogi, P.: Laplacian Eigenmaps for dimensionality reduction and data representation. Neural Comput. 15(6), 1373–1396 (2003)CrossRefMATH Belkin, M., Niyogi, P.: Laplacian Eigenmaps for dimensionality reduction and data representation. Neural Comput. 15(6), 1373–1396 (2003)CrossRefMATH
2.
Zurück zum Zitat Bengio, Y., Monperrus, M.: Non-local manifold tangent learning. Adv. Neural Inf. Process. Syst. 17(1), 129–136 (2005) Bengio, Y., Monperrus, M.: Non-local manifold tangent learning. Adv. Neural Inf. Process. Syst. 17(1), 129–136 (2005)
3.
Zurück zum Zitat Cox, T.F., Cox, M.A.: Multidimensional Scaling. CRC Press, Boca Raton (2000)MATH Cox, T.F., Cox, M.A.: Multidimensional Scaling. CRC Press, Boca Raton (2000)MATH
4.
Zurück zum Zitat Cunningham, J.P., Ghahramani, Z.: Linear dimensionality reduction: survey, insights, and generalizations. J. Mach. Learn. Res. 16(1), 2859–2900 (2015)MathSciNetMATH Cunningham, J.P., Ghahramani, Z.: Linear dimensionality reduction: survey, insights, and generalizations. J. Mach. Learn. Res. 16(1), 2859–2900 (2015)MathSciNetMATH
5.
Zurück zum Zitat Hinton, G.E., Roweis, S.T.: Stochastic neighbor embedding. In: Advances in Neural Information Processing Systems, pp. 833–840 (2002) Hinton, G.E., Roweis, S.T.: Stochastic neighbor embedding. In: Advances in Neural Information Processing Systems, pp. 833–840 (2002)
6.
7.
Zurück zum Zitat Van der Maaten, L., Hinton, G.: Visualizing data using t-SNE. J. Mach. Learn. Res. 9(2579–2605), 85 (2008)MATH Van der Maaten, L., Hinton, G.: Visualizing data using t-SNE. J. Mach. Learn. Res. 9(2579–2605), 85 (2008)MATH
8.
Zurück zum Zitat Roweis, S.T., Saul, L.K.: Nonlinear dimensionality reduction by locally linear embedding. Science 290(5500), 2323–2326 (2000)CrossRef Roweis, S.T., Saul, L.K.: Nonlinear dimensionality reduction by locally linear embedding. Science 290(5500), 2323–2326 (2000)CrossRef
9.
Zurück zum Zitat Sammon, J.W.: A nonlinear mapping for data structure analysis. IEEE Trans. Comput. 5, 401–409 (1969)CrossRef Sammon, J.W.: A nonlinear mapping for data structure analysis. IEEE Trans. Comput. 5, 401–409 (1969)CrossRef
10.
Zurück zum Zitat Soleimani, B.H., Matwin, S.: Nonlinear dimensionality reduction by unit ball embedding (UBE) and its application to image clustering. In: 2016 15th IEEE International Conference on Machine Learning and Applications (ICMLA), pp. 983–988. IEEE (2016) Soleimani, B.H., Matwin, S.: Nonlinear dimensionality reduction by unit ball embedding (UBE) and its application to image clustering. In: 2016 15th IEEE International Conference on Machine Learning and Applications (ICMLA), pp. 983–988. IEEE (2016)
11.
Zurück zum Zitat Soleimani, B.H., Matwin, S., De Souza, E.N.: A density-penalized distance measure for clustering. In: Barbosa, D., Milios, E. (eds.) Canadian Conference on Artificial Intelligence, pp. 238–249. Springer, Cham (2015) Soleimani, B.H., Matwin, S., De Souza, E.N.: A density-penalized distance measure for clustering. In: Barbosa, D., Milios, E. (eds.) Canadian Conference on Artificial Intelligence, pp. 238–249. Springer, Cham (2015)
12.
Zurück zum Zitat Van Der Maaten, L.: Accelerating t-SNE using tree-based algorithms. J. Mach. Learn. Res. 15(1), 3221–3245 (2014)MathSciNetMATH Van Der Maaten, L.: Accelerating t-SNE using tree-based algorithms. J. Mach. Learn. Res. 15(1), 3221–3245 (2014)MathSciNetMATH
Metadaten
Titel
Dimensionality Reduction and Visualization by Doubly Kernelized Unit Ball Embedding
verfasst von
Behrouz Haji Soleimani
Stan Matwin
Copyright-Jahr
2018
DOI
https://doi.org/10.1007/978-3-319-89656-4_19