nach oben

Erschienen in:

2019 | OriginalPaper | Buchkapitel

Prototypes Within Minimum Enclosing Balls

verfasst von : Christian Bauckhage, Rafet Sifa, Tiansi Dong

Erschienen in: Artificial Neural Networks and Machine Learning – ICANN 2019: Workshop and Special Sessions

Verlag: Springer International Publishing

Einloggen

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config

KI-gestützte Suche

Aus

Abstract

We revisit the kernel minimum enclosing ball problem and show that it can be solved using simple recurrent neural networks. Once solved, the interior of a ball can be characterized in terms of a function of a set of support vectors and local minima of this function can be thought of as prototypes of the data at hand. For Gaussian kernels, these minima can be naturally found via a mean shift procedure and thus via another recurrent neurocomputing process. Practical results demonstrate that prototypes found this way are descriptive, meaningful, and interpretable.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

über 102.000 Bücher
über 537 Zeitschriften

aus folgenden Fachgebieten:

Automobil + Motoren
Bauwesen + Immobilien
Business IT + Informatik
Elektrotechnik + Elektronik
Energie + Nachhaltigkeit
Finance + Banking
Management + Führung
Marketing + Vertrieb
Maschinenbau + Werkstoffe
Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

über 67.000 Bücher
über 390 Zeitschriften

aus folgenden Fachgebieten:

Automobil + Motoren
Bauwesen + Immobilien
Business IT + Informatik
Elektrotechnik + Elektronik
Energie + Nachhaltigkeit
Maschinenbau + Werkstoffe

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

über 67.000 Bücher
über 340 Zeitschriften

aus folgenden Fachgebieten:

Bauwesen + Immobilien
Business IT + Informatik
Finance + Banking
Management + Führung
Marketing + Vertrieb
Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Vorheriges Kapitel On Chow-Liu Forest Based Regularization of Deep Belief Networks

Nächstes Kapitel Exploring Local Transformation Shared Weights in Convolutional Neural Networks

http://cbcl.mit.edu/software-datasets/FaceData2.html.

Bauckhage, C.: A neural network implementation of Frank-Wolfe optimization. In: Lintas, A., Rovetta, S., Verschure, P.F.M.J., Villa, A.E.P. (eds.) ICANN 2017. LNCS, vol. 10613, pp. 219–226. Springer, Cham (2017). https://doi.org/10.1007/978-3-319-68600-4_26CrossRef

Bauckhage, C., Thurau, C.: Making archetypal analysis practical. In: Denzler, J., Notni, G., Süße, H. (eds.) DAGM 2009. LNCS, vol. 5748, pp. 272–281. Springer, Heidelberg (2009). https://doi.org/10.1007/978-3-642-03798-6_28CrossRef

Ben-Hur, A., Horn, D., Siegelmann, H., Vapnik, V.: Support vector clustering. J. Mach. Learn. Res. 2(Dec), 125–137 (2001)MATH

Cheng, Y.: Mean shift, mode seeking, and clustering. IEEE Trans. Pattern Anal. Mach. Intell. 17(8), 767–776 (1995). https://doi.org/10.1109/34.400568CrossRef

Cutler, A., Breiman, L.: Archetypal analysis. Technometrics 36(4), 338–347 (1994). https://doi.org/10.1080/00401706.1994.10485840MathSciNetCrossRefMATH

Dong, T., et al.: Imposing category trees onto word-embeddings using a geometric construction. In: Proceedings ICLR (2019)

Dong, T., Wang, Z., Li, J., Bauckhage, C., Cremers, A.: Triple classification using regions and fine-grained entity typing. In: Proceedings AAAI (2019)

Evangelista, P.F., Embrechts, M.J., Szymanski, B.K.: Some properties of the Gaussian kernel for one class learning. In: de Sá, J.M., Alexandre, L.A., Duch, W., Mandic, D. (eds.) ICANN 2007. LNCS, vol. 4668, pp. 269–278. Springer, Heidelberg (2007). https://doi.org/10.1007/978-3-540-74690-4_28CrossRef

Frank, M., Wolfe, P.: An algorithm for quadratic programming. Naval Res. Logist. 3(1–2), 95–110 (1956)MathSciNetCrossRef

10.

Fukunaga, K., Hostetler, L.: The estimation of the gradient of a density function with applications in pattern recognition. IEEE Trans. Inf. Theory 21(1), 32–40 (1975). https://doi.org/10.1109/TIT.1975.1055330MathSciNetCrossRefMATH

11.

Jäger, H., Haas, H.: Harnessing nonlinearity: predicting chaotic systems and saving energy in wireless communication. Science 304(5667), 78–80 (2004). https://doi.org/10.1126/science.1091277CrossRef

12.

LeCun, Y., Boottou, L., Bengio, Y., Haffner, P.: Gradient-based learning applied to document recognition. Proc. IEEE 86(11), 2278–2324 (1998). https://doi.org/10.1109/5.726791CrossRef

13.

Mahoney, M., Drineas, P.: CUR matrix decompositions for improved data analysis. PNAS 106(3), 697–702 (2009). https://doi.org/10.1073/pnas.0803205106MathSciNetCrossRefMATH

14.

Ruff, L., et al.: Deep one-class classification. In: Proceedings ICML (2018)

15.

Schleif, F.M., Gisbrecht, A., Tino, P.: Supervised low rank indefinite kernel approximation using minimum enclosing balls. Neurocomputing 318(Nov), 213–226 (2018). https://doi.org/10.1016/j.neucom.2018.08.057CrossRef

16.

Sifa, R.: An overview of Frank-Wolfe optimization for stochasticity constrained interpretable matrix and tensor factorization. In: Kůrková, V., Manolopoulos, Y., Hammer, B., Iliadis, L., Maglogiannis, I. (eds.) ICANN 2018. LNCS, vol. 11140, pp. 369–379. Springer, Cham (2018). https://doi.org/10.1007/978-3-030-01421-6_36CrossRef

17.

Tax, D., Duin, R.: Support vector data description. Mach. Learn. 54(1), 45–46 (2004). https://doi.org/10.1023/B:MACH.0000008084.60811.49CrossRefMATH

18.

Thurau, C., Kersting, K., Bauckhage, C.: Deterministic CUR for improved large-scale data analysis: an empirical study. In: Proceedings SDM. SIAM (2012)

19.

Thurau, C., Kersting, K., Wahabzada, M., Bauckhage, C.: Descriptive matrix factorization for sustainability: adopting the principle of opposites. Data Min. Knowl. Discov. 24(2), 325–354 (2012). https://doi.org/10.1007/s10618-011-0216-zMathSciNetCrossRefMATH

20.

Tsang, I., Kwok, J., Cheung, P.M.: Core vector machines: fast SVM training on very large data sets. J. Mach. Learn. Res. 6(Apr), 363–392 (2010)MathSciNetMATH

21.

Wang, S., Zhang, Z.: Improving CUR matrix decompositions and the Nyström approximation via adaptive sampling. J. Mach. Learn. Res. 14(1), 2729–2769 (2010)MATH

22.

Xiao, H., Rasul, K., Vollgraf, R.: Fashion-MNIST: a novel image dataset for benshmarking machine learning algorithms. arXiv:1708.07747 [cs.LG] (2017)

23.

Zhang, K., Kwok, J.: Clustered Nyström method for large scale manifold learning and dimension reduction. IEEE Trans. Neural Netw. 21(10), 1576–1587 (2010). https://doi.org/10.1109/TNN.2010.2064786CrossRef

Titel: Prototypes Within Minimum Enclosing Balls
verfasst von: Christian Bauckhage
Rafet Sifa
Tiansi Dong
Verlag: Springer International Publishing
Buch: Artificial Neural Networks and Machine Learning – ICANN 2019: Workshop and Special Sessions
Print ISBN: 978-3-030-30492-8

Electronic ISBN: 978-3-030-30493-5

Copyright-Jahr: 2019
DOI: https://doi.org/10.1007/978-3-030-30493-5_36

Springer Professional

Abstract

Bitte loggen Sie sich ein, um Zugang zu Ihrer Lizenz zu erhalten.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Springer Professional "Technik"

Springer Professional "Wirtschaft"