Skip to main content

2018 | OriginalPaper | Buchkapitel

Logistic Regression Revisited: Belief Function Analysis

verfasst von : Thierry Denoeux

Erschienen in: Belief Functions: Theory and Applications

Verlag: Springer International Publishing

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Abstract

We show that the weighted sum and softmax operations performed in logistic regression classifiers can be interpreted in terms of evidence aggregation using Dempster’s rule of combination. From that perspective, the output probabilities from such classifiers can be seen as normalized plausibilities, for some mass functions that can be laid bare. This finding suggests that the theory of belief functions is a more general framework for classifier construction than is usually considered.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe




 

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Fußnoten
1
The case of binary classification with \(K=2\) classes requires a separate treatment. Due to space constaints, we focus on the multi-category case in this paper.
 
Literatur
1.
Zurück zum Zitat Bi, Y., Guan, J., Bell, D.: The combination of multiple classifiers using an evidential reasoning approach. Artif. Intell. 172(15), 1731–1751 (2008)CrossRef Bi, Y., Guan, J., Bell, D.: The combination of multiple classifiers using an evidential reasoning approach. Artif. Intell. 172(15), 1731–1751 (2008)CrossRef
2.
Zurück zum Zitat Cobb, B.R., Shenoy, P.P.: On the plausibility transformation method for translating belief function models to probability models. Int. J. Approximate Reasoning 41(3), 314–330 (2006)MathSciNetCrossRef Cobb, B.R., Shenoy, P.P.: On the plausibility transformation method for translating belief function models to probability models. Int. J. Approximate Reasoning 41(3), 314–330 (2006)MathSciNetCrossRef
3.
Zurück zum Zitat Denœux, T.: A \(k\)-nearest neighbor classification rule based on Dempster-Shafer theory. IEEE Trans. Syst. Man Cybern. 25(05), 804–813 (1995)CrossRef Denœux, T.: A \(k\)-nearest neighbor classification rule based on Dempster-Shafer theory. IEEE Trans. Syst. Man Cybern. 25(05), 804–813 (1995)CrossRef
4.
Zurück zum Zitat Denœux, T.: Analysis of evidence-theoretic decision rules for pattern classification. Pattern Recogn. 30(7), 1095–1107 (1997)CrossRef Denœux, T.: Analysis of evidence-theoretic decision rules for pattern classification. Pattern Recogn. 30(7), 1095–1107 (1997)CrossRef
5.
Zurück zum Zitat Denœux, T.: A neural network classifier based on Dempster-Shafer theory. IEEE Trans. Syst. Man Cybern. A 30(2), 131–150 (2000)CrossRef Denœux, T.: A neural network classifier based on Dempster-Shafer theory. IEEE Trans. Syst. Man Cybern. A 30(2), 131–150 (2000)CrossRef
6.
Zurück zum Zitat Denœux, T.: Conjunctive and disjunctive combination of belief functions induced by non distinct bodies of evidence. Artif. Intell. 172, 234–264 (2008)MathSciNetCrossRef Denœux, T.: Conjunctive and disjunctive combination of belief functions induced by non distinct bodies of evidence. Artif. Intell. 172, 234–264 (2008)MathSciNetCrossRef
7.
Zurück zum Zitat Quost, B., Masson, M.-H., Denœux, T.: Classifier fusion in the Dempster-Shafer framework using optimized t-norm based combination rules. Int. J. Approximate Reasoning 52(3), 353–374 (2011)MathSciNetCrossRef Quost, B., Masson, M.-H., Denœux, T.: Classifier fusion in the Dempster-Shafer framework using optimized t-norm based combination rules. Int. J. Approximate Reasoning 52(3), 353–374 (2011)MathSciNetCrossRef
8.
Zurück zum Zitat Rogova, G.: Combining the results of several neural network classifiers. Neural Netw. 7(5), 777–781 (1994)CrossRef Rogova, G.: Combining the results of several neural network classifiers. Neural Netw. 7(5), 777–781 (1994)CrossRef
9.
Zurück zum Zitat Shafer, G.: A Mathematical Theory of Evidence. Princeton University Press, Princeton (1976)MATH Shafer, G.: A Mathematical Theory of Evidence. Princeton University Press, Princeton (1976)MATH
10.
Zurück zum Zitat Smets, P.: The canonical decomposition of a weighted belief. In: International Joint Conference on Artificial Intelligence, pp. 1896–1901. Morgan Kaufman, San Mateo (1995) Smets, P.: The canonical decomposition of a weighted belief. In: International Joint Conference on Artificial Intelligence, pp. 1896–1901. Morgan Kaufman, San Mateo (1995)
11.
Zurück zum Zitat Troffaes, M.C.: Decision making under uncertainty using imprecise probabilities. Int. J. Approximate Reasoning 45(1), 17–29 (2007)MathSciNetCrossRef Troffaes, M.C.: Decision making under uncertainty using imprecise probabilities. Int. J. Approximate Reasoning 45(1), 17–29 (2007)MathSciNetCrossRef
Metadaten
Titel
Logistic Regression Revisited: Belief Function Analysis
verfasst von
Thierry Denoeux
Copyright-Jahr
2018
DOI
https://doi.org/10.1007/978-3-319-99383-6_8

Premium Partner