Skip to main content

2014 | OriginalPaper | Buchkapitel

5. Akaike’s Information Criterion (AIC) and the Third Variance

verfasst von : Kunio Takezawa

Erschienen in: Learning Regression Analysis by Simulation

Verlag: Springer Japan

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Abstract

One statistic in selecting a multiple regression equation is Mallows’ C p , which is an approximation of the error variance of the estimates given by a multiple regression equation. This error variance multiplied by n is written as
$$\displaystyle\begin{array}{rcl} E{\Bigl [\sum _{i=1}^{n}{(\hat{y}_{ i} - E[y_{i}])}^{2}\Bigr ]}& =& E{\Bigl [{\bigl (\mathbf{H}(\tilde{\mathbf{y}}+\boldsymbol{\epsilon }) -\tilde{{\mathbf{y}}\bigr )}}^{t}{\bigl (\mathbf{H}(\tilde{\mathbf{y}}+\boldsymbol{\epsilon }) -\tilde{\mathbf{y}}\bigr )}\Bigr ]} \\ & =& E{\Bigl [{\bigl ((\mathbf{H} -\mathbf{I})\tilde{\mathbf{y}} +{ \mathbf{H}\boldsymbol{\epsilon }\bigr )}}^{t}{\bigl ((\mathbf{H} -\mathbf{I})\tilde{\mathbf{y}} + \mathbf{H}\boldsymbol{\epsilon }\bigr )}\Bigr ]} \\ & =& \tilde{{\mathbf{y}}}^{t}(\mathbf{I} -\mathbf{H})\tilde{\mathbf{y}} + E{[\boldsymbol{\epsilon }}^{t}\mathbf{H}\boldsymbol{\epsilon }] \\ & =& \tilde{{\mathbf{y}}}^{t}(\mathbf{I} -\mathbf{H})\tilde{\mathbf{y}} + {(q + 1)\sigma }^{2}, {}\end{array}$$
where H is a hat matrix (Eq. (4.​13) (page 164)) and \(\tilde{\mathbf{y}}\) are true values, that is, \(\tilde{y}_{i} = E[y_{i}]\) holds. The relation H 2 = H (Eq. (4.​28) (page 167)) is used here, along with Eq. (4.​34) (page 174). In deriving Eq. (4.​32) (page 174), \(\mathbf{H}\tilde{\mathbf{y}} =\tilde{ \mathbf{y}}\) was assumed. However, this relationship is not assumed here.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe




 

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Literatur
2.
Zurück zum Zitat Burnham KP, Anderson DR (2002) Model selection and multi-model inference: a practical information-theoretic approach, 2nd edn. Springer, Berlin Burnham KP, Anderson DR (2002) Model selection and multi-model inference: a practical information-theoretic approach, 2nd edn. Springer, Berlin
4.
Zurück zum Zitat Konishi S, Kitagawa G (2007) Information criteria and statistical modeling. Springer, New York Konishi S, Kitagawa G (2007) Information criteria and statistical modeling. Springer, New York
5.
Zurück zum Zitat Mallows CL (1973) Some comments on Cp. Technometrics 15(4):661–675MATH Mallows CL (1973) Some comments on Cp. Technometrics 15(4):661–675MATH
6.
Zurück zum Zitat McQuarrie ADR, Tsai C-L (1998) Regression and time series model selection. World Scientific, SingaporeCrossRefMATH McQuarrie ADR, Tsai C-L (1998) Regression and time series model selection. World Scientific, SingaporeCrossRefMATH
7.
Zurück zum Zitat Montgomery DC, Peck EA, Vining GG (2001) Introduction to linear regression analysis, 3rd edn. Wiley, New YorkMATH Montgomery DC, Peck EA, Vining GG (2001) Introduction to linear regression analysis, 3rd edn. Wiley, New YorkMATH
8.
Zurück zum Zitat Myers RH (2000) Classical and modern regression with applications (Duxbury Classic), 2nd edn. Duxbury, North Scituate Myers RH (2000) Classical and modern regression with applications (Duxbury Classic), 2nd edn. Duxbury, North Scituate
9.
Zurück zum Zitat Myers RH, Montgomery DC, Vining GG (2001) Generalized linear models: with applications in engineering and the sciences. Wiley-Interscience, New York Myers RH, Montgomery DC, Vining GG (2001) Generalized linear models: with applications in engineering and the sciences. Wiley-Interscience, New York
10.
Zurück zum Zitat Sugiura N (1978) Further analysts of the data by Akaike’s information criterion and the finite corrections. Comm Stat Theor Meth 7(1):13–26MathSciNetCrossRef Sugiura N (1978) Further analysts of the data by Akaike’s information criterion and the finite corrections. Comm Stat Theor Meth 7(1):13–26MathSciNetCrossRef
11.
Zurück zum Zitat Takezawa K (2006) Introduction to nonparametric regression. Wiley, New YorkMATH Takezawa K (2006) Introduction to nonparametric regression. Wiley, New YorkMATH
Metadaten
Titel
Akaike’s Information Criterion (AIC) and the Third Variance
verfasst von
Kunio Takezawa
Copyright-Jahr
2014
Verlag
Springer Japan
DOI
https://doi.org/10.1007/978-4-431-54321-3_5