Skip to main content

2012 | OriginalPaper | Buchkapitel

A Class of Methods Combining L-BFGS and Truncated Newton

verfasst von : Lennart Frimannslund, Trond Steihaug

Erschienen in: Computer and Information Sciences II

Verlag: Springer London

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Abstract

We present a class of hybrid methods for large-scale nonlinear optimization which allows for a smooth transition between the limited memory BFGS and truncated Newton methods. Numerical experiments suggest that the resulting methods in the class are more robust than the parent methods, in the sense that the methods solve more of the problems tested, at a moderate computational cost.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe




 

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Literatur
1.
Zurück zum Zitat Byrd, R.H., Nocedal, J., Schnabel, R.B.: Representations of quasi-Newton matrices and their use in limited memory methods. Math. Program. 63, 129–156 (1994)CrossRefMATHMathSciNet Byrd, R.H., Nocedal, J., Schnabel, R.B.: Representations of quasi-Newton matrices and their use in limited memory methods. Math. Program. 63, 129–156 (1994)CrossRefMATHMathSciNet
2.
Zurück zum Zitat Byrd, R.H., Nocedal, J., Zhu C.: Towards a discrete Newton method with memory for large-scale optimization. In: Pillo, G.D., Giannessi, F. (eds.) Nonlinear Optimization and Applications, pp. 1–12. Plenum Press, New York (1996) Byrd, R.H., Nocedal, J., Zhu C.: Towards a discrete Newton method with memory for large-scale optimization. In: Pillo, G.D., Giannessi, F. (eds.) Nonlinear Optimization and Applications, pp. 1–12. Plenum Press, New York (1996)
4.
Zurück zum Zitat Dembo, R.S., Steihaug, T.: Truncated-Newton algorithms for large-scale unconstrained optimization. Math. Program. 26, 190–212 (1983)CrossRefMATHMathSciNet Dembo, R.S., Steihaug, T.: Truncated-Newton algorithms for large-scale unconstrained optimization. Math. Program. 26, 190–212 (1983)CrossRefMATHMathSciNet
5.
Zurück zum Zitat Gilbert, J.C., Lemaréchal, C.: Some numerical experiments with variable-storage quasi-Newton algorithms. Math. Program. 45, 407–435 (1989)CrossRefMATH Gilbert, J.C., Lemaréchal, C.: Some numerical experiments with variable-storage quasi-Newton algorithms. Math. Program. 45, 407–435 (1989)CrossRefMATH
6.
Zurück zum Zitat Gould, N.I.M., Orban, D., Toint, P.L.: CUTEr and SifDec: A constrained and unconstrained testing environment, revisited. ACM Trans. Math. Softw. 29, 373–394 (2003)CrossRefMATHMathSciNet Gould, N.I.M., Orban, D., Toint, P.L.: CUTEr and SifDec: A constrained and unconstrained testing environment, revisited. ACM Trans. Math. Softw. 29, 373–394 (2003)CrossRefMATHMathSciNet
7.
Zurück zum Zitat Jiang, L., Byrd, R.H., Eskow, E., Schnabel, R.B.: A preconditioned L-BFGS algorithm with application to molecular energy minimization. Technical Report CU-CS-982-04. Department of Computer Science, University of Colorado, Boulder, Colorado 80309 (2004) Jiang, L., Byrd, R.H., Eskow, E., Schnabel, R.B.: A preconditioned L-BFGS algorithm with application to molecular energy minimization. Technical Report CU-CS-982-04. Department of Computer Science, University of Colorado, Boulder, Colorado 80309 (2004)
8.
9.
Zurück zum Zitat Morales, J.L., Nocedal, J.: Enriched methods for large-scale unconstrained optimization. Comput. Optim. Appl. 21, 143–154 (2002)CrossRefMATHMathSciNet Morales, J.L., Nocedal, J.: Enriched methods for large-scale unconstrained optimization. Comput. Optim. Appl. 21, 143–154 (2002)CrossRefMATHMathSciNet
10.
Zurück zum Zitat Moré, J.J., Thuente, D.J.: Line search algorithms with guaranteed sufficient decrease. ACM Trans. Math. Softw. 20(3), 286–307 (1994)CrossRefMATH Moré, J.J., Thuente, D.J.: Line search algorithms with guaranteed sufficient decrease. ACM Trans. Math. Softw. 20(3), 286–307 (1994)CrossRefMATH
11.
Zurück zum Zitat Nash, S., Nocedal, J.: A numerical study of the limited memory BFGS method and the Truncated-Newton method for large scale optimization. SIAM J. Optim. 1(3), 358–372 (1991)CrossRefMATHMathSciNet Nash, S., Nocedal, J.: A numerical study of the limited memory BFGS method and the Truncated-Newton method for large scale optimization. SIAM J. Optim. 1(3), 358–372 (1991)CrossRefMATHMathSciNet
14.
Zurück zum Zitat Nocedal, J., Wright S.J.: Numerical Optimization. Springer, New York (1999). ISBN 0-387-98793-2 Nocedal, J., Wright S.J.: Numerical Optimization. Springer, New York (1999). ISBN 0-387-98793-2
15.
Zurück zum Zitat Schlick, T.: Optimization methods in computational chemistry. Rev. Comput. Chem. 3, 1–71 (1992) Schlick, T.: Optimization methods in computational chemistry. Rev. Comput. Chem. 3, 1–71 (1992)
16.
Zurück zum Zitat Xie, D., Schlick, T.: Efficient implementation of the truncated Newton method for large scale chemistry applications. SIAM J. Optim. 10(1), 132–154 (1999)CrossRefMATHMathSciNet Xie, D., Schlick, T.: Efficient implementation of the truncated Newton method for large scale chemistry applications. SIAM J. Optim. 10(1), 132–154 (1999)CrossRefMATHMathSciNet
Metadaten
Titel
A Class of Methods Combining L-BFGS and Truncated Newton
verfasst von
Lennart Frimannslund
Trond Steihaug
Copyright-Jahr
2012
Verlag
Springer London
DOI
https://doi.org/10.1007/978-1-4471-2155-8_72