Skip to main content
Erschienen in: Journal of Applied Mathematics and Computing 1-2/2013

01.07.2013 | Computational mathematics

An ODE-based nonmonotone method for unconstrained optimization problems

verfasst von: Yigui Ou, Yuanyuan Liu

Erschienen in: Journal of Applied Mathematics and Computing | Ausgabe 1-2/2013

Einloggen

Aktivieren Sie unsere intelligente Suche um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Abstract

This paper proposes an ODE-based nonmonotone method for unconstrained optimization problems, which combines the idea of IMPBOT with the nonmonotone technique. The main characteristic of this method is that at each iteration, a system of linear equations is solved only once to obtain a trial step, via a modified L-BFGS two loop recursion that requires only vector inner products, thus reducing the matrix computation and storage. Then a modified nonmonotone line search is performed to generate next iterative point instead of resolving the linear system. Under some reasonable assumptions, the method is proven to be globally and superlinearly convergent. Numerical results show the efficiency of this proposed method in practical computation.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe




 

Jetzt Wissensvorsprung sichern!

Literatur
1.
Zurück zum Zitat Sun, W.Y., Yuan, Y.X.: Optimization Theory and Methods: Nonlinear Programming. Springer Optimization and its Applications, vol. 1. Springer, New York (2006) Sun, W.Y., Yuan, Y.X.: Optimization Theory and Methods: Nonlinear Programming. Springer Optimization and its Applications, vol. 1. Springer, New York (2006)
2.
3.
Zurück zum Zitat Brown, A.A., Biggs, M.C.: Some effective methods for unconstrained optimization based on the solution of system of ordinary differentiable equations. J. Optim. Theory Appl. 62, 211–224 (1989) MathSciNetMATHCrossRef Brown, A.A., Biggs, M.C.: Some effective methods for unconstrained optimization based on the solution of system of ordinary differentiable equations. J. Optim. Theory Appl. 62, 211–224 (1989) MathSciNetMATHCrossRef
4.
Zurück zum Zitat Han, L.X.: On the convergence properties of an ODE algorithm for unconstrained optimization. Math. Numer. Sin. 15, 449–455 (1993) MATH Han, L.X.: On the convergence properties of an ODE algorithm for unconstrained optimization. Math. Numer. Sin. 15, 449–455 (1993) MATH
7.
Zurück zum Zitat Luo, X.L., Kelley, C.T., Liao, L.Z., Tam, H.W.: Combining trust-region techniques and Rosenbrock methods to compute stationary points. J. Optim. Theory Appl. 140, 265–286 (2009) MathSciNetMATHCrossRef Luo, X.L., Kelley, C.T., Liao, L.Z., Tam, H.W.: Combining trust-region techniques and Rosenbrock methods to compute stationary points. J. Optim. Theory Appl. 140, 265–286 (2009) MathSciNetMATHCrossRef
8.
Zurück zum Zitat Ou, Y.G.: An ODE-based trust region filter algorithm for unconstrained optimization. Numer. Funct. Anal. Optim. 32, 524–540 (2011) MathSciNetMATHCrossRef Ou, Y.G.: An ODE-based trust region filter algorithm for unconstrained optimization. Numer. Funct. Anal. Optim. 32, 524–540 (2011) MathSciNetMATHCrossRef
9.
Zurück zum Zitat Nocedal, J., Yuan, Y.X.: Combining trust region and line search techniques. In: Yuan, Y.X. (ed.) Advances in Nonlinear Programming, pp. 153–175. Kluwer Academic, Dordrecht (1998) CrossRef Nocedal, J., Yuan, Y.X.: Combining trust region and line search techniques. In: Yuan, Y.X. (ed.) Advances in Nonlinear Programming, pp. 153–175. Kluwer Academic, Dordrecht (1998) CrossRef
10.
Zurück zum Zitat Gertz, E.M.: A quasi-Newton trust region method. Math. Program., Ser. A 100, 447–470 (2004) MathSciNetMATH Gertz, E.M.: A quasi-Newton trust region method. Math. Program., Ser. A 100, 447–470 (2004) MathSciNetMATH
11.
Zurück zum Zitat Wang, F.S., Zhang, K.C., Wang, C.L., Wang, L.: A variant of trust region methods for unconstrained optimization. Appl. Math. Comput. 203, 297–307 (2008) MathSciNetMATHCrossRef Wang, F.S., Zhang, K.C., Wang, C.L., Wang, L.: A variant of trust region methods for unconstrained optimization. Appl. Math. Comput. 203, 297–307 (2008) MathSciNetMATHCrossRef
12.
13.
14.
15.
Zurück zum Zitat Grippo, L., Lampariello, F., Lucidi, S.: A nonmonotone line search technique for Newton’s method. SIAM J. Numer. Anal. 23, 707–716 (1986) MathSciNetMATHCrossRef Grippo, L., Lampariello, F., Lucidi, S.: A nonmonotone line search technique for Newton’s method. SIAM J. Numer. Anal. 23, 707–716 (1986) MathSciNetMATHCrossRef
17.
Zurück zum Zitat Toint, Ph.L.: An assessment of nonmonotone line search techniques for unconstrained optimization. SIAM 17, 725–739 (1996) MathSciNetMATH Toint, Ph.L.: An assessment of nonmonotone line search techniques for unconstrained optimization. SIAM 17, 725–739 (1996) MathSciNetMATH
18.
Zurück zum Zitat Zhang, H.C., Hager, W.W.: A nonmonotone line search technique and its application to unconstrained optimization. SIAM J. Optim. 14, 1043–1056 (2004) MathSciNetMATHCrossRef Zhang, H.C., Hager, W.W.: A nonmonotone line search technique and its application to unconstrained optimization. SIAM J. Optim. 14, 1043–1056 (2004) MathSciNetMATHCrossRef
20.
Zurück zum Zitat Gu, N.Z., Mo, J.T.: Incorporating nonmonotone strategies into the trust region method for unconstrained optimization. Comput. Math. Appl. 55, 2158–2172 (2008) MathSciNetMATHCrossRef Gu, N.Z., Mo, J.T.: Incorporating nonmonotone strategies into the trust region method for unconstrained optimization. Comput. Math. Appl. 55, 2158–2172 (2008) MathSciNetMATHCrossRef
21.
Zurück zum Zitat Sun, W.Y., Zhou, Q.Y.: An unconstrained optimization method using nonmonotone second order Goldstein’s line search. Sci. China Ser. A 50, 1389–1400 (2007) MathSciNetMATHCrossRef Sun, W.Y., Zhou, Q.Y.: An unconstrained optimization method using nonmonotone second order Goldstein’s line search. Sci. China Ser. A 50, 1389–1400 (2007) MathSciNetMATHCrossRef
22.
23.
24.
25.
Zurück zum Zitat Dolan, E.D., More, J.J.: Benchmarking optimization software with performance profiles. Math. Program., Ser. A 91, 201–213 (2002) MathSciNetMATHCrossRef Dolan, E.D., More, J.J.: Benchmarking optimization software with performance profiles. Math. Program., Ser. A 91, 201–213 (2002) MathSciNetMATHCrossRef
Metadaten
Titel
An ODE-based nonmonotone method for unconstrained optimization problems
verfasst von
Yigui Ou
Yuanyuan Liu
Publikationsdatum
01.07.2013
Verlag
Springer-Verlag
Erschienen in
Journal of Applied Mathematics and Computing / Ausgabe 1-2/2013
Print ISSN: 1598-5865
Elektronische ISSN: 1865-2085
DOI
https://doi.org/10.1007/s12190-012-0635-z

Weitere Artikel der Ausgabe 1-2/2013

Journal of Applied Mathematics and Computing 1-2/2013 Zur Ausgabe