Skip to main content
Fachgebiete
Automobil + Motoren Bauwesen + Immobilien Business IT + Informatik Elektrotechnik + Elektronik Energie + Nachhaltigkeit Finance + Banking Management + Führung Marketing + Vertrieb Maschinenbau + Werkstoffe Versicherung + Risiko
DE
EN
Themenseiten
Organisationspsychologie Projektmanagement Marketing Smart Manufacturing
Bücher
Zeitschriften
Weitere Formate
Podcasts Webinare Technik Webinare Wirtschaft Kongresse Veranstaltungskalender Awards
Jetzt Einzelzugang starten
Zugang für Unternehmen
Referenzkunden
ATZ-Fachkongress

Chassis.tech plus 2024


4 Kongresse in einer Veranstaltung

Treffen Sie in München die Fachleute von Chassis, Lenkung, Bremsen sowie Reifen/Räder.
Erweiterte Suche
Anmelden
nach oben
Erschienen in:
Optimization of the Values of the Right-Hand Sides of Boundary Conditions with Point and Integral Terms for the ODE System Kapitel lesen Erstes Kapitel lesen

2020 | OriginalPaper | Buchkapitel

Penalty-Based Method for Decentralized Optimization over Time-Varying Graphs

verfasst von : Alexander Rogozin, Alexander Gasnikov

Erschienen in: Optimization and Applications

Verlag: Springer International Publishing

Einloggen

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Abstract

Decentralized distributed optimization over time-varying graphs (networks) is nowadays a very popular branch of research in optimization theory and consensus theory. Applications of this field include drone or satellite networks, as well as distributed machine learning. However, the first theoretical results in this branch appeared only a few years ago. In this paper, we propose a simple method which alternates making gradient steps and special communication procedures. Our approach is based on reformulation of the distributed optimization problem as a problem with linear constraints and then replacing linear constraints with a penalty term.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe




 

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Jetzt informieren
Vorheriges Kapitel Lurie Systems Stability Approach for Attraction Domain Estimation in the Wheeled Robot Control Problem
Nächstes Kapitel The Adaptation of Interior Point Method for Solving the Quadratic Programming Problems Arising in the Assembly of Deformable Structures
Anhänge
Nur mit Berechtigung zugänglich
Literatur
1.
Arjevani, Y., Shamir, O.: Communication complexity of distributed convex learning and optimization. In: Advances in Neural Information Processing Systems, pp. 1756–1764 (2015)
2.
Bertsekas, D.P., Tsitsiklis, J.N.: Parallel and Distributed Computation: Numerical Methods, vol. 23. Prentice hall, Englewood Cliffs (1989)MATH
3.
Boyd, S., Ghosh, A., Prabhakar, B., Shah, D.: Randomized gossip algorithms. IEEE/ACM Trans. Netw. 14(SI), 2508–2530 (2006)
4.
Bubeck, S.: Convex optimization: algorithms and complexity. Found. Trends Mach. Learn. 8(3–4), 231–357 (2015)CrossRef
5.
Chang, C.C., Lin, C.J.: Libsvm: a library for support vector machines. ACM Trans. Intell. Syst. Technol. (TIST) 2(3), 27 (2011)
6.
Dvinskikh, D., Gasnikov, A.: Decentralized and parallelized primal and dual accelerated methods for stochastic convex programming problems. arXiv preprint arXiv:​1904.​09015 (2019)
7.
8.
Gorbunov, E., Dvinskikh, D., Gasnikov, A.: Optimal decentralized distributed algorithms for stochasticconvex optimization. arXiv preprint arXiv:​1911.​07363 (2019)
9.
Hendrikx, H., Bach, F., Massoulié, L.: Accelerated decentralized optimization with local updates for smooth and strongly convex objectives. arXiv preprint arXiv:​1810.​02660 (2018)
10.
Lan, G., Lee, S., Zhou, Y.: Communication-efficient algorithms for decentralized and stochastic optimization. Mathematical Programming, pp. 1–48 (2018)
11.
Lü, Q., Li, H., Xia, D.: Geometrical convergence rate for distributed optimization with time-varying directed graphs and uncoordinated step-sizes. Inf. Sci. 422, 516–530 (2018)MathSciNetCrossRef
12.
Maros, M., Jaldén, J.: Panda: a dual linearly converging method for distributed optimization over time-varying undirected graphs. 2018 IEEE Conference on Decision and Control (CDC), pp. 6520–6525 (2018)
13.
Nedić, A., Olshevsky, A., Shi, W.: Achieving geometric convergence for distributed optimization over time-varying graphs. SIAM J. Optimization 27(4), 2597–2633 (2017)MathSciNetCrossRef
14.
Nedić, A., Olshevsky, A.: Distributed optimization over time-varying directed graphs. IEEE Trans. Automatic Control 60(3), 601–615 (2014)MathSciNetCrossRef
15.
Nedić, A., Olshevsky, A., Shi, W., Uribe, C.A.: Geometrically convergent distributed optimization with uncoordinated step-sizes. In: 2017 American Control Conference (ACC), pp. 3950–3955. IEEE (2017)
16.
Nemirovskii, A.: Yudin: Problem Complexity and Method Efficiency in Optimization. Wiley (1983)
17.
18.
Nikaido, H.: Convex Structures and Economic Theory. Academic Press (1968)
19.
Olshevsky, A.: Linear time average consensus and distributed optimization on fixed graphs. SIAM J. Control Optimization 55(6), 3990–4014 (2017)MathSciNetCrossRef
20.
Rogozin, A., Uribe, C., Gasnikov, A., Malkovskii, N., Nedich, A.: Optimal distributed convex optimization on slowly time-varying graphs. In: IEEE Transactions on Control of Network Systems (2019)
21.
Scaman, K., Bach, F., Bubeck, S., Lee, Y.T., Massoulié, L.: Optimal algorithms for smooth and strongly convex distributed optimization in networks. In: Precup, D., Teh, Y.W. (eds.) Proceedings of the 34th International Conference on Machine Learning. Proceedings of Machine Learning Research, vol. 70, pp. 3027–3036. PMLR (2017)
22.
Metadaten
Titel
Penalty-Based Method for Decentralized Optimization over Time-Varying Graphs
verfasst von
Alexander Rogozin
Alexander Gasnikov
Copyright-Jahr
2020
Buch
Optimization and Applications

Print ISBN: 978-3-030-62866-6

Electronic ISBN: 978-3-030-62867-3

Copyright-Jahr: 2020

DOI
https://doi.org/10.1007/978-3-030-62867-3_18

Premium Partner

    Bildnachweise