Skip to main content
Erschienen in: Cognitive Computation 3/2017

11.03.2017

Online Training for High-Performance Analogue Readout Layers in Photonic Reservoir Computers

verfasst von: Piotr Antonik, Marc Haelterman, Serge Massar

Erschienen in: Cognitive Computation | Ausgabe 3/2017

Einloggen

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Abstract

Reservoir computing is a bio-inspired computing paradigm for processing time-dependent signals. The performance of its hardware implementation is comparable to state-of-the-art digital algorithms on a series of benchmark tasks. The major bottleneck of its implementations is the readout layer, based on slow offline post-processing. Few analogue solutions have been proposed, but all suffered from noticeable decrease in performance due to added complexity of the setup. Here, we propose the use of online training to solve these issues. We study the applicability of this method using numerical simulations of an experimentally feasible reservoir computer with an analogue readout layer. We also consider a nonlinear output layer, which would be very difficult to train with traditional methods. We show numerically that online learning allows to circumvent the added complexity of the analogue layer and obtain the same level of performance as with a digital layer. This work paves the way to high-performance fully analogue reservoir computers through the use of online training of the output layers.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe




 

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Literatur
4.
Zurück zum Zitat Triefenbach F., Jalalvand A., Schrauwen B., Martens J. P. Adv Neural Inf Process Syst 2010;23: 2307. Triefenbach F., Jalalvand A., Schrauwen B., Martens J. P. Adv Neural Inf Process Syst 2010;23: 2307.
5.
7.
Zurück zum Zitat Scardapane S., Uncini A. Cogn Comput 2016:1–11. Scardapane S., Uncini A. Cogn Comput 2016:1–11.
9.
Zurück zum Zitat Arsenault H. Optical processing and computing: Elsevier; 2012. Arsenault H. Optical processing and computing: Elsevier; 2012.
10.
Zurück zum Zitat Appeltant L., Soriano M. C., Van der Sande G., Danckaert J., Massar S., Dambre J., Schrauwen B., Mirasso C. R., Fischer I. Nat Commun 2011;2:468. Appeltant L., Soriano M. C., Van der Sande G., Danckaert J., Massar S., Dambre J., Schrauwen B., Mirasso C. R., Fischer I. Nat Commun 2011;2:468.
12.
Zurück zum Zitat Larger L., Soriano M., Brunner D., Appeltant L., Gutiérrez J. M., Pesquera L., Mirasso C. R., Fischer I. Opt Express 2012;20:3241.CrossRefPubMed Larger L., Soriano M., Brunner D., Appeltant L., Gutiérrez J. M., Pesquera L., Mirasso C. R., Fischer I. Opt Express 2012;20:3241.CrossRefPubMed
13.
Zurück zum Zitat Martinenghi R., Rybalko S., Jacquot M., Chembo Y. K., Larger L. Phys Rev Let 2012;108: 244101.CrossRef Martinenghi R., Rybalko S., Jacquot M., Chembo Y. K., Larger L. Phys Rev Let 2012;108: 244101.CrossRef
14.
15.
Zurück zum Zitat Brunner D., Soriano M. C., Mirasso C. R., Fischer I. Nat Commun 2012;4:1364.CrossRef Brunner D., Soriano M. C., Mirasso C. R., Fischer I. Nat Commun 2012;4:1364.CrossRef
16.
Zurück zum Zitat Vinckier Q., Duport F., Smerieri A., Vandoorne K., Bienstman P., Haelterman M., Massar S. Optica 2015;2(5):438.CrossRef Vinckier Q., Duport F., Smerieri A., Vandoorne K., Bienstman P., Haelterman M., Massar S. Optica 2015;2(5):438.CrossRef
17.
Zurück zum Zitat Vandoorne K., Mechet P., Van Vaerenbergh T., Fiers M., Morthier G., Verstraeten D., Schrauwen B., Dambre J., Bienstman P. Nat Commun 2014;5:3541. Vandoorne K., Mechet P., Van Vaerenbergh T., Fiers M., Morthier G., Verstraeten D., Schrauwen B., Dambre J., Bienstman P. Nat Commun 2014;5:3541.
19.
Zurück zum Zitat Smerieri A., Duport F., Paquot Y., Schrauwen B., Haelterman M., Massar S. 2012:944–952. Smerieri A., Duport F., Paquot Y., Schrauwen B., Haelterman M., Massar S. 2012:944–952.
21.
Zurück zum Zitat Vinckier Q., Bouwens A., Haelterman M., Massar S. Opt Soc Amer 2016:SF1F.1. Vinckier Q., Bouwens A., Haelterman M., Massar S. Opt Soc Amer 2016:SF1F.1.
24.
Zurück zum Zitat Antonik P., Duport F., Hermans M., Smerieri A., Haelterman M., Massar S. IEEE Trans Neural Netw Learn Syst 2016;PP(99):1.CrossRef Antonik P., Duport F., Hermans M., Smerieri A., Haelterman M., Massar S. IEEE Trans Neural Netw Learn Syst 2016;PP(99):1.CrossRef
26.
Zurück zum Zitat Arfken G. B. Mathematical methods for physicists. Orlando, FL: Academic Press; 1985. Arfken G. B. Mathematical methods for physicists. Orlando, FL: Academic Press; 1985.
27.
Zurück zum Zitat Bishop CM. Pattern recognition and machine learning: Springer; 2006. Bishop CM. Pattern recognition and machine learning: Springer; 2006.
28.
Zurück zum Zitat Press W. H., Flannery B. P., Teukolsky S. A., Vetterling W.T. 1986. Numerical recipes: the art of scientific computing. Press W. H., Flannery B. P., Teukolsky S. A., Vetterling W.T. 1986. Numerical recipes: the art of scientific computing.
29.
Zurück zum Zitat Bottou L. In: Advanced lectures on machine learning: Springer Verlag; 2004, pp. 146–168. Bottou L. In: Advanced lectures on machine learning: Springer Verlag; 2004, pp. 146–168.
30.
Zurück zum Zitat Mathews V. J., Lee J. In: SPIE’s 1994 International Symposium on Optics, Imaging, and Instrumentation: International Society for Optics and Photonics; 1994, pp. 317–327. Mathews V. J., Lee J. In: SPIE’s 1994 International Symposium on Optics, Imaging, and Instrumentation: International Society for Optics and Photonics; 1994, pp. 317–327.
31.
Zurück zum Zitat Horowitz P., Hill W. The art of electronics: Cambridge University Press; 1980. Horowitz P., Hill W. The art of electronics: Cambridge University Press; 1980.
32.
Zurück zum Zitat Tikhonov A. N., Goncharsky A., Stepanov V., Yagola A. G., Vol. 328. Numerical methods for the solution of ill-posed problems. Netherlands: Springer; 1995. Tikhonov A. N., Goncharsky A., Stepanov V., Yagola A. G., Vol. 328. Numerical methods for the solution of ill-posed problems. Netherlands: Springer; 1995.
33.
Zurück zum Zitat Soriano M. C., Ortín S., Brunner D., Larger L., Mirasso C. R., Fischer I., Pesquera L. Opt Express 2013;21(1):12.CrossRefPubMed Soriano M. C., Ortín S., Brunner D., Larger L., Mirasso C. R., Fischer I., Pesquera L. Opt Express 2013;21(1):12.CrossRefPubMed
34.
Zurück zum Zitat Soriano M. C., Ortín S., Keuninckx L., Appeltant L., Danckaert J., Pesquera L., Van der Sande G. IEEE Trans Neural Netw Learn Syst 2015;26(2):388. Soriano M. C., Ortín S., Keuninckx L., Appeltant L., Danckaert J., Pesquera L., Van der Sande G. IEEE Trans Neural Netw Learn Syst 2015;26(2):388.
35.
Zurück zum Zitat Antonik P., Hermans M., Duport F., Haelterman M., Massar S. In: SPIE’s 2016 Laser Technology and Industrial Laser Conference 2016;9732:97320B. Antonik P., Hermans M., Duport F., Haelterman M., Massar S. In: SPIE’s 2016 Laser Technology and Industrial Laser Conference 2016;9732:97320B.
36.
Zurück zum Zitat Bauduin M., Vinckier Q., Massar S., Horlin F. In: 2016 IEEE 17th International Workshop on Signal Processing Advances in Wireless Communications (SPAWC): IEEE; 2016, pp. 1–5. Bauduin M., Vinckier Q., Massar S., Horlin F. In: 2016 IEEE 17th International Workshop on Signal Processing Advances in Wireless Communications (SPAWC): IEEE; 2016, pp. 1–5.
37.
Zurück zum Zitat Antonik P., Hermans M., Haelterman M., Massar S., Vol. 9948. APNNS’s 23th International Conference on Neural Information Processing: LNCS; 2016, pp. 318–325. Antonik P., Hermans M., Haelterman M., Massar S., Vol. 9948. APNNS’s 23th International Conference on Neural Information Processing: LNCS; 2016, pp. 318–325.
Metadaten
Titel
Online Training for High-Performance Analogue Readout Layers in Photonic Reservoir Computers
verfasst von
Piotr Antonik
Marc Haelterman
Serge Massar
Publikationsdatum
11.03.2017
Verlag
Springer US
Erschienen in
Cognitive Computation / Ausgabe 3/2017
Print ISSN: 1866-9956
Elektronische ISSN: 1866-9964
DOI
https://doi.org/10.1007/s12559-017-9459-3

Weitere Artikel der Ausgabe 3/2017

Cognitive Computation 3/2017 Zur Ausgabe

Premium Partner