Computació de reservori

La computació de reservori és un marc de càlcul derivat de la teoria de xarxes neuronals recurrents que mapeja els senyals d'entrada a espais computacionals de dimensions superiors mitjançant la dinàmica d'un sistema fix i no lineal anomenat dipòsit.[1] Després d'introduir el senyal d'entrada al dipòsit, que es tracta com una "caixa negra", s'entrena un mecanisme de lectura senzill per llegir l'estat del dipòsit i assignar-lo a la sortida desitjada.[1] El primer avantatge clau d'aquest marc és que l'entrenament es realitza només en l'etapa de lectura, ja que la dinàmica del dipòsit és fixa.[1] La segona és que la potència computacional dels sistemes disponibles de manera natural, tant la mecànica clàssica com la mecànica quàntica, es pot utilitzar per reduir el cost computacional efectiu.[2]

Història

El concepte de computació de reservori prové de l'ús de connexions recursives dins de xarxes neuronals per crear un sistema dinàmic complex.[3] És una generalització d'arquitectures de xarxes neuronals anteriors, com ara xarxes neuronals recurrents, màquines d'estat líquid i xarxes d'estat d'eco. La computació de jaciments també s'estén als sistemes físics que no són xarxes en el sentit clàssic, sinó sistemes continus en l'espai i/o el temps: per exemple, un "cub d'aigua" literal pot servir com un dipòsit que realitza càlculs sobre les entrades donades com a pertorbacions de la superfície.[4] Es va trobar que la complexitat resultant d'aquestes xarxes neuronals recurrents era útil per resoldre una varietat de problemes, com ara el processament del llenguatge i el modelatge de sistemes dinàmics. Tanmateix, l'entrenament de xarxes neuronals recurrents és un repte i costos computacionalment. La informàtica del dipòsit redueix aquests reptes relacionats amb l'entrenament fixant la dinàmica del dipòsit i només entrenant la capa de sortida lineal.

Una gran varietat de sistemes dinàmics no lineals poden servir com a dipòsit que realitza càlculs. En els últims anys, els làsers semiconductors han atret un interès considerable, ja que la computació pot ser ràpida i eficient energèticament en comparació amb els components elèctrics.

Els avenços recents tant en IA com en teoria de la informació quàntica han donat lloc al concepte de xarxes neuronals quàntiques.[5] Aquests són prometedors en el processament d'informació quàntica, que és un repte per a les xarxes clàssiques, però també poden trobar aplicació per resoldre problemes clàssics.[5] El 2018, es va demostrar una realització física d'una arquitectura de computació de dipòsit quàntic en forma d'espins nuclears dins d'un sòlid molecular. No obstant això, els experiments d'espin nuclear a [6] no van demostrar la computació quàntica de dipòsits per se, ja que no implicaven el processament de dades seqüencials. Més aviat, les dades eren entrades vectorials, la qual cosa fa que això sigui més precisament una demostració de la implementació quàntica d'un algorisme aleatori de la pica de cuina [7] (també s'anomena màquines d'aprenentatge extrem en algunes comunitats). El 2019, es va proposar una altra possible implementació de processadors de dipòsits quàntics en forma de gelosies fermiòniques bidimensionals.[6] El 2020, es va proposar i demostrar la realització de la computació de reservori en ordinadors quàntics basats en portes en ordinadors quàntics superconductors d'IBM basats en núvols a curt termini.[8]

Els ordinadors de dipòsits s'han utilitzat per a l'anàlisi de sèries temporals. En particular, alguns dels seus usos impliquen predicció caòtica de sèries temporals,[9][10] separació de senyals caòtics,[11] i inferència d'enllaços de xarxes a partir de la seva dinàmica.

Informàtica quàntica de dipòsits

La computació de dipòsits quàntics pot utilitzar la naturalesa no lineal de les interaccions o processos mecànics quàntics per formar els dipòsits no lineals característics [12][13][14] però també es pot fer amb dipòsits lineals quan la injecció de l'entrada al dipòsit crea la no linealitat.[15] El matrimoni de l'aprenentatge automàtic i els dispositius quàntics està donant lloc a l'aparició de la informàtica neuromòrfica quàntica com a nova àrea de recerca.[16]

Referències

  1. 1,0 1,1 1,2 Tanaka, Gouhei; Yamane, Toshiyuki; Héroux, Jean Benoit; Nakane, Ryosho; Kanazawa, Naoki Neural Networks, 115, 2019, pàg. 100–123. DOI: 10.1016/j.neunet.2019.03.005. ISSN: 0893-6080. PMID: 30981085 [Consulta: lliure].
  2. Röhm, André; Lüdge, Kathy Journal of Physics Communications, 2, 8, 03-08-2018, pàg. 085007. Bibcode: 2018JPhCo...2h5007R. DOI: 10.1088/2399-6528/aad56d. ISSN: 2399-6528 [Consulta: free].
  3. Schrauwen, Benjamin, David Verstraeten, and Jan Van Campenhout. "An overview of reservoir computing: theory, applications, and implementations." Proceedings of the European Symposium on Artificial Neural Networks ESANN 2007, pp. 471–482.
  4. Fernando, C. «Pattern Recognition in a Bucket». A: Advances in Artificial Life (en anglès). 2801, 2003, p. 588–597 (Lecture Notes in Computer Science). DOI 10.1007/978-3-540-39432-7_63. ISBN 978-3-540-20057-4. 
  5. 5,0 5,1 Ghosh, Sanjib; Opala, Andrzej; Matuszewski, Michał; Paterek, Tomasz; Liew, Timothy C. H. npj Quantum Information, 5, 1, desembre 2019, pàg. 35. arXiv: 1811.10335. Bibcode: 2019npjQI...5...35G. DOI: 10.1038/s41534-019-0149-8. ISSN: 2056-6387.
  6. 6,0 6,1 Machine learning with controllable quantum dynamics of a nuclear spin ensemble in a solid. 
  7. Rahimi, Ali; Recht, Benjamin NIPS'08: Proceedings of the 21st International Conference on Neural Information Processing Systems, desembre 2008, pàg. 1313–1320.
  8. Chen, Jiayin; Nurdin, Hendra; Yamamoto, Naoki Physical Review Applied, 14, 2, 24-08-2020, pàg. 024065. arXiv: 2001.09498. Bibcode: 2020PhRvP..14b4065C. DOI: 10.1103/PhysRevApplied.14.024065.
  9. Pathak, Jaideep; Hunt, Brian; Girvan, Michelle; Lu, Zhixin; Ott, Edward Physical Review Letters, 120, 2, 12-01-2018, pàg. 024102. Bibcode: 2018PhRvL.120b4102P. DOI: 10.1103/PhysRevLett.120.024102. PMID: 29376715 [Consulta: free].
  10. Vlachas, P.R.; Pathak, J.; Hunt, B.R.; Sapsis, T.P.; Girvan, M. Neural Networks, 126, 21-03-2020, pàg. 191–217. arXiv: 1910.05266. DOI: 10.1016/j.neunet.2020.02.016. ISSN: 0893-6080. PMID: 32248008.
  11. Krishnagopal, Sanjukta; Girvan, Michelle; Ott, Edward; Hunt, Brian R. Chaos: An Interdisciplinary Journal of Nonlinear Science, 30, 2, 01-02-2020, pàg. 023123. arXiv: 1910.10080. Bibcode: 2020Chaos..30b3123K. DOI: 10.1063/1.5132766. ISSN: 1054-1500. PMID: 32113243.
  12. Ghosh, Sanjib; Opala, Andrzej; Matuszewski, Michał; Paterek, Tomasz; Liew, Timothy C. H. npj Quantum Information, 5, 1, desembre 2019, pàg. 35. arXiv: 1811.10335. Bibcode: 2019npjQI...5...35G. DOI: 10.1038/s41534-019-0149-8. ISSN: 2056-6387.
  13. Chen, Jiayin; Nurdin, Hendra Quantum Information Processing, 18, 7, 15-05-2019, pàg. 198. arXiv: 1901.01653. Bibcode: 2019QuIP...18..198C. DOI: 10.1007/s11128-019-2311-9.
  14. Chen, Jiayin; Nurdin, Hendra; Yamamoto, Naoki Physical Review Applied, 14, 2, 24-08-2020, pàg. 024065. arXiv: 2001.09498. Bibcode: 2020PhRvP..14b4065C. DOI: 10.1103/PhysRevApplied.14.024065.
  15. Nokkala, Johannes; Martínez-Peña, Rodrigo; Giorgi, Gian Luca; Parigi, Valentina; Soriano, Miguel C. Communications Physics, 4, 1, 2021, pàg. 53. arXiv: 2006.04821. Bibcode: 2021CmPhy...4...53N. DOI: 10.1038/s42005-021-00556-w.
  16. Marković, Danijela; Grollier, Julie Applied Physics Letters, 117, 15, 13-10-2020, pàg. 150501. arXiv: 2006.15111. Bibcode: 2020ApPhL.117o0501M. DOI: 10.1063/5.0020014.