Xanadu, 777 Bay Street, Toronto, Ontario, Canada.
Vind je dit artikel interessant of wil je het bespreken? Scite of laat een reactie achter op SciRate.
Abstract
We breiden het concept van transfer learning, op grote schaal toegepast in moderne algoritmen voor machine learning, uit naar de opkomende context van hybride neurale netwerken die zijn samengesteld uit klassieke en kwantumelementen. We stellen verschillende implementaties van hybride transfer learning voor, maar we richten ons voornamelijk op het paradigma waarin een voorgetraind klassiek netwerk wordt gewijzigd en aangevuld met een laatste variatiekwantumcircuit. Deze benadering is bijzonder aantrekkelijk in het huidige tijdperk van kwantumtechnologie op middelgrote schaal, omdat het het mogelijk maakt om hoogdimensionale gegevens (bijv. Afbeeldingen) optimaal voor te bewerken met elk modern klassiek netwerk en om een selecte set informatieve functies in een kwantumprocessor. We presenteren verschillende proof-of-concept voorbeelden van de gemakkelijke toepassing van quantum transfer learning voor beeldherkenning en kwantumtoestandclassificatie. We gebruiken de platformonafhankelijke softwarebibliotheek PennyLane om experimenteel een beeldclassificator met hoge resolutie te testen met twee verschillende kwantumcomputers, respectievelijk geleverd door IBM en Rigetti.
Populaire samenvatting
► BibTeX-gegevens
► Referenties
[1] Sasank Chilamkurthy, PyTorch tutorial leren overbrengen. https: / / pytorch.org/ tutorials / beginner / transfer_learning_tutorial.html. Betreden: 2019-08-08.
https: / / pytorch.org/ tutorials / beginner / transfer_learning_tutorial.html
[2] https: / / github.com/ XanaduAI / quantum-transfer-learning. Betreden: 2020-29-06.
https: / / github.com/ XanaduAI / quantum-transfer-learning
[3] Tetris, Wikipedia, 2019. https: / / en.wikipedia.org/ wiki / Tetris. Betreden: 2019-08-08.
https: / / en.wikipedia.org/ wiki / Tetris
[4] Martín Abadi, Ashish Agarwal, Paul Barham, Eugene Brevdo, Zhifeng Chen, Craig Citro, Greg S Corrado, Andy Davis, Jeffrey Dean, Matthieu Devin, et al. TensorFlow: grootschalige machine learning op heterogene gedistribueerde systemen. arXiv-voordruk arXiv: 1603.04467, 2016.
arXiv: 1603.04467
[5] Soumik Adhikary, Siddharth Dangwal en Debanjan Bhowmik. Begeleid leren met een kwantumclassificator met behulp van systemen met meerdere niveaus. Quantum Information Processing, 19 (3): 89, 2020 / s10.1007-11128-020-2587.
https://doi.org/10.1007/s11128-020-2587-9
[6] Frank Arute et al. Quantum supremacy met behulp van een programmeerbare supergeleidende processor. Nature, 574 (7779): 505-510, 2019. 10.1038 / s41586-019-1666-5.
https://doi.org/10.1038/s41586-019-1666-5
[7] Marcello Benedetti, John Realpe-Gómez en Alejandro Perdomo-Ortiz. Quantum-ondersteunde Helmholtz-machines: een kwantum-klassiek diepgaand leerraamwerk voor industriële datasets in apparaten voor de korte termijn. Quantum Science and Technology, 3 (3): 034007, 2018 / 10.1088-2058 / aabd9565.
https: / / doi.org/ 10.1088 / 2058-9565 / aabd98
[8] Yoshua Bengio, Aaron Courville en Pascal Vincent. Vertegenwoordigingsleren: een overzicht en nieuwe perspectieven. IEEE Transactions on Pattern Analysis and Machine Intelligence, 35 (8): 1798-1828, 2013. 10.1109 / tpami.2013.50.
https: / / doi.org/ 10.1109 / tpami.2013.50
[9] Ville Bergholm, Josh Izaac, Maria Schuld, Christian Gogolin en Nathan Killoran. PennyLane: automatische differentiatie van hybride kwantum-klassieke berekeningen. arXiv-voordruk arXiv: 1811.04968, 2018.
arXiv: 1811.04968
[10] Jacob Biamonte, Peter Wittek, Nicola Pancotti, Patrick Rebentrost, Nathan Wiebe en Seth Lloyd. Quantum machine learning. Nature, 549 (7671): 195, 2017. 10.1038 / nature23474.
https: / / doi.org/ 10.1038 / nature23474
[11] Alfredo Canziani, Adam Paszke en Eugenio Culurciello. Een analyse van diepe neurale netwerkmodellen voor praktische toepassingen. arXiv-voordruk arXiv: 1605.07678, 2016.
arXiv: 1605.07678
[12] Kelvin Ch'Ng, Juan Carrasquilla, Roger G Melko en Ehsan Khatami. Machine learning-fasen van sterk gecorreleerde fermionen. Physical Review X, 7 (3): 031038, 2017. 10.1103 / physrevx.7.031038.
https: / / doi.org/ 10.1103 / physrevx.7.031038
[13] Jia Deng, Wei Dong, Richard Socher, Li-Jia Li, Kai Li en Li Fei-Fei. ImageNet: een grootschalige hiërarchische beelddatabase. In 2009 IEEE-conferentie over computervisie en patroonherkenning, pagina's 248-255. IEEE, 2009. 10.1109 / CVPR.2009.5206848.
https: / / doi.org/ 10.1109 / CVPR.2009.5206848
[14] Jacob Devlin, Ming-Wei Chang, Kenton Lee en Kristina Toutanova. Bert: Pre-training van diepe bidirectionele transformatoren voor taalbegrip. 2019 / v10.18653 / n1-19.
https: / / doi.org/ 10.18653 / v1 / n19-1423
[15] Vedran Dunjko, Jacob M. Taylor en Hans J. Briegel. Quantum-verbeterd machine learning. Physical Review Letters, 117 (13): 130501, 2016. 10.1103 / physrevlett.117.130501.
https: / / doi.org/ 10.1103 / physrevlett.117.130501
[16] Héctor Abraham et al. . Qiskit: An open-source framework for quantum computing., 2019. 10.5281 / zenodo.2562110.
https: / / doi.org/ 10.5281 / zenodo.2562110
[17] Edward Farhi en Hartmut Neven. Classificatie met quantum neurale netwerken op korte termijn processors. arXiv-voordruk arXiv: 1802.06002, 2018.
arXiv: 1802.06002
[18] Ian Goodfellow, Yoshua Bengio en Aaron Courville. Diep leren. MIT-pers, 2016.
[19] Aram W Harrow en Ashley Montanaro. Quantum computationele suprematie. Nature, 549 (7671): 203, 2017. 10.1038 / nature23458.
https: / / doi.org/ 10.1038 / nature23458
[20] Kaiming He, Xiangyu Zhang, Shaoqing Ren en Jian Sun. Diep resterend leren voor beeldherkenning. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, pagina's 770-778, 2016. 10.1109 / cvpr.2016.90.
https: / / doi.org/ 10.1109 / cvpr.2016.90
[21] Maxwell Henderson, Samriddhi Shakya, Shashindra Pradhan en Tristan Cook. Quanvolutionele neurale netwerken: beeldherkenning mogelijk maken met kwantumcircuits. Quantum Machine Intelligence, 2 (1), februari 2020. 10.1007 / s42484-020-00012-y.
https: / / doi.org/ 10.1007 / s42484-020-00012-y
[22] Jeremy Howard en Sebastian Ruder. Fijnafstemming van universele taalmodellen voor tekstclassificatie. 2018 / v10.18653 / p1-18.
https: / / doi.org/ 10.18653 / v1 / p18-1031
[23] Patrick Huembeli, Alexandre Dauphin en Peter Wittek. Identificatie van kwantumfase-overgangen met vijandige neurale netwerken. Physical Review B, 97 (13): 134109, 2018. 10.1103 / physrevb.97.134109.
https: / / doi.org/ 10.1103 / physrevb.97.134109
[24] Nathan Killoran, Thomas R. Bromley, Juan Miguel Arrazola, Maria Schuld, Nicolás Quesada en Seth Lloyd. Continu variabele kwantumneurale netwerken. Physical Review Research, 1 (3), okt 2019a. 10.1103 / physrevresearch.1.033063.
https: / / doi.org/ 10.1103 / physrevresearch.1.033063
[25] Nathan Killoran, Josh Izaac, Nicolás Quesada, Ville Bergholm, Matthew Amy en Christian Weedbrook. Strawberry Fields: een softwareplatform voor fotonische kwantumcomputers. Quantum, 3: 129, 2019b. 10.22331 / q-2019-03-11-129.
https://doi.org/10.22331/q-2019-03-11-129
[26] Diederik P Kingma en Jimmy Ba. Adam: Een methode voor stochastische optimalisatie. arXiv preprint arXiv: 1412.6980, 2014.
arXiv: 1412.6980
[27] Alex Krizhevsky, Geoffrey Hinton, et al. Meerdere lagen met functies leren van kleine afbeeldingen. Technisch rapport, University of Toronto, 2009.
[28] Alex Krizhevsky, Ilya Sutskever en Geoffrey E Hinton. Imagenet-classificatie met diepe convolutionele neurale netwerken. In Advances in neurale informatieverwerkingssystemen, pagina's 1097–1105, 2012. 10.1145 / 3065386.
https: / / doi.org/ 10.1145 / 3065386
[29] Ding Liu, Shi-Ju Ran, Peter Wittek, Cheng Peng, Raul Blázquez García, Gang Su en Maciej Lewenstein. Machine learning door unitair tensor-netwerk van hiërarchische boomstructuur. New Journal of Physics, 21 (7): 073059, 2019 / 10.1088-1367 / ab2630ef.
https: / / doi.org/ 10.1088 / 1367-2630 / ab31ef
[30] Jarrod R McClean, Jonathan Romero, Ryan Babbush en Alán Aspuru-Guzik. De theorie van variabele hybride kwantum-klassieke algoritmen. New Journal of Physics, 18 (2): 023023, 2016. 10.1088 / 1367-2630 / 18/2/023023.
https://doi.org/10.1088/1367-2630/18/2/023023
[31] Sinno Jialin Pan en Qiang Yang. Een enquête over transfer learning. IEEE Transactions on Knowledge and Data Engineering, 22 (10): 1345–1359, 2009. 10.1109 / tkde.2009.191.
https: / / doi.org/ 10.1109 / tkde.2009.191
[32] Adam Paszke, Sam Gross, Soumith Chintala, Gregory Chanan, Edward Yang, Zachary DeVito, Zeming Lin, Alban Desmaison, Luca Antiga en Adam Lerer. Automatische differentiatie in PyTorch. In NIPS Autodiff Workshop, 2017.
[33] Alejandro Perdomo-Ortiz, Marcello Benedetti, John Realpe-Gómez en Rupak Biswas. Kansen en uitdagingen voor kwantumondersteund machinaal leren in kwantumcomputers op korte termijn. Quantum Science and Technology, 3 (3): 030502, 2018 / 10.1088-2058 / aab9565.
https: / / doi.org/ 10.1088 / 2058-9565 / aab859
[34] Alberto Peruzzo, Jarrod McClean, Peter Shadbolt, Man-Hong Yung, Xiao-Qi Zhou, Peter J Love, Alán Aspuru-Guzik en Jeremy L O'brien. Een variabele eigenwaarde-oplosser op een fotonische kwantumprocessor. Nature Communications, 5: 4213, 2014. 10.1038 / ncomms5213.
https: / / doi.org/ 10.1038 / ncomms5213
[35] Sebastien Piat, Nairi Usher, Simone Severini, Mark Herbster, Tommaso Mansi en Peter Mountney. Beeldclassificatie met kwantumvooropleiding en auto-encoders. International Journal of Quantum Information, 16 (08): 1840009, 2018. 10.1142 / s0219749918400099.
https: / / doi.org/ 10.1142 / s0219749918400099
[36] Lorien Y Pratt. Op onderscheidingsvermogen gebaseerde overdracht tussen neurale netwerken. In Advances in Neural Information Processing Systems, pagina's 204-211, 1993.
[37] John Preskill. Quantum computing in het NISQ-tijdperk en daarna. Quantum, 2:79, 2018. 10.22331 / q-2018-08-06-79.
https://doi.org/10.22331/q-2018-08-06-79
[38] Rajat Raina, Alexis Battle, Honglak Lee, Benjamin Packer en Andrew Y Ng. Autodidactisch leren: leer overbrengen van niet-gelabelde gegevens. In Proceedings of the 24th International Conference on Machine Learning, pagina's 759-766. ACM, 2007. 10.1145 / 1273496.1273592.
https: / / doi.org/ 10.1145 / 1273496.1273592
[39] Maria Schuld en Nathan Killoran. Quantum machine learning in Hilbert-ruimtes. Physical Review Letters, 122 (4): 040504, 2019. 10.1103 / physrevlett.122.040504.
https: / / doi.org/ 10.1103 / physrevlett.122.040504
[40] Maria Schuld, Ilya Sinayskiy en Francesco Petruccione. Een inleiding tot quantum machine learning. Contemporary Physics, 56 (2): 172-185, 2015. 10.1080 / 00107514.2014.964942.
https: / / doi.org/ 10.1080 / 00107514.2014.964942
[41] Maria Schuld, Alex Bocharov, Krysta M.Svore en Nathan Wiebe. Circuitgerichte kwantumclassificatoren. Physical Review A, 101 (3), maart 2020. 10.1103 / physreva.101.032308.
https: / / doi.org/ 10.1103 / physreva.101.032308
[42] Kodai Shiba, Katsuyoshi Sakamoto, Koichi Yamaguchi, Dinesh Bahadur Malla en Tomah Sogabe. Convolutiefilter ingebedde kwantumpoort autoencoder. arXiv-voordruk arXiv: 1906.01196, 2019.
arXiv: 1906.01196
[43] Sukin Sim, Peter D. Johnson en Alán Aspuru-Guzik. Expressibiliteit en verstrengeling van geparametriseerde kwantumschakelingen voor hybride kwantum-klassieke algoritmen. Advanced Quantum Technologies, 2 (12): 1900070, 2019. 10.1002 / qute.201900070.
https: / / doi.org/ 10.1002 / qute.201900070
[44] Karen Simonyan en Andrew Zisserman. Zeer diepe convolutionele netwerken voor grootschalige beeldherkenning. arXiv-voordruk arXiv: 1409.1556, 2014.
arXiv: 1409.1556
[45] Robert S Smith, Michael J Curtis en William J Zeng. Een praktische architectuur voor kwantuminstructiesets. arXiv preprint arXiv: 1608.03355, 2016. 10.5281 / zenodo.3677540.
https: / / doi.org/ 10.5281 / zenodo.3677540
arXiv: 1608.03355
[46] Christian Szegedy, Wei Liu, Yangqing Jia, Pierre Sermanet, Scott Reed, Dragomir Anguelov, Dumitru Erhan, Vincent Vanhoucke en Andrew Rabinovich. Dieper gaan met windingen. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, pagina's 1-9, 2015. 10.1109 / cvpr.2015.7298594.
https: / / doi.org/ 10.1109 / cvpr.2015.7298594
[47] Lisa Torrey en Jude Shavlik. Transfer leren. In Handbook of Research on Machine Learning Applications and Trends: Algorithms, Methods and Techniques, pagina's 242-264. IGI Global, 2010. 10.4018 / 978-1-60566-766-9.ch011.
https://doi.org/10.4018/978-1-60566-766-9.ch011
[48] Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N Gomez, Łukasz Kaiser en Illia Polosukhin. Aandacht is alles wat je nodig hebt. In Advances in Neural Information Processing Systems, pagina's 5998-6008, 2017.
[49] Guillaume Verdon, Michael Broughton, Jarrod R. McClean, Kevin J. Sung, Ryan Babbush, Zhang Jiang, Hartmut Neven en Masoud Mohseni. Leren leren met kwantumneurale netwerken via klassieke neurale netwerken. arXiv-voordruk arXiv: 1907.05415, 2019.
arXiv: 1907.05415
[50] Christian Weedbrook, Stefano Pirandola, Raúl García-Patrón, Nicolas J Cerf, Timothy C Ralph, Jeffrey H Shapiro en Seth Lloyd. Gauss-kwantuminformatie. Recensies van moderne fysica, 84 (2): 621, 2012. 10.1103 / RevModPhys.84.621.
https: / / doi.org/ 10.1103 / RevModPhys.84.621
[51] Jason Yosinski, Jeff Clune, Yoshua Bengio en Hod Lipson. Hoe overdraagbaar zijn functies in diepe neurale netwerken? In Advances in Neural Information Processing Systems, pagina's 3320-3328, 2014.
[52] Remmy Zen, Long My, Ryan Tan, Frédéric Hébert, Mario Gattobigio, Christian Miniatura, Dario Poletti en Stéphane Bressan. Overdracht van leren voor schaalbaarheid van kwantumtoestanden van neurale netwerken. Physical Review E, 101 (5), 2020. 10.1103 / physreve.101.053301.
https: / / doi.org/ 10.1103 / physreve.101.053301
Geciteerd door
[1] Ryan LaRose en Brian Coyle, "Robuuste gegevenscoderingen voor kwantumclassificatoren", arXiv: 2003.01695.
[2] Francesco Tacchino, Panagiotis Barkoutsos, Chiara Macchiavello, Ivano Tavernelli, Dario Gerace en Daniele Bajoni, "Quantumimplementatie van een kunstmatig feed-forward neuraal netwerk", arXiv: 1912.12486.
[3] Xi He, "Quantum correlation alignment for unsupervised domain adaptation", arXiv: 2005.03355.
[4] Xi He, Chufan Lyu, Min-Hsiu Hsieh en Xiaoting Wang, "Quantum transfer component analysis for domain adaptation", arXiv: 1912.09113.
[5] Rongxin Xia en Saber Kais, "Hybrid Quantum-Classical Neural Network for Calculation Ground State Energies of Molecules", Entropie 22 8, 828 (2020).
[6] Xi He, "Quantum subspace alignment for domain adaptation", arXiv: 2001.02472.
[7] Angelina Gokhale, Mandaar B. Pande en Dhanya Pramod, "Implementatie van een kwantumoverdracht-leerbenadering voor detectie van beeldsplitsing", Internationaal tijdschrift voor kwantuminformatie 18 5, 2050024-220 (2020).
[8] Saurabh Kumar, Siddharth Dangwal en Debanjan Bhowmik, "Supervised Learning using a Dressed Quantum Network with" Super Compressed Encoding ": Algorithm and Quantum-Hardware-Based Implementation", arXiv: 2007.10242.
[9] Dominic Pasquali, "Gelijktijdige Quantum Machine Learning Training and Architecture Discovery", arXiv: 2009.06093.
[10] Jasvith Raj Basani en Aranya B Bhattacherjee, "Continuous-Variable Deep Quantum Neural Networks for Flexible Learning of Structured Classical Information", arXiv: 2006.10927.
[11] Soumik Adhikary, "Algoritme voor door verstrengeling ondersteunde training voor kwantumclassificatoren onder supervisie", arXiv: 2006.13302.
[12] Philip Easom-McCaldin, Ahmed Bouridane, Ammar Belatreche en Richard Jiang, "Towards Building A Facial Identification System using Quantum Machine Learning Techniques", arXiv: 2008.12616.
[13] Samuel Yen-Chi Chen, Shinjae Yoo en Yao-Lung L. Fang, "Quantum Long Short-Term Memory", arXiv: 2009.01783.
Bovenstaande citaten zijn afkomstig van SAO / NASA ADS (laatst bijgewerkt met succes 2020-10-09 09:46:25). De lijst is mogelijk onvolledig omdat niet alle uitgevers geschikte en volledige citatiegegevens verstrekken.
Kon niet ophalen Door Crossref geciteerde gegevens tijdens laatste poging 2020-10-09 09:46:24: kon niet geciteerde gegevens voor 10.22331 / q-2020-10-09-340 niet ophalen van Crossref. Dit is normaal als de DOI recent is geregistreerd.
Dit artikel is gepubliceerd in Quantum onder de Creative Commons Naamsvermelding 4.0 Internationaal (CC BY 4.0) licentie. Het auteursrecht blijft berusten bij de oorspronkelijke houders van auteursrechten, zoals de auteurs of hun instellingen.
