제퍼넷 로고

ZX- 미적분으로 양자 신경망 훈련시 불모의 고원 현상 분석

시간

Chen Zhao 및 Xiao-Shan Gao

중국 과학원 수학 및 시스템 과학 아카데미
중국 과학원 (University of Chinese Academy of Sciences)

이 논문이 흥미 롭거나 토론하고 싶습니까? SciRate에 댓글을 달거나 댓글 남기기.

추상

본 논문에서는 ZX- 미적분으로 양자 신경망을 훈련 할 때 불모의 고원 현상이라고도 알려진 기울기 소실 현상을 분석하는 일반적인 기법을 제안한다. 보다 정확하게, 우리는 특정 합리적인 가정하에 단일 2- 설계 회로에서 매개 변수화 된 양자 회로로 불모의 고원 정리를 확장합니다. 이 백서의 주요 기술적 기여는 특정 통합을 ZX 다이어그램으로 표현하고이를 ZX 미적분으로 계산하는 것입니다. 이 방법은 구조가 다른 XNUMX 개의 구체적인 양자 신경망을 분석하는 데 사용됩니다. 하드웨어 효율적인 ansatz 및 MPS에서 영감을받은 ansatz의 경우 불모의 고원이 존재하는 반면 QCNN ansatz 및 트리 텐서 네트워크 ansatz의 경우 불모의 고원이 없습니다.

► BibTeX 데이터

► 참고 문헌

[1] Alberto Peruzzo, Jarrod McClean, Peter Shadbolt, Man-Hong Yung, Xiao-Qi Zhou, Peter J. Love, Alán Aspuru-Guzik 및 Jeremy L. O'Brien. 포토 닉 양자 프로세서의 변이 고유 값 솔버. Nature Communications, 5 (1) : 4213, 2014 년 2041 월. ISSN 1723-10.1038. 5213 / ncommsXNUMX.
https : / /doi.org/ 10.1038 / ncomms5213

[2] Abhinav Kandala, Antonio Mezzacapo, Kristan Temme, Maika Takita, Markus Brink, Jerry M. Chow 및 Jay M. Gambetta. 작은 분자 및 양자 자석을위한 하드웨어 효율적인 가변 양자 고유 솔버. Nature, 549 (7671) : 242–246, 2017 년 1476 월. ISSN 4687-10.1038. 23879 / natureXNUMX.
https : / /doi.org/ 10.1038 / nature23879

[3] 조 유동 카오, 조나단 로메로, 조나단 P. 올슨, 마티아스 데 그루 테, 피터 D. 존슨, 마리아 키 페로 바, 이안 D. 키 블리 찬, 팀 멘케, 보르자 ​​페로 파 드레, 니콜라스 PD 사와 야, 수킨 심, 리보베이스, 알란 아스 푸루-구직. 양자 컴퓨팅 시대의 양자 화학. Chemical Reviews, 119 (19) : 10856–10915, 2019 년 0009 월. ISSN 2665-10.1021. 8 / acs.chemrev.00803bXNUMX.
https : / /doi.org/ 10.1021 / acs.chemrev.8b00803

[4] Bela Bauer, Sergey Bravyi, Mario Motta 및 Garnet Kin-Lic Chan. 양자 화학 및 양자 재료 과학을위한 양자 알고리즘. Chemical Reviews, 120 (22) : 12685–12717, 2020 년 0009 월. ISSN 2665-10.1021. 9 / acs.chemrev.00829bXNUMX.
https : / /doi.org/ 10.1021 / acs.chemrev.9b00829

[5] Edward Farhi, Jeffrey Goldstone 및 Sam Gutmann. 양자 근사치 최적화 알고리즘. arXiv 사전 인쇄 arXiv : 1411.4028, 2014.
arXiv : 1411.4028

[6] Leo Zhou, Sheng-Tao Wang, 최순원, Hannes Pichler, Mikhail D. Lukin. 양자 근사치 최적화 알고리즘 : 성능, 메커니즘 및 단기 장치의 구현. Phys. X 개정, 10 : 021067, 2020 년 10.1103 월. 10.021067 / PhysRevX.XNUMX.
https : / /doi.org/10.1103/ PhysRevX.10.021067

[7] Jin-Guo Liu와 Lei Wang. 양자 회로에서 태어난 기계의 차별화 가능한 학습. Phys. A, 98 : 062324, 2018 년 10.1103 월. 98.062324 / PhysRevA.XNUMX.
https : / /doi.org/10.1103/ PhysRevA.98.062324

[8] Seth Lloyd와 Christian Weedbrook. 양자 생성 적대적 학습. Phys. Rev. Lett., 121 : 040502, 2018 년 10.1103 월. 121.040502 / PhysRevLett. XNUMX.
https : / /doi.org/10.1103/ PhysRevLett.121.040502

[9] Vojtěch Havlíček, Antonio D. Córcoles, Kristan Temme, Aram W. Harrow, Abhinav Kandala, Jerry M. Chow 및 Jay M. Gambetta. 양자 강화 기능 공간을 통한지도 학습. Nature, 567 (7747) : 209–212, 2019 년 1476 월. ISSN 4687-10.1038. 41586 / s019-0980-2-XNUMX.
https:/​/​doi.org/​10.1038/​s41586-019-0980-2

[10] Maria Schuld, Alex Bocharov, Krysta M. Svore 및 Nathan Wiebe. 회로 중심 양자 분류기. Phys. A, 101 : 032308, 2020 년 10.1103 월. 101.032308 / PhysRevA.XNUMX.
https : / /doi.org/10.1103/ PhysRevA.101.032308

[11] Marcello Benedetti, Erika Lloyd, Stefan Sack 및 Mattia Fiorentini. 기계 학습 모델로 매개 변수화 된 양자 회로. Quantum Science and Technology, 4 (4) : 043001, 2019 년 10.1088 월. 2058 / 9565-4 / ab5ebXNUMX.
https:/​/​doi.org/​10.1088/​2058-9565/​ab4eb5

[12] Chen Zhao와 Xiao-Shan Gao. QDNN : 양자 신경망 계층이있는 DNN. arXiv 사전 인쇄 arXiv : 1912.12660, 2019.
arXiv : 1912.12660

[13] 존 프리 스킬. NISQ 시대와 그 이후의 양자 컴퓨팅. Quantum, 2:79, 2018 년 2521 월. ISSN 327-10.22331X. 2018 / q-08-06-79-XNUMX.
https:/​/​doi.org/​10.22331/​q-2018-08-06-79

[14] Maria Schuld, Ville Bergholm, Christian Gogolin, Josh Izaac 및 Nathan Killoran. 양자 하드웨어에서 분석적 기울기를 평가합니다. Phys. Rev. A, 99 : 032331, 2019 년 10.1103 월. 99.032331 / PhysRevA.XNUMX.
https : / /doi.org/10.1103/ PhysRevA.99.032331

[15] Andrea Mari, Thomas R. Bromley 및 Nathan Killoran. 양자 하드웨어에서 기울기 및 고차 도함수를 추정합니다. Phys. A, 103 : 012405, 2021 년 10.1103 월. 103.012405 / PhysRevA.XNUMX.
https : / /doi.org/10.1103/ PhysRevA.103.012405

[16] James Stokes, Josh Izaac, Nathan Killoran 및 Giuseppe Carleo. 양자 자연 그라디언트. Quantum, 4 : 269, 2020 년 2521 월. ISSN 327-10.22331X. 2020 / q-05-25-269-XNUMX.
https:/​/​doi.org/​10.22331/​q-2020-05-25-269

[17] Jonas M. Kübler, Andrew Arrasmith, Lukasz Cincio 및 Patrick J. Coles. 측정-절약 적 변형 알고리즘을위한 적응 형 최적화 도구. Quantum, 4 : 263, 2020 년 2521 월. ISSN 327-10.22331X. 2020 / q-05-11-263-XNUMX.
https:/​/​doi.org/​10.22331/​q-2020-05-11-263

[18] Ken M. Nakanishi, Keisuke Fujii 및 Synge Todo. 양자-고전 하이브리드 알고리즘을위한 순차적 최소 최적화. Phys. Rev. Research, 2 : 043158, 2020 년 10.1103 월. 2.043158 / PhysRevResearch.XNUMX.
https : / /doi.org/10.1103/ PhysRevResearch.2.043158

[19] Jarrod R. McClean, Sergio Boixo, Vadim N. Smelyanskiy, Ryan Babbush 및 Hartmut Neven. 양자 신경망 훈련 환경의 불모의 고원. Nature Communications, 9 (1) : 4812, 2018 년 2041 월. ISSN 1723-10.1038. 41467 / s018-07090-4-XNUMX.
https:/​/​doi.org/​10.1038/​s41467-018-07090-4

[20] Zoë Holmes, Kunal Sharma, M. Cerezo 및 Patrick J. Coles. ansatz 표현성을 기울기 크기 및 불모의 고원에 연결, 2021. https : / / arxiv.org/ abs / 2101.02138.
arXiv : 2101.02138

[21] Marco Cerezo, Akira Sone, Tyler Volkoff, Lukasz Cincio 및 Patrick J. Coles. 얕은 매개 변수화 된 양자 회로에서 비용 함수 의존 불모의 고원. Nature Communications, 12 (1) : 1791, 2021 년 2041 월. ISSN 1723-10.1038. 41467 / s021-21728-XNUMX-w.
https : / /doi.org/ 10.1038 / s41467-021-21728-w

[22] Carlos Ortiz Marrero, Mária Kieferová 및 Nathan Wiebe. 얽힘은 불모의 고원을 유도했습니다. arXiv 사전 인쇄 arXiv : 2010.15968, 2020.
arXiv : 2010.15968

[23] Taylor L. Patti, Khadijeh Najafi, Xun Gao 및 Susanne F. Yelin. Entanglement는 불모의 고원 완화를 고안했습니다, 2020. https : / / arxiv.org/ abs / 2012.12658.
arXiv : 2012.12658

[24] Kunal Sharma, M. Cerezo, Lukasz Cincio 및 Patrick J. Coles. 소 산성 퍼셉트론 기반 양자 신경망의 훈련 가능성, 2020. https : / / arxiv.org/ abs / 2005.12458.
arXiv : 2005.12458

[25] Samson Wang, Enrico Fontana, Marco Cerezo, Kunal Sharma, Akira Sone, Lukasz Cincio 및 Patrick J Coles. 변이 양자 알고리즘에서 노이즈로 인한 불모의 고원. arXiv 사전 인쇄 arXiv : 2007.14384, 2020.
arXiv : 2007.14384

[26] Edward Grant, Leonard Wossnig, Mateusz Ostaszewski 및 Marcello Benedetti. 매개 변수화 된 양자 회로에서 불모지 상태를 해결하기위한 초기화 전략. Quantum, 3 : 214, 2019 년 2521 월. ISSN 327-10.22331X. 2019 / q-12-09-214-XNUMX.
https:/​/​doi.org/​10.22331/​q-2019-12-09-214

[27] Tyler Volkoff와 Patrick J Coles. 임의의 매개 변수화 된 양자 회로에서 상관 관계를 통한 큰 기울기. Quantum Science and Technology, 6 (2) : 025008, 2021 년 10.1088 월. 2058 / 9565-891 / abdXNUMX.
https : / / doi.org/ 10.1088 / 2058-9565 / abd891

[28] Bob Coecke와 Ross Duncan. 상호 작용하는 양자 관측 물. Automata, Languages ​​and Programming (ICALP)에 관한 제 37 회 국제 콜로퀴움, 컴퓨터 과학 강의 노트, 2008. 10.1007 / 978-3-540-70583-3_25.
https:/​/​doi.org/​10.1007/​978-3-540-70583-3_25

[29] Bob Coecke와 Ross Duncan. 상호 작용하는 양자 관측 물 : 범주 형 대수 및 다이어그램. New Journal of Physics, 13 : 043016, 2011. 10.1088 / 1367-2630 / 13 / 4 / 043016.
https:/​/​doi.org/​10.1088/​1367-2630/​13/​4/​043016

[30] Ross Duncan, Aleks Kissinger, Simon Pedrix 및 John van de Wetering. ZX- 미적분을 사용한 양자 회로의 그래프 이론적 단순화. Quantum, 4 : 279, 6 2020. ISSN 2521-327X. 10.22331 / q-2020-06-04-279.
https:/​/​doi.org/​10.22331/​q-2020-06-04-279

[31] Aleks Kissinger와 John van de Wetering. ZX- 미적분으로 T- 카운트 줄이기. 물리적 검토 A, 102 : 022406, 8 2020. 10.1103 / PhysRevA.102.022406.
https : / /doi.org/10.1103/ PhysRevA.102.022406

[32] Alexander Cowtan, Silas Dilkes, Ross Duncan, Will Simmons 및 Seyon Sivarajah. 얕은 회로를위한 위상 가젯 합성. Bob Coecke와 Matthew Leifer, 편집자, Proceedings 16th International Conference on Quantum Physics and Logic, Chapman University, Orange, CA, USA., 10 년 14 월 2019-318 일, 이론적 컴퓨터 과학의 Electronic Proceedings 213 권, 228 ~ 2020 페이지. 공개 출판 협회, 10.4204. 318.13 / EPTCS.XNUMX.
https : / /doi.org/ 10.4204 / EPTCS.318.13

[33] Michael Hanks, Marta P. Estarellas, William J. Munro 및 Kae Nemoto. ZX-Calculus에 의해 지원되는 양자 편조 회로의 효과적인 압축. 물리적 검토 X, 10 : 041030, 2020. 10.1103 / PhysRevX.10.041030.
https : / /doi.org/10.1103/ PhysRevX.10.041030

[34] 로스 던컨. 측정 기반 양자 컴퓨팅에 대한 그래픽 접근 방식입니다. Mehrnoosh Sadrzadeh Chris Heunen과 Edward Grefenstette에서 편집자, Quantum Physics and Linguistics : A Compositional, Diagrammatic Discourse. 2013. ISBN 9780199646296. 10.1093 / acprof : oso / 9780199646296.001.0001.
https : / /doi.org/ 10.1093 / acprof : oso / 9780199646296.001.0001

[35] Miriam Backens, Hector Miller-Bakewell, Giovanni de Felice, Leo Lobski 및 John van de Wetering. 거기 그리고 다시 : 회로 추출 이야기. arXiv 사전 인쇄 arXiv : 2003.01664, 2020. 10.22331 / q-2021-03-25-421.
https:/​/​doi.org/​10.22331/​q-2021-03-25-421
arXiv : 2003.01664

[36] Nicholas Chancellor, Aleks Kissinger, Joschka Roffe, Stefan Zohren 및 Dominic Horsman. 양자 오류 수정의 설계 및 검증을위한 그래픽 구조. arXiv 사전 인쇄 arXiv : 1611.08012, 2016.
arXiv : 1611.08012

[37] Niel de Beaudrap과 Dominic Horsman. ZX 미적분은 표면 코드 격자 수술을위한 언어입니다. Quantum, 4 : 218, 2020 년 2521 월. ISSN 327-10.22331X. 2020 / q-01-09-218-XNUMX.
https:/​/​doi.org/​10.22331/​q-2020-01-09-218

[38] Richard DP East, John van de Wetering, Nicholas Chancellor 및 Adolfo G. Grushin. ZX 다이어그램으로서의 AKLT 상태 : 양자 상태에 대한 다이어그램 추론. arXiv 사전 인쇄 arXiv : 2012.01219, 2020.
arXiv : 2012.01219

[39] Richie Yeung. 양자 기계 학습을위한 ansätze의 다이어그램 설계 및 연구, 2020. https : / / arxiv.org/ abs / 2011.11073.
arXiv : 2011.11073

[40] Bob Coecke, Giovanni de Felice, Konstantinos Meichanetzidis 및 Alexis Toumi. 단기 양자 자연어 처리를위한 기초. arXiv 사전 인쇄 arXiv : 2012.03755, 2020.
arXiv : 2012.03755

[41] 아이리스 콩, 최순원, 미하일 D. 루킨. 양자 컨볼 루션 신경망. Nature Physics, 15 (12) : 1273–1278, 2019 년 1745 월. ISSN 2481-10.1038. 41567 / s019-0648-8-XNUMX.
https:/​/​doi.org/​10.1038/​s41567-019-0648-8

[42] Edward Grant, Marcello Benedetti, Shuxiang Cao, Andrew Hallam, Joshua Lockhart, Vid Stojevic, Andrew G. Green 및 Simone Severini. 계층 적 양자 분류기. npj Quantum Information, 4 (1) : 65 년 2018 월 2056 일. ISSN 6387-10.1038. 41534 / s018-0116-9-XNUMX.
https:/​/​doi.org/​10.1038/​s41534-018-0116-9

[43] Jin-Guo Liu, Yi-Hong Zhang, Yuan Wan 및 Lei Wang. 큐 비트가 더 적은 가변 양자 고유 솔버. Phys. Rev. Research, 1 : 023025, 2019 년 10.1103 월. 1.023025 / PhysRevResearch.XNUMX.
https : / /doi.org/10.1103/ PhysRevResearch.1.023025

[44] Bob Coecke와 Aleks Kissinger. 양자 프로세스 그림. Cambridge University Press, 2017. 10.1007 / 978-3-319-91376-6_6.
https:/​/​doi.org/​10.1007/​978-3-319-91376-6_6

[45] 존 반 드 베터 링. 일하는 양자 컴퓨터 과학자를위한 ZX 미적분. arXiv 사전 인쇄 arXiv : 2012.13966, 2020.
arXiv : 2012.13966

[46] 미리 암 후엔 스. ZX 미적분은 안정제 양자 역학에 적합합니다. 새로운 물리학 저널, 16 (9) : 093021, 2014. 10.1088 / 1367-2630 / 16 / 9 / 093021.
https:/​/​doi.org/​10.1088/​1367-2630/​16/​9/​093021

[47] 미리 암 후엔 스. 스칼라에 대해 안정제 ZX 미적분을 완성합니다. Chris Heunen, Peter Selinger 및 Jamie Vicary, 편집자, 양자 물리 및 논리에 관한 제 12 차 국제 워크샵 (QPL 2015), 이론적 컴퓨터 과학 전자 절차 195 권, 17-32-2015 페이지. 10.4204 / EPTCS 195.2.
https : / /doi.org/ 10.4204 / EPTCS.195.2

[48] Emmanuel Jeandel, Simon Perdrix 및 Renaud Vilmart. Clifford + T 양자 역학을위한 ZX-Calculus의 완전한 공리 화. 컴퓨터 과학의 논리에 관한 33 번째 연례 ACM / IEEE 심포지엄, LICS '18, 페이지 559–568, New York, NY, USA, 2018a. ACM. ISBN 978-1-4503-5583-4. 10.1145 / 3209108.3209131.
https : / /doi.org/ 10.1145 / 3209108.3209131

[49] Emmanuel Jeandel, Simon Perdrix 및 Renaud Vilmart. Clifford + T 양자 역학을 넘어선 도식적 추론. 컴퓨터 과학의 논리에 관한 33 번째 연례 ACM / IEEE 심포지엄, LICS '18, 페이지 569–578, New York, NY, USA, 2018b. ACM. ISBN 978-1-4503-5583-4. 10.1145 / 3209108.3209139.
https : / /doi.org/ 10.1145 / 3209108.3209139

[50] Amar Hadzihasanovic, Kang Feng Ng 및 Quanlong Wang. 순수 상태 큐 비트 양자 컴퓨팅의 두 가지 완전한 공리. 컴퓨터 과학의 논리에 관한 33 번째 연례 ACM / IEEE 심포지엄, LICS '18, 페이지 502–511, 미국 뉴욕, 미국, 2018 년. Association for Computing Machinery. ISBN 9781450355834. 10.1145 / 3209108.3209128.
https : / /doi.org/ 10.1145 / 3209108.3209128

[51] 왕 Quanlong. ZX- 미적분의 완전성. 옥스포드 대학교 박사 논문, 2018.

[52] Emmanuel Jeandel, Simon Perdrix 및 Renaud Vilmart. zx- 미적분의 완전성. 컴퓨터 과학의 논리적 방법, 6 2020. 10.23638 / LMCS-16 (2:11) 2020.
https:/​/​doi.org/​10.23638/​LMCS-16(2:11)2020

[53] Kaining Zhang, Min-Hsiu Hsieh, Liu Liu 및 Dacheng Tao. 양자 신경망의 훈련 가능성을 향해. arXiv 사전 인쇄 arXiv : 2011.06258, 2020.
arXiv : 2011.06258

[54] Arthur Pesah, M Cerezo, Samson Wang, Tyler Volkoff, Andrew T Sornborger 및 Patrick J Coles. 양자 컨볼 루션 신경망에 불모의 고원이 없습니다. arXiv 사전 인쇄 arXiv : 2011.02966, 2020.
arXiv : 2011.02966

[55] F. Verstraete, V. Murg 및 JI Cirac. 퀀텀 스핀 시스템을위한 매트릭스 제품 상태, 예상 얽힌 쌍 상태 및 변형 재 정규화 그룹 방법. 물리학의 발전, 57 (2) : 143–224, 2008. 10.1080 / 14789940801912366.
https : / /doi.org/ 10.1080 / 14789940801912366

[56] Zhao-Yu Han, Jun Wang, Heng Fan, Lei Wang 및 Pan Zhang. 매트릭스 제품 상태를 사용하는 비지도 생성 모델링. Phys. X 개정, 8 : 031012, 2018 년 10.1103 월. 8.031012 / PhysRevX.XNUMX.
https : / /doi.org/10.1103/ PhysRevX.8.031012

인용

[1] M. Bilkis, M. Cerezo, Guillaume Verdon, Patrick J. Coles 및 Lukasz Cincio, "양자 기계 학습을위한 가변 구조를 가진 반 불가지론 적 ansatz", arXiv : 2103.06712.

[2] Alexis Toumi, Richie Yeung 및 Giovanni de Felice, "양자 기계 학습을위한 다이어그램 차별화", arXiv : 2103.07960.

[3] Bob Coecke, Dominic Horsman, Aleks Kissinger 및 Quanlong Wang, "유치원 양자 역학 졸업생 (… 또는 LEGO를 함께 붙이는 것을 중단하고 ZX 계산법을 좋아하는 법을 배웠던 방법)", arXiv : 2102.10984.

[4] Hiroshi C. Watanabe, Rudy Raymond, Yu-ya Ohnishi, Eriko Kaminishi, Michihiko Sugawara,“자유 축 선택을 통한 매개 변수화 된 양자 회로 최적화”, arXiv : 2104.14875.

[5] Marcello Benedetti, Brian Coyle, Mattia Fiorentini, Michael Lubasch 및 Matthias Rosenkranz, "양자 컴퓨터를 사용한 변이 추론", arXiv : 2103.06720.

[6] Martin Larocca, Piotr Czarnik, Kunal Sharma, Gopikrishnan Muraleedharan, Patrick J. Coles 및 M. Cerezo, "양자 최적 제어 도구로 불모의 고원 진단", arXiv : 2105.14377.

위의 인용은 SAO / NASA ADS (마지막으로 성공적으로 업데이트 됨 2021-06-04 12:21:45). 모든 출판사가 적절하고 완전한 인용 데이터를 제공하지는 않기 때문에 목록이 불완전 할 수 있습니다.

가져올 수 없습니다 Crossref 인용 자료 마지막 시도 중 2021-06-04 12:21:43 : Crossref에서 10.22331 / q-2021-06-04-466에 대한 인용 데이터를 가져올 수 없습니다. DOI가 최근에 등록 된 경우 이는 정상입니다.

코인 스마트. 유로파 최고의 비트 코인-보르 스
출처 : https://quantum-journal.org/papers/q-2021-06-04-466/

spot_img

최신 인텔리전스

spot_img