인공 지능의 새로운 분야인 아날로그 딥 러닝은 더 적은 에너지 사용으로 더 빠른 처리를 약속합니다. 연구자들이 기계 학습의 한계에 도전함에 따라 훨씬 더 복잡한 신경망 모델을 훈련하는 데 필요한 시간, 노력 및 돈의 양이 급증하고 있습니다.

트랜지스터가 디지털 프로세서의 필수 구성요소인 것처럼 프로그래밍 가능한 저항은 아날로그 딥 러닝의 기본 빌딩 블록입니다. 연구원들은 복잡한 레이어에서 프로그래밍 가능한 저항 배열을 반복적으로 반복하여 디지털 신경망과 유사한 계산을 수행할 수 있는 아날로그 인공 "뉴런" 및 "시냅스" 네트워크를 개발했습니다. 그런 다음 이 네트워크는 이미지 인식 및 자연어 처리와 같은 어려운 AI 작업을 사용하여 훈련될 수 있습니다.

연구팀의 목표는 무엇입니까?

학제 간 MIT 연구팀의 목표는 이전에 생성한 특정 종류의 인공 아날로그 시냅스의 속도를 높이는 것이었습니다. 그들은 제조 과정에서 유용한 무기 물질을 사용하여 이전 반복보다 백만 배의 속도 향상을 제공했습니다. 이는 인간 두뇌의 시냅스보다 약 백만 배 빠른 것입니다.

이 무기 성분은 저항기의 탁월한 에너지 효율성에도 기여합니다. 새로운 재료는 장치의 초기 반복에 사용된 재료와 달리 실리콘 생산 방법과 호환됩니다. 이 수정으로 나노미터 규모의 장치를 제작할 수 있었고 딥 러닝 응용 프로그램을 위한 상용 컴퓨팅 하드웨어에 통합할 수 있는 가능성이 열렸습니다.

"그 핵심 통찰력과 매우 강력한 나노 제조 기술을 통해 우리는 MIT. 나노, 우리는 이러한 조각을 함께 모아 이러한 장치가 본질적으로 매우 빠르고 합리적인 전압으로 작동한다는 것을 입증할 수 있었습니다. 이 작업으로 인해 이러한 장치는 이제 미래 응용 분야에서 정말 유망해 보이는 지점에 놓이게 되었습니다.

"이 장치의 작동 메커니즘은 가장 작은 이온인 양성자를 절연 산화물에 전기화학적으로 삽입하여 전자 전도도를 조절하는 것입니다. 우리는 매우 얇은 장치로 작업하고 있기 때문에 강한 전기장을 사용하여 이 이온의 운동을 가속화하고 이러한 이온 장치를 나노초 작동 체제로 밀어넣을 수 있습니다. 원자력 과학 및 공학 및 재료 과학 및 공학.

오바마에 대한 약속 지켰다: 미국은 엑사스케일 슈퍼컴퓨터를 만들었습니다.

“생물학적 세포의 활동 전위는 약 0.1볼트의 전압 차이가 물의 안정성에 의해 제약을 받기 때문에 밀리초의 시간 척도로 상승 및 하강합니다. 여기에서 영구적인 손상 없이 양성자를 전도하는 나노스케일 두께의 특수 고체 유리 필름에 최대 10볼트를 적용합니다. 그리고 자기장이 강할수록 이온 장치는 더 빨라집니다.

이러한 프로그래밍 가능한 저항 덕분에 이전보다 훨씬 빠르고 저렴하게 신경망 교육을 수행할 수 있습니다. 이것은 과학자들이 딥 러닝 모델을 만드는 프로세스를 가속화할 수 있으며, 이는 이후에 사기 탐지, 자율 주행 자동차 또는 의학의 사진 분석에 사용될 수 있습니다.

“아날로그 프로세서가 있으면 더 이상 다른 사람들이 작업하고 있는 네트워크 교육이 아닙니다. 다른 누구도 감당할 수 없는 전례 없는 복잡성을 가진 네트워크를 훈련하여 모든 네트워크를 훨씬 능가합니다. 다시 말해, 이것은 더 빠른 차가 아닙니다. 이것은 우주선입니다.

에 발표된 연구 과학 "아날로그 딥 러닝을 위한 나노초 양성자 프로그래밍 가능 저항기"라고 합니다. 여기에는 재료 과학 및 공학과의 Ellen Swallow Richards 교수인 Frances M. Ross가 포함됩니다. 박사후 연구원 Nicolas Emond 및 Baoming Wang; 및 EECS 대학원생인 Difei Zhang이 있습니다.

아날로그 딥 러닝이 더 빠른 이유는 무엇입니까?

두 가지 주요 이유 때문에 아날로그 딥 러닝은 디지털 버전보다 더 빠르고 에너지 효율적입니다. 첫째, 연산이 프로세서가 아닌 메모리에서 이루어지기 때문에 막대한 양의 데이터가 둘 사이에서 지속적으로 전송되지 않습니다. 아날로그 프로세서는 병렬 프로세스도 수행할 수 있습니다. 아날로그 프로세서는 모든 계산이 동시에 발생하기 때문에 행렬의 크기가 증가함에 따라 새로운 작업을 수행하는 데 더 많은 시간이 필요하지 않습니다.

양성자 프로그래밍 가능 저항은 MIT의 새로운 아날로그 프로세서 기술의 주요 구성 요소입니다. 이 나노스케일 크기의 저항기는 배열의 체스판처럼 배치됩니다. XNUMX나노미터는 XNUMX억분의 XNUMX미터입니다.

학습은 뉴런 사이의 연결인 시냅스의 강화와 약화로 인해 인간의 뇌에서 발생합니다. 훈련 알고리즘이 네트워크 가중치를 프로그래밍하는 이 접근 방식은 오랫동안 심층 신경망에서 사용되었습니다. 이 새로운 프로세서는 양성자 저항기의 전기 전도도를 변화시켜 아날로그 기계 학습이 가능합니다.

양성자의 운동은 컨덕턴스를 지배합니다. 컨덕턴스를 증가시키기 위해 더 많은 양성자를 저항 채널로 밀어넣고 컨덕턴스를 줄이기 위해 더 많은 양성자를 끌어냅니다. 이것은 양성자를 전도하지만 전해질(배터리의 전해질과 유사)에서 전자를 차단함으로써 이루어집니다.

연구원들은 프로그래밍 가능하고 매우 빠르며 에너지 효율이 높은 양성자 저항기를 만들기 위해 다양한 전해질 재료를 조사했습니다. 오넨은 다른 기기의 PSG(유기화학물질) 사용 대신 무기 인규산염 유리에 집중했다.

P-컴퓨터는 효율적인 AI 및 ML 시스템 개발을 위한 미래입니다.

습기를 제거하는 데 사용되며 새 가구 상자의 작은 가방에서 발견되는 분말형 건조제인 PSG는 본질적으로 이산화규소입니다. 가습 조건에서 연료 전지의 양성자 전도체로 조사됩니다. 또한 실리콘 생산에 가장 많이 사용되는 산화물입니다. PSG를 생성하기 위해 소량의 인을 첨가하여 실리콘에 양성자 전도에 대한 고유한 특성을 부여합니다.

Onen은 이러한 목적을 위한 완벽한 고체 전해질을 만드는 개선된 PSG가 물이 필요하지 않은 실온에서 높은 양성자 전도도를 가질 수 있다고 가정했습니다. 그는 정확했다.

충격적인 속도

PSG는 표면이 양성자 확산 경로로 작용하는 나노미터 크기의 기공을 많이 가지고 있기 때문에 신속한 양성자 수송이 가능합니다. 또한 매우 강력한 펄스 전기장을 견딜 수 있습니다. Onen은 장치의 전압을 높이면 양성자가 현기증나는 속도로 흐를 수 있기 때문에 이것이 중요하다고 주장합니다.

“속도는 확실히 놀랍습니다. 일반적으로 우리는 장치가 재로 변하는 것을 방지하기 위해 장치에 이러한 극한 필드를 적용하지 않습니다. 그러나 대신에 양성자는 장치 스택 전체에서 엄청난 속도로, 특히 우리가 이전보다 백만 배 더 빠른 속도로 이동하게 되었습니다. 그리고 이 움직임은 작은 크기와 낮은 질량의 양성자 덕분에 아무 것도 손상시키지 않습니다. 텔레포트에 가깝습니다. 나노초 시간 척도는 그러한 극한의 장에서 우리가 양자에 대한 탄도 또는 양자 터널링 체제에 가깝다는 것을 의미합니다.”라고 Li가 말했습니다.

양성자는 물질에 해를 끼치지 않으므로 저항은 성능 저하 없이 수백만 사이클 동안 작동할 수 있습니다. 이 새로운 전해질을 컴퓨팅 하드웨어에 통합하는 것은 이전 장치보다 백만 배 더 빠르고 실온에서 잘 작동할 수 있는 프로그래밍 가능한 양성자 저항기를 만들 수 있기 때문에 중요합니다.

PSG는 전기 절연 물질입니다. 따라서 양성자가 움직일 때 거의 전류가 흐르지 않습니다. Onen은 이것이 장치의 에너지 효율을 크게 향상시킨다고 계속합니다.

del Alamo에 따르면 연구원들은 효율성이 입증되었으므로 대량 생산을 위해 이러한 프로그래밍 가능한 저항기를 재설계할 계획입니다. 그런 다음 시스템에서 사용하기 위해 저항 어레이를 확장하고 속성을 분석할 수 있습니다.

그들은 또한 전해질 안팎으로 양성자를 효과적으로 전달하는 데 필요한 전압을 방해하는 장애물을 제거하기 위한 재료를 연구할 계획입니다.

"이러한 이온 장치가 가능하게 할 수 있는 또 다른 흥미로운 방향은 아날로그 심층 신경망을 넘어 신경 과학에서 추론되는 신경 회로 및 시냅스 가소성 규칙을 에뮬레이트하는 에너지 효율적인 하드웨어입니다. 우리는 이미 신경 과학과의 협력을 시작했습니다. 지능에 대한 MIT 탐구"라고 일디즈는 말했다.

“우리가 가진 협력은 미래 혁신에 필수적입니다. 앞으로의 길은 여전히 ​​매우 험난할 것이지만 동시에 매우 흥미진진합니다.”라고 del Alamo가 설명합니다.

“리튬 이온 배터리에서 발견되는 것과 같은 인터칼레이션 반응은 메모리 장치에 대해 광범위하게 조사되었습니다. 이 작업은 양성자 기반 메모리 장치가 인상적이고 놀라운 스위칭 속도와 내구성을 제공한다는 것을 보여줍니다. 이것은 딥 러닝 알고리즘을 구동하기 위한 새로운 종류의 메모리 장치를 위한 기반을 마련합니다.

컴퓨터 공학 전공에 대해 알아야 할 모든 것(2022년판)

“이 연구는 생물학적으로 영감을 받은 저항성 기억 장치에서 중요한 돌파구를 보여줍니다. 이 모든 고체 상태의 양성자 장치는 생물학적 시냅스와 유사하지만 훨씬 빠른 속도로 양성자의 정교한 원자 규모 제어를 기반으로 합니다. 나는 미래 세대의 컴퓨터 장치를 가능하게 할 이 흥미진진한 개발을 위해 학제 간 MIT 팀을 칭찬합니다.”라고 카네기 멜론 대학의 재료 과학 및 공학 학과장이자 Teddy & Wilton Hawkins 석좌 교수인 Elizabeth Dickey가 덧붙였습니다. 이 연구와 관련이 없습니다.