제퍼넷 로고

인간 두뇌의 아키텍처 미러링이 AI 학습 속도를 높이는 방법

시간

AI는 일부 수행 수백만 개의 데이터 포인트에 대해 훈련을 받았을 때 인상적인 업적을 이룬 인간의 뇌는 종종 아주 적은 수의 예에서 배울 수 있습니다. 새로운 연구 쇼 차용 건축 원리 뇌에서 나오는 것은 AI가 우리의 시각에 가까워 지도록 도와줍니다. 용감하다.

딥 러닝 연구의 일반적인 지혜는 알고리즘에 더 많은 데이터를 던질수록 더 잘 학습된다는 것입니다. 그리고 빅 데이터 시대에는 특히 최첨단 AI 연구를 많이 수행하는 대규모 데이터 중심 기술 회사의 경우 그 어느 때보 다 쉬워졌습니다.

오늘's 가장 큰 깊은 학습 모델, 같은 OpenAI의 GPT-3 Google의 BERT는 수십억 개의 데이터 포인트에 대해 교육을 받았으며 모델 많은 양의 데이터가 필요합니다. 이러한 데이터 세트를 수집하고이를 처리하기 위해 컴퓨팅 리소스에 투자하는 것은 특히 리소스가 부족한 학술 실험실의 경우 주요 병목 현상입니다.

그것은 또한 오늘날의 AI 자연 지능보다 훨씬 덜 유연합니다. 인간은 동물, 도구 또는 다른 범주의 물체에 대한 몇 가지 예만 보면 다시 선택할 수 있지만 대부분의 AI는 be 많은 사례에 대한 훈련 물체의 그것을 인식 할 수 있도록.

있다 AI 연구의 적극적인 하위 분야 "원샷"또는 "퓨샷"학습으로 알려진 것을 목표로합니다. 여기서 알고리즘은 매우 적은 예에서 학습 할 수 있도록 설계되었습니다. 그러나 이러한 접근 방식은 여전히 ​​대부분 실험적이며 가까이오다 일치ING 우리가 아는 가장 빠른 학습자 인 인간의 두뇌입니다.

This 한 쌍의 신경 과학자는 뇌가이 문제를 해결한다고 생각하는 원리를 빌려서 몇 가지 데이터 포인트에서 배울 수있는 AI를 설계 할 수 있는지 확인하도록했습니다. 안에 종이 전산 신경 과학의 개척자, 그들 그 설명 접근 방식은 크게 향상 AI 몇 가지 예에서 새로운 시각적 개념을 배우는 능력.

"우리 모델은 인공 신경망이 소수의 예에서 새로운 시각적 개념을 학습 할 수있는 생물학적으로 그럴듯한 방법을 제공합니다."Maximilian Riesenhuber, 조지 타운 대학 메디컬 센터, said 보도 자료. "우리는 뇌가하는 일을 반영한다고 생각하는 방식으로 사전 학습을 활용함으로써 컴퓨터가 몇 가지 예에서 훨씬 더 잘 학습하도록 할 수 있습니다."

수십 년간의 신경 과학 연구에 따르면 두뇌의 학습 능력이 따라 적은 데이터를 기반으로 새로운 개념을 이해하기 위해 사전 지식을 사용할 수있는 능력. 시각적 이해와 관련하여 이것은 모양, 구조 또는 색상의 유사성에 의존 할 수 있지만 뇌는 전 측두엽 (ATL)이라고하는 뇌 영역에서 인코딩 된 것으로 생각되는 추상적 인 시각적 개념을 활용할 수도 있습니다.

"오리너구리가 오리, 비버, 해달처럼 보인다고 말하는 것과 같습니다.”said 종이 캘리포니아 버클리 대학의 Joshua Rule 공동 저자.

연구자들은이 기능을 재창조하기로 결정했습니다.n 이전에 볼 수 없었던 이미지 범주를 빠르게 학습 할 수 있도록 도와주는 AI입니다.

딥 러닝 알고리즘은 인공 뉴런의 계층을 가져 와서 점점 더 복잡 해지는 이미지 또는 기타 데이터 유형의 특징을 학습 한 다음 새로운 데이터를 분류하는 데 사용됩니다. 예를 들어, 초기 레이어는 가장자리와 같은 단순한 특징을 찾는 반면, 이후 레이어는 코, 얼굴 또는 더 높은 수준의 특성과 같은 더 복잡한 특징을 찾을 수 있습니다.

먼저 인기있는 ImageNet 데이터 세트의 2.5 개 카테고리에 걸쳐 2,000 만 개의 이미지에 대해 AI를 교육했습니다. 그런 다음 출력 계층 이전의 마지막 계층을 포함하여 네트워크의 다양한 계층에서 특징을 추출했습니다. T헤이 참조 이들 "개념적 특징"으로y 학습 된 최고 수준의 기능이며 ATL에 인코딩 될 수있는 추상 개념과 가장 유사합니다.

그런 다음 이러한 다양한 기능 세트를 사용하여 AI가 2, 4, 8, 16, 32, 64 및 128 예제를 기반으로 새로운 개념을 학습하도록 훈련했습니다. 그들은 개념적 특징을 사용하는 AI가 더 적은 수의 예제에서 낮은 수준의 기능을 사용하여 훈련 된 것보다 훨씬 더 나은 성능을 산출했지만 더 많은 훈련 예제가 제공됨에 따라 차이가 줄어든다는 것을 발견했습니다.

연구자들이 AI를 설정하는 도전을 인정하는 동안 wa상대적으로 간단하고 복잡한 시각적 추론 과정의 한 측면 만 다룹니다.id 생물학적으로 그럴듯한 접근 방식을 사용하여 몇 번의 문제를 해결하는 것은 신경 과학과 AI 모두에서 유망한 새로운 길을 열어줍니다.

"우리의 연구 결과는 컴퓨터가 더 빠르고 효율적으로 학습하는 데 도움이 될 수있는 기술을 제안 할뿐만 아니라 사람들이 어떻게 그렇게 빨리 학습하는지 이해하기위한 개선 된 신경 과학 실험으로 이어질 수 있습니다. 이는 아직 잘 이해되지 않았습니다.”Riesenhuber said.

연구원들이 지적했듯이 인간의 시각 시스템은 우리 주변의 세계를 이해하는 데있어 여전히 최고의 표준입니다. 디자인 원칙에서 차용하는 것은 향후 연구를위한 수익성있는 방향으로 판명 될 수 있습니다.

이미지 신용 : 게르트 알트만Pixabay

출처 : https://singularityhub.com/2021/01/18/how-mirroring-the-architecture-of-the-human-brain-is-speeding-up-ai-learning/

spot_img

최신 인텔리전스

spot_img

우리와 함께 채팅

안녕하세요! 어떻게 도와 드릴까요?