획기적인 개발로 MIT 컴퓨터 과학 및 인공 지능 연구소(CSAIL)의 연구원들은 다음을 활용하는 새로운 방법을 도입했습니다. 인공 지능 (AI) 복잡한 신경망의 설명을 자동화하는 에이전트. 신경망의 크기와 정교함이 계속해서 증가함에 따라 신경망의 동작을 설명하는 것이 어려운 퍼즐이 되었습니다. MIT 팀은 AI 모델을 사용하여 다른 시스템을 실험하고 내부 작동 방식을 명확하게 설명함으로써 이 미스터리를 해결하는 것을 목표로 합니다.
신경망 해석성의 과제
훈련받은 사람의 행동 이해하기 신경망 특히 현대 모델의 복잡성이 증가함에 따라 중요한 과제를 제기합니다. MIT 연구원들은 이러한 문제를 해결하기 위해 독특한 접근 방식을 취했습니다. 개별 뉴런부터 전체 모델에 이르기까지 다양한 컴퓨팅 시스템에 대한 실험을 수행할 수 있는 AI 에이전트를 소개합니다.
사전 훈련된 언어 모델로 구축된 에이전트
MIT 팀 방법론의 핵심은 사전 훈련된 언어 모델로 구성된 에이전트입니다. 이러한 에이전트는 훈련된 네트워크 내에서 계산에 대한 직관적인 설명을 생성하는 데 중요한 역할을 합니다. 단순히 사례를 분류하거나 요약하는 수동적 해석 절차와 달리 MIT에서 개발한 인공지능 에이전트(AIA)는 가설 형성, 실험 테스트, 반복 학습에 적극적으로 참여합니다. 이러한 역동적인 참여를 통해 다른 시스템에 대한 이해를 실시간으로 개선할 수 있습니다.
자율 가설 생성 및 테스트
사라 슈웨트만(Sarah Schwettmann) 박사 이 획기적인 연구에 대한 논문의 공동 저자이자 CSAIL의 연구 과학자인 '21은 가설 생성 및 테스트에서 AIA의 자율성을 강조합니다. 다른 시스템을 자율적으로 조사하는 AIA의 능력은 과학자의 탐지를 피할 수 있는 행동을 밝혀낼 수 있습니다. Schwettmann은 언어 모델의 놀라운 기능을 강조합니다. 또한 해석 가능성을 향상시키는 실험 탐색, 설계 및 실행을 위한 도구도 갖추고 있습니다.
FIND: 참신한 디자인을 통한 해석 가능성 촉진
MIT 팀의 FIND(Facilitating Interpretability through Novel Design) 접근 방식은 계산 시스템에 대한 테스트를 계획하고 실행할 수 있는 해석 가능성 에이전트를 도입합니다. 이러한 에이전트는 다양한 형태로 설명을 생성합니다. 여기에는 시스템의 기능과 단점에 대한 언어 설명과 시스템 동작을 재현하는 코드가 포함됩니다. FIND는 전통적인 해석 방법에서 벗어나 복잡한 시스템을 이해하는 데 적극적으로 참여하는 것을 의미합니다.
실시간 학습 및 실험 설계
FIND의 역동적인 특성으로 인해 실시간 학습과 실험 설계가 가능합니다. AIA는 지속적인 가설 테스트와 실험을 통해 다른 시스템에 대한 이해를 적극적으로 개선합니다. 이 접근 방식은 해석 가능성을 향상시키고 눈에 띄지 않을 수 있는 동작을 표면화합니다.
우리말
MIT 연구원들은 해석 가능성 연구에서 FIND 접근 방식의 중추적인 역할을 구상합니다. 이는 실제 답변을 제공하는 명확한 벤치마크가 언어 모델의 발전을 주도한 것과 유사합니다. 자율적으로 가설을 생성하고 실험을 수행하는 AIA의 능력은 복잡한 신경망 세계에 대한 새로운 수준의 이해를 가져올 것을 약속합니다. MIT의 FIND 방법은 AI 해석 가능성에 대한 탐구를 촉진하고 신경망 동작을 공개하며 AI 연구를 크게 발전시킵니다.
관련
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
- PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
- PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
- 출처: https://www.analyticsvidhya.com/blog/2024/01/mit-artificial-intelligence-agents-pioneer-interpretability-in-ai-research/
