OpenAI, 캠브리지 대학, 하버드 대학, 토론토 대학의 연구원들은 "탐색적"을 제안했습니다. AI 칩과 하드웨어를 규제하는 방법에 대한 아이디어, 보안 정책이 고급 AI의 남용을 어떻게 방지할 수 있는지 알아보세요.

권장 사항은 고급 AI 시스템과 이를 구동하는 칩의 개발 및 사용을 측정하고 감사하는 방법을 제공합니다. 정책 시행 권장 사항에는 시스템 성능 제한과 악성 칩을 원격으로 비활성화할 수 있는 보안 기능 구현이 포함됩니다.

연구원들은 “현재 고성능 AI 시스템을 훈련하려면 수천 개의 AI 칩을 축적하고 조정해야 합니다.”라고 썼습니다. "[I]이러한 시스템이 잠재적으로 위험할 경우 축적된 컴퓨팅 성능을 제한하면 잠재적으로 위험한 AI 시스템의 생산을 제한하는 역할을 할 수 있습니다."

Insight 64의 수석 분석가인 Nathan Brookwood는 정부가 AI 정책을 위한 소프트웨어에 주로 초점을 맞춰 왔으며 이 논문은 논쟁의 하드웨어 측면을 다루는 자매편이라고 말했습니다.

그러나 업계에서는 AI 성능에 영향을 미치는 보안 기능을 환영하지 않을 것이라고 그는 경고합니다. 하드웨어를 통해 AI를 안전하게 만드는 것은 고귀한 열망이지만, 그것을 만드는 사람은 아무도 볼 수 없습니다. 지니가 램프 밖으로 나갔으니 행운을 빌어 다시 램프에 들어오게 되기를 바랍니다.”라고 그는 말합니다.

클러스터 간 연결 제한

연구원들이 제안한 제안 중 하나는 AI 모델에 사용할 수 있는 컴퓨팅 처리 용량을 제한하는 것입니다. AI 시스템의 남용을 식별하고 칩 사용을 차단 및 제한할 수 있는 보안 조치를 마련하는 것이 아이디어입니다.

구체적으로 그들은 메모리와 칩 클러스터 사이의 대역폭을 제한하는 목표화된 접근 방식을 제안합니다. 연구원들은 칩에 대한 접근을 차단하는 더 쉬운 대안은 전반적인 AI 성능에 영향을 미치기 때문에 이상적이지 않다고 썼습니다.

이 논문은 그러한 보안 가드레일을 구현하는 방법이나 AI 시스템의 남용을 감지할 수 있는 방법을 제안하지 않았습니다.

연구원들은 “외부 통신을 위한 최적의 대역폭 제한을 결정하는 것은 추가 연구가 필요한 분야입니다.”라고 썼습니다.

대규모 AI 시스템은 엄청난 네트워크 대역폭을 요구하며, Microsoft의 Eagle, Nvidia의 Eos와 같은 AI 시스템은 그 중 하나입니다. 세계에서 가장 빠른 슈퍼컴퓨터 TOP 10. 네트워크 트래픽을 분석하고 라우터와 스위치를 재구성할 수 있는 P4 프로그래밍 언어를 지원하는 장치에는 네트워크 성능을 제한하는 방법이 있습니다.

하지만 칩 제조업체에 칩과 네트워크 속도를 늦출 수 있는 AI 보안 메커니즘을 구현하도록 요청하는 것은 행운이라고 Brookwood는 말합니다.

“Arm, Intel, AMD는 모두 경쟁력을 갖추기 위해 구축할 수 있는 가장 빠르고 의미 있는 칩을 구축하느라 바쁩니다. 어떻게 속도를 늦출 수 있는지 모르겠습니다.”라고 그는 말합니다.

원격 가능성에는 약간의 위험이 따릅니다.

연구원들은 또한 Intel이 최신 서버 칩에 내장한 기능인 칩을 원격으로 비활성화할 것을 제안했습니다. 온디맨드 기능은 인텔 고객이 AI 확장과 같은 온칩 기능을 켜거나 끌 수 있는 구독 서비스입니다. Tesla의 열선 시트.

연구원들은 또한 승인된 당사자만 암호화로 서명된 디지털 인증서를 통해 AI 시스템에 액세스할 수 있도록 칩을 허용하는 증명 체계를 제안했습니다. 펌웨어는 승인된 사용자 및 애플리케이션에 대한 지침을 제공할 수 있으며 이는 업데이트로 변경될 수 있습니다.

연구원들은 이것이 어떻게 수행될지에 대한 기술적 권장 사항을 제공하지 않았지만, 이 아이디어는 기밀 컴퓨팅이 칩의 응용 프로그램을 보호하는 방법과 유사합니다. 승인된 사용자 증명. 인텔 과 AMD 칩에 기밀 컴퓨팅 기능이 탑재되어 있지만 신흥 기술은 아직 초기 단계입니다.

정책을 원격으로 시행하는 데에는 위험도 있습니다. 연구원들은 "원격 집행 메커니즘에는 상당한 단점이 있으며 AI로 인해 예상되는 피해가 극도로 높은 경우에만 보장될 수 있습니다"라고 썼습니다.

브룩우드도 이에 동의합니다.

“가능하더라도 그것을 추구하는 나쁜 사람들이 있을 것입니다. 좋은 사람에게 인위적인 제약을 가하는 것은 효과가 없을 것입니다.”라고 그는 말합니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://www.darkreading.com/cyber-risk/what-using-security-to-regulate-ai-chips-could-look-like