저자: 비탈릭 부테린(Vitalik Buterin) 비탈릭 부테린 블로그

피드백과 토론을 해주신 Worldcoin 및 Modulus Labs 팀인 Xinyuan Sun, Martin Koeppelmann 및 Illia Polosukhin에게 특별히 감사드립니다.

수년에 걸쳐 많은 사람들이 나에게 비슷한 질문을 했습니다. 교차 내가 가장 유익하다고 생각하는 암호화폐와 AI 사이는? 합리적인 질문입니다. 암호화폐와 AI는 지난 10년 동안 두 가지 주요 딥(소프트웨어) 기술 트렌드였으며, 마치 거기에 있는 것처럼 느껴집니다. 절대로 필요한 것 둘 사이에 일종의 연결이 있어야합니다. 피상적인 분위기 수준에서 시너지 효과를 내는 것은 쉽습니다. 암호화폐 분산화는 AI 중앙 집중화 균형 유지, AI는 불투명하고 암호화폐는 투명성을 제공합니다. AI에는 데이터가 필요하며 블록체인은 데이터를 저장하고 추적하는 데 좋습니다. 하지만 몇 년이 지나면서 사람들이 나에게 더 깊이 파고들고 특정 응용 프로그램에 대해 이야기해 달라고 요청하면 내 대답은 실망스러웠습니다. "예, 몇 가지가 있지만 그다지 많지는 않습니다."

지난 3년 동안 훨씬 더 강력한 AI가 현대의 형태로 등장하면서 LLM, 그리고 블록체인 확장 솔루션뿐만 아니라 ZKP, FHE, (양당 및 N당) MPC, 나는 이러한 변화를 보기 시작했습니다. 실제로 블록체인 생태계 내부에는 유망한 AI 응용 프로그램이 있습니다. 암호화폐와 AI를 결합하다하지만 AI가 어떻게 적용되는지 주의하는 것이 중요합니다. 특히 어려운 점은 암호화에서는 오픈 소스가 무언가를 진정으로 안전하게 만드는 유일한 방법이지만 AI에서는 모델(또는 해당 훈련 데이터)이 공개된다는 점입니다. 크게 증가 에 대한 취약성 적대적 머신 러닝 공격. 이번 포스팅에서는 암호화폐와 AI가 교차할 수 있는 다양한 방식을 분류하고, 각 카테고리의 전망과 과제를 살펴보겠습니다.

암호화폐+AI 교차점에 대한 높은 수준의 요약 uETH 블로그 게시물. 그러나 구체적인 애플리케이션에서 이러한 시너지 효과를 실제로 실현하려면 무엇이 필요합니까?

 

네 가지 주요 카테고리

AI는 매우 광범위한 개념입니다. "AI"는 명시적으로 지정하는 것이 아니라 큰 계산 수프를 휘젓고 수프를 다음 방향으로 밀어넣는 일종의 최적화 압력을 가하여 생성하는 알고리즘 세트라고 생각할 수 있습니다. 원하는 속성을 가진 알고리즘을 생성합니다. 이 설명을 무시해서 받아들여서는 안 됩니다. 포함 전에, 방법 그 만든 우선 우리 인간! 그러나 이는 AI 알고리즘이 몇 가지 공통된 특성을 가지고 있음을 의미합니다. 즉, 극도로 강력한 작업을 수행하는 능력과 내부에서 무슨 일이 일어나고 있는지 알거나 이해하는 능력의 한계가 있습니다.

AI를 분류하는 방법에는 여러 가지가 있습니다. 이 게시물의 목적에 따라 AI와 블록체인 간의 상호 작용에 대해 설명합니다. "게임"을 만드는 중), 다음과 같이 분류하겠습니다.

• 게임 플레이어로서의 AI [가장 높은 생존 가능성]: 인간의 입력이 포함된 프로토콜에서 인센티브의 궁극적인 원천이 나오는 메커니즘에 참여하는 AI.
• 게임 인터페이스로서의 AI [높은 잠재력, 그러나 위험이 있음]: AI는 사용자가 주변의 암호화폐 세계를 이해하고 행동(예: 서명된 메시지 및 거래)이 의도와 일치하고 속거나 사기를 당하지 않도록 보장합니다.
• 게임의 규칙으로서의 AI [매우 주의 깊게 다루십시오]: 블록체인, DAO 및 AI를 직접 호출하는 유사한 메커니즘. 예를 들어 생각해보세요. “AI 심사위원”
• 게임의 목표로서의 AI [장기적이지만 흥미로움]: 다른 목적으로 사용될 수 있는 AI를 구축하고 유지하는 것을 목표로 블록체인, DAO 및 유사한 메커니즘을 설계합니다. 암호화 비트를 사용하여 교육을 더 효과적으로 장려하거나 AI가 개인 데이터를 유출하거나 오용하는 것을 방지합니다.

이를 하나씩 살펴보겠습니다.

게임 속의 플레이어로서의 AI

이것은 실제로 거의 10년 동안 존재해 온 카테고리입니다. 온체인 탈중앙화 거래소(DEX) 본격적으로 활용되기 시작했습니다. 거래소가 있을 때마다 차익거래를 통해 돈을 벌 수 있는 기회가 있으며, 봇은 인간보다 차익거래를 훨씬 더 잘 할 수 있습니다. 이 사용 사례는 오늘날보다 훨씬 단순한 AI에서도 오랫동안 존재해 왔지만 궁극적으로는 매우 실제적인 AI + 암호화 교차점입니다. 최근에는 MEV 차익거래 봇을 보았습니다. 종종 서로를 착취한다.. 경매나 거래와 관련된 블록체인 애플리케이션이 있을 때마다 차익거래 봇을 갖게 될 것입니다.

그러나 AI 차익거래 봇은 훨씬 더 큰 범주의 첫 번째 예일 뿐이며, 곧 다른 많은 애플리케이션이 포함되기 시작할 것으로 예상됩니다. AIOmen을 만나보세요 AI가 참여하는 예측 시장 데모:

예측 시장은 오랫동안 인식론 기술의 성배였습니다. 나는 예측 시장을 거버넌스(“futarchy”)의 입력으로 사용하는 것에 흥미를 느꼈습니다. 다시 2014의및 그들과 광범위하게 놀았다 지난 선거에서도 그렇고 최근. 그러나 지금까지 예측 시장은 성공하지 못했습니다. 너무 많은 실제로 그 이유는 다음과 같습니다. 가장 큰 참가자는 종종 비합리적이며, 올바른 지식을 가진 사람들은 시간을 들여 베팅하지 않는 한 기꺼이 시간을 투자하지 않습니다. 많이 돈이 관련되어 있고 시장이 부족한 경우가 많습니다.

이에 대한 한 가지 대응은 지속적인 UX 개선을 지적하는 것입니다. 폴리 마켓 또는 기타 새로운 예측 시장이 있으며 이전 반복이 실패한 곳에서 성공할 수 있기를 바랍니다. 결국 이야기는 사람들이 기꺼이 내기를 걸었다는 것입니다. 스포츠에 수백억 달러그렇다면 왜 사람들은 미국 선거나 선거에 충분한 돈을 투자하지 않을까요? LK99 진지한 선수들이 들어오기 시작하는 것이 이해가 되기 시작한다고요? 하지만 이 주장은 이전 반복이 있다 (적어도 지지자들의 꿈과 비교했을 때) 이 수준의 규모에 도달하지 못했기 때문에 뭔가 새로운 것을 예측시장을 성공시키려면 따라서 다른 반응은 2020년대에는 볼 수 없었지만 2010년대에는 볼 수 있을 것으로 예상되는 예측 시장 생태계의 한 가지 특정 기능을 지적하는 것입니다. AI의 유비쿼터스 참여 가능성.

AI는 시간당 1달러 미만의 비용으로 일할 의향이 있고 백과사전에 대한 지식을 갖추고 있습니다. 이것이 충분하지 않은 경우 실시간 웹 검색 기능과 통합될 수도 있습니다. 시장을 만들고 50달러의 유동성 보조금을 지급하면 인간은 입찰에 충분히 신경 쓰지 않을 것이지만 수천 명의 AI가 문제 전체에 쉽게 몰려들어 가능한 최선의 추측을 할 것입니다. 하나의 질문에 대해 좋은 결과를 얻으려는 인센티브는 작을 수 있지만, 좋은 예측을 하는 AI를 만드는 인센티브는 매우 작습니다. 대개 수백만 달러에 달할 수도 있습니다. 잠재적으로 대부분의 질문을 판단하는 데 인간이 필요하지도 않습니다.: 다음과 유사한 다단계 분쟁 시스템을 사용할 수 있습니다. 예언자 또는 AI가 이전 라운드에 참여하는 Kleros도 있습니다. 인간은 일련의 단계적 확대가 발생하고 양측이 막대한 돈을 투입한 소수의 경우에만 대응하면 됩니다.

이는 강력한 기본 요소입니다. 왜냐하면 "예측 시장"이 이렇게 미시적인 규모로 작동하도록 만들어지면 다른 많은 종류의 질문에 대해 "예측 시장" 기본 요소를 재사용할 수 있기 때문입니다.

• 이 소셜 미디어 게시물이 [이용 약관]에 따라 허용됩니까?
• 주식 X의 가격은 어떻게 될까요(예: 누 메리)
• 현재 나에게 메시지를 보내는 이 계정이 실제로 Elon Musk인가요?
• 온라인 작업 마켓플레이스에 작품을 제출해도 되나요?
• https://examplefinance.network의 dapp은 사기인가요?
• Is 0x1b54....98c3 실제로 "Casinu Inu" ERC20 토큰의 주소는 무엇입니까?

이러한 아이디어 중 상당수가 제가 "정보 방어" 안에 . 광범위하게 정의된 질문은 다음과 같습니다. 중앙화된 기관이 옳고 그름을 결정하고 그 입장을 남용할 수 있는 권한을 부여하지 않고 사용자가 참 정보와 거짓 정보를 구별하고 사기를 감지하도록 어떻게 도울 수 있습니까? 미시적인 수준에서 대답은 "AI"일 수 있습니다. 그러나 거시적 수준에서 문제는 누가 AI를 만드는가 하는 것입니다. AI는 그것을 만든 프로세스를 반영하므로 편견을 피할 수 없습니다. 따라서 AI가 게임의 플레이어로 참여할 수 있는 다양한 AI의 성능을 판단하는 더 높은 수준의 게임이 필요합니다..

AI가 인간으로부터 입력을 수집하는 온체인 메커니즘(분산형 시장 기반이라고 함)에 의해 (확률적으로) 궁극적으로 보상을 받거나 불이익을 받는 메커니즘에 참여하는 AI의 사용입니다. RLHF?), 정말 조사해 볼 가치가 있다고 생각되는 것입니다. 이제 이와 같은 사용 사례를 더 자세히 살펴볼 적절한 시기입니다. 왜냐하면 블록체인 확장이 마침내 성공하여 이전에는 흔히 불가능했던 "마이크로" 모든 것이 마침내 온체인에서 실행 가능하게 되었기 때문입니다.

관련 애플리케이션 카테고리는 고도로 자율적인 에이전트 방향으로 진행됩니다. 더 나은 협력을 위해 블록체인을 사용, 신뢰할 수 있는 약속을 하기 위해 결제를 통해서든 스마트 계약을 사용하든 상관없습니다.

게임 인터페이스로서의 AI

내가 내 생각에서 가져온 한 가지 아이디어 에 대한 글 사용자가 탐색하는 온라인 세계의 위험을 해석하고 식별함으로써 사용자의 이익을 보호하는 사용자 지향 소프트웨어를 작성할 수 있는 시장 기회가 있다는 생각입니다. 이에 대한 이미 존재하는 예 중 하나는 Metamask의 사기 감지 기능입니다.

또 다른 예는 래비 지갑의 사용자가 서명하려는 거래의 예상 결과를 보여주는 시뮬레이션 기능입니다.

Rabby는 내 모든 "BITCOIN"(실제 BTC가 아닌 임의의 사기 ERC20)을 ETH로 거래하기 위한 거래에 서명한 결과에 대해 설명했습니다.

잠재적으로 이러한 종류의 도구는 AI로 강화될 수 있습니다. AI는 귀하가 어떤 종류의 Dapp에 참여하고 있는지, 특정 토큰이 정품인지 여부(예: BITCOIN 이는 단순한 문자열이 아니라 ERC20 토큰이 아니고 가격이 0.045달러보다 훨씬 높은 실제 암호화폐의 이름이며 현대 LLM은 이를 알고 있을 것입니다.) 등이 있습니다. 이 방향으로 끝까지 나아가기 시작하는 프로젝트가 있습니다(예: 랭체인 지갑, AI를 다음과 같은 수단으로 사용합니다. 일차 상호 작용). 내 의견은 순수 AI 인터페이스가 현재로서는 너무 위험할 수 있다는 것입니다. other 오류의 종류, 그러나 보다 전통적인 인터페이스를 보완하는 AI는 매우 실용적이 되고 있습니다.

언급할 가치가 있는 특별한 위험이 하나 있습니다. 이에 대해서는 아래 "게임 규칙으로서의 AI" 섹션에서 자세히 설명하겠습니다. 일반적인 문제는 적대적 기계 학습입니다. 사용자가 오픈 소스 지갑 내부의 AI 보조자에 액세스할 수 있는 경우 악의적인 사람도 해당 AI 보조자에 액세스할 수 있으므로 사기를 유발하지 않도록 최적화할 수 있는 무한한 기회를 갖게 됩니다. 그 지갑의 방어벽. 모든 현대 AI에는 어딘가에 버그가 있으며 훈련 과정이 그리 어렵지 않습니다. 모델에 대한 제한된 액세스, 그들을 찾으려면.

이것이 "온체인 마이크로 시장에 참여하는 AI"가 더 잘 작동하는 곳입니다. 각각의 개별 AI는 동일한 위험에 취약하지만 의도적으로 수십 명의 사람들이 이를 지속적으로 반복하고 개선하는 개방형 생태계를 만들고 있습니다. 또한 각 개별 AI는 폐쇄적입니다. 시스템의 보안은 규칙의 개방성에서 비롯됩니다. 경기, 각각의 내부 작동이 아닙니다. 플레이어.

슬립폼 공법 선택시 고려사항 AI는 사용자가 일반 언어로 무슨 일이 일어나고 있는지 이해하는 데 도움을 줄 수 있고 실시간 교사 역할을 할 수 있으며 사용자를 실수로부터 보호할 수 있지만 악의적인 잘못된 정보 제공자 및 사기꾼에 대해 직접 사용하려고 할 때는 경고를 받습니다.

게임의 규칙으로서의 AI

이제 우리는 많은 사람들이 흥미를 갖고 있는 응용 프로그램에 도달했습니다. 그러나 제 생각에는 가장 위험하고 가장 조심스럽게 밟아야 할 부분이 바로 AI라고 부르는 것이 게임 규칙의 일부입니다. 이는 "AI 판사"에 대한 주류 정치 엘리트들의 흥분과 관련이 있습니다(예: 이 문서 "World Government Summit" 웹사이트에 있음) 블록체인 애플리케이션에는 이러한 욕구와 유사한 내용이 있습니다. 블록체인 기반 스마트 계약이나 DAO가 주관적인 결정을 내려야 하는 경우(예: 고용 계약에서 특정 작업 제품이 허용되는지? 낙천주의와 같은 자연어 구성에 대한 올바른 해석은 무엇입니까?) 사슬의 법칙?), 이러한 규칙을 시행하는 데 도움이 되도록 AI를 계약이나 DAO의 일부로 만들 수 있습니까?

여기는 적대적 머신 러닝 매우 힘든 도전이 될 것입니다. 기본적인 두 문장으로 된 주장 이유는 다음과 같습니다.

메커니즘에서 핵심적인 역할을 하는 AI 모델이 폐쇄되면 내부 작동을 확인할 수 없으므로 중앙 집중식 애플리케이션보다 나을 것이 없습니다. AI 모델이 공개된 경우 공격자는 이를 다운로드하여 로컬로 시뮬레이션하고 고도로 최적화된 공격을 설계하여 모델을 속인 다음 라이브 네트워크에서 재생할 수 있습니다.

적대적 머신러닝 예시. 원천: researchgate.net

이제 이 블로그를 자주 읽는 독자(또는 암호화폐 세계의 거주자)는 이미 저보다 앞서서 다음과 같이 생각할 수도 있습니다. 하지만 잠깐만요! 우리는 멋진 영지식 증명과 기타 정말 멋진 형태의 암호화를 보유하고 있습니다. 확실히 우리는 암호화 마법을 사용할 수 있고 공격자가 공격을 최적화할 수 없도록 모델의 내부 작동을 숨길 수 있지만 동시에 증명 모델이 올바르게 실행되고 있으며 합리적인 기본 데이터 세트에 대한 합리적인 교육 프로세스를 사용하여 구성되었습니다!

일반적으로 이것은 정확하게 내가 이 블로그와 다른 글에서 옹호하는 사고 유형입니다. 그러나 AI 관련 계산의 경우 크게 두 가지 반대 의견이 있습니다.

1. 암호화 오버헤드: SNARK(또는 MPC 또는…) 내부에서 작업을 수행하는 것은 "명확하게" 수행하는 것보다 훨씬 덜 효율적입니다. AI가 이미 계산 집약적이라는 점을 감안할 때, 암호화 블랙박스 내에서 AI를 수행하는 것이 계산적으로 실행 가능할까요?
2. 블랙박스 적대적 머신러닝 공격: AI 모델에 대한 공격을 최적화하는 방법이 있습니다 많은 것을 알지 못하더라도 모델의 내부 작동에 대해. 그리고 숨기면 너무 많은, 훈련 데이터를 선택한 사람이 모델을 손상시키기가 너무 쉬워질 위험이 있습니다. 중독 공격.

둘 다 복잡한 토끼굴이므로 차례로 하나씩 살펴보겠습니다.

암호화 오버헤드

암호화 가젯, 특히 ZK-SNARK 및 MPC와 같은 범용 가젯은 오버헤드가 높습니다. Ethereum 블록은 클라이언트가 직접 확인하는 데 수백 밀리초가 걸리지만 이러한 블록의 정확성을 증명하기 위해 ZK-SNARK를 생성하는 데 몇 시간이 걸릴 수 있습니다. MPC와 같은 다른 암호화 장치의 일반적인 오버헤드는 훨씬 더 심각할 수 있습니다. AI 계산은 이미 비용이 많이 듭니다. 가장 강력한 LLM은 종종 수백만 달러에 달하는 계산 비용은 말할 것도 없고 인간이 읽을 수 있는 것보다 약간 더 빠르게 개별 단어를 출력할 수 있습니다. 훈련 모델. 최상위 모델과 훨씬 더 절약하려고 노력하는 모델의 품질 차이 훈련 비용 or 매개변수 개수 크다. 언뜻보기에 이는 AI를 암호화하여 AI에 보증을 추가하려는 전체 프로젝트를 의심할만한 매우 좋은 이유입니다.

하지만 다행히 AI는 매우 구체적인 유형 모든 종류의 최적화가 가능한 계산 ZK-EVM과 같은 "구조화되지 않은" 유형의 계산에서는 이점을 얻을 수 없습니다. AI 모델의 기본 구조를 살펴보겠습니다.

일반적으로 AI 모델은 대부분 다음과 같은 요소별 비선형 연산이 산재된 일련의 행렬 곱셈으로 구성됩니다. 릴루 함수 (y = max(x, 0)). 점근적으로 행렬 곱셈은 작업의 대부분을 차지합니다. N*N 행렬 �(�2.8) 시간 소요, 비선형 작업의 수는 훨씬 적습니다. 이는 암호화에 정말 편리합니다. 왜냐하면 많은 형태의 암호화가 선형 연산(적어도 모델을 암호화하지만 모델에 대한 입력은 암호화하지 않는 경우 행렬 곱셈)을 거의 "무료"로 수행할 수 있기 때문입니다..

당신이 암호학자라면 아마도 이미 비슷한 현상에 대해 들어봤을 것입니다. 동형 암호화: 공연 추가 암호화된 암호문에 대한 작업은 정말 쉽지만 곱셈 믿을 수 없을 정도로 어렵고 우리는 2009년까지 무제한의 깊이로 이를 수행할 수 있는 방법을 전혀 찾지 못했습니다.

ZK-SNARK의 경우 이에 상응하는 것은 다음과 같습니다. 2013년부터 이와 같은 프로토콜, 이는 4배 미만 행렬 곱셈을 증명하는 데 드는 오버헤드. 불행하게도 비선형 레이어의 오버헤드는 여전히 상당하며 실제로 최상의 구현에서는 약 200배의 오버헤드가 나타납니다. 그러나 추가 연구를 통해 이러한 현상이 크게 줄어들 수 있다는 희망이 있습니다. 보다 Ryan Cao의 프레젠테이션 GKR을 기반으로 한 최근 접근 방식과 내 자신의 접근 방식에 대해 GKR의 주요 구성요소가 어떻게 작동하는지에 대한 간단한 설명.

그러나 많은 응용 분야에서 우리는 단순히 증명 AI 출력이 올바르게 계산되었는지 확인하고 싶습니다. 모델 숨기기. 이에 대한 순진한 접근 방식이 있습니다. 서로 다른 서버 세트가 각 레이어를 중복 저장하도록 모델을 분할하고 일부 레이어를 유출하는 서버 중 일부가 너무 많은 데이터를 유출하지 않기를 바랍니다. 하지만 놀라울 정도로 효과적인 형태도 있습니다. 전문적인 다자간 계산.

모델을 비공개로 유지하면서 입력 내용을 공개하는 이러한 접근 방식 중 하나를 단순화한 다이어그램입니다. 모델과 입력을 비공개로 유지하려면 좀 더 복잡해지지만 그렇게 할 수 있습니다. 페이지 8-9를 참조하세요. 종이.

두 경우 모두 이야기의 교훈은 동일합니다. AI 계산의 가장 큰 부분은 행렬 곱셈입니다. 매우 효율적 ZK-SNARK 또는 MPC(또는 FHE)이므로 AI를 암호화 상자에 넣는 데 따른 총 오버헤드는 놀라울 정도로 낮습니다.. 일반적으로 작은 크기에도 불구하고 가장 큰 병목 현상이 발생하는 것은 비선형 레이어입니다. 아마도 다음과 같은 새로운 기술 조회 인수 그러나 권한을 얻는 것은 제작자와 사용자 모두에게 시간이 많이 걸리고 복잡할 수 있으며 크리에이티브 커먼즈 라이선스가 이를 해결할 수 있다.

블랙박스 적대적 머신러닝

이제 다른 큰 문제인 공격 유형에 대해 알아보겠습니다. 경우에도 모델의 콘텐츠는 비공개로 유지되며 모델에 대한 "API 액세스"만 가능합니다. 인용하다 2016의 종이:

많은 기계 학습 모델은 적대적인 예, 즉 기계 학습 모델이 잘못된 출력을 생성하도록 특별히 제작된 입력에 취약합니다. 한 모델에 영향을 미치는 적대적 예는 두 모델이 서로 다른 아키텍처를 가지고 있거나 서로 다른 훈련 세트로 훈련된 경우에도 두 모델이 동일한 작업을 수행하도록 훈련된 경우 다른 모델에 영향을 미치는 경우가 많습니다.. 따라서 공격자는 자신의 대체 모델을 훈련하고 대체 모델에 대한 적대적인 예를 제작한 다음 피해자에 대한 정보가 거의 없는 피해자 모델로 전송할 수 있습니다.

"대상 분류기"에 대한 블랙박스 액세스를 사용하여 로컬에 저장된 "추론 분류기"를 훈련하고 개선합니다. 그런 다음 추론된 분류기에 대해 최적화된 공격을 로컬에서 생성합니다. 이러한 공격은 종종 원래 대상 분류자에 대해서도 작동하는 것으로 나타났습니다. 다이어그램 소스.

잠재적으로 알고 있는 공격을 생성할 수도 있습니다. 그냥 훈련 데이터, 공격하려는 모델에 대한 액세스가 매우 제한적이거나 전혀 없는 경우에도 마찬가지입니다. 2023년 현재에도 이런 종류의 공격은 계속해서 큰 문제가 되고 있다.

이러한 종류의 블랙박스 공격을 효과적으로 줄이려면 다음 두 가지 작업을 수행해야 합니다.

1. 정말로 모델에 쿼리할 수 있는 사람 또는 대상을 제한합니다. 그리고 얼마나. API 액세스가 무제한인 블랙박스는 안전하지 않습니다. API 액세스가 매우 제한된 블랙박스일 수 있습니다.
2. 신뢰도를 유지하면서 훈련 데이터를 숨깁니다. 훈련 데이터를 생성하는 데 사용된 프로세스가 손상되지 않았는지 확인합니다.

전자에서 가장 많은 성과를 거둔 프로젝트는 아마도 Worldcoin일 것입니다. 저는 그 중 이전 버전(다른 프로토콜 중에서)을 자세히 분석했습니다. 여기에서 지금 확인해 보세요.. Worldcoin은 프로토콜 수준에서 AI 모델을 광범위하게 사용하여 (i) 홍채 스캔을 유사성을 쉽게 비교할 수 있는 짧은 "홍채 코드"로 변환하고 (ii) 스캔하는 대상이 실제로 인간인지 확인합니다. Worldcoin이 의존하고 있는 주요 방어 수단은 다음과 같습니다. 누구나 단순히 AI 모델을 호출할 수 있는 것이 아닙니다. 오히려 신뢰할 수 있는 하드웨어를 사용하여 모델이 구체의 카메라에서 디지털 서명된 입력만 허용하도록 보장합니다..

이 접근 방식은 작동이 보장되지 않습니다. 생체 인식 AI에 대해 다음과 같은 형태로 적대적인 공격을 가할 수 있는 것으로 나타났습니다. 얼굴에 붙일 수 있는 물리적 패치나 장신구:

이마에 여분의 물건을 착용하고 탐지를 피하거나 다른 사람으로 사칭할 수도 있습니다. 출처.

하지만 희망은 만약 당신이 모든 방어를 하나로 결합, AI 모델 자체를 숨기고, 쿼리 수를 크게 제한하고, 각 쿼리를 어떻게든 인증하도록 요구하면 시스템을 보호할 수 있을 만큼 충분히 어려운 적대적 공격이 가능합니다.

그러면 두 번째 부분인 훈련 데이터를 어떻게 숨길 수 있을까요? 이곳은 “AI를 민주적으로 관리하는 DAO”는 실제로 의미가 있을 수 있습니다.: 누가 훈련 데이터를 제출할 수 있는지(그리고 데이터 자체에 어떤 증명이 필요한지), 누가 쿼리를 할 수 있는지, 얼마나 많은 쿼리를 할 수 있는지에 대한 프로세스를 관리하는 온체인 DAO를 생성하고 MPC와 같은 암호화 기술을 사용할 수 있습니다. 각 개별 사용자의 교육 입력부터 각 쿼리의 최종 출력까지 AI를 생성하고 실행하는 전체 파이프라인을 암호화합니다. 이 DAO는 데이터 제출에 대해 사람들에게 보상을 제공한다는 널리 알려진 목표를 동시에 충족할 수 있습니다.

이 계획은 매우 야심적이며 비실용적일 수 있는 여러 가지 방법이 있다는 점을 다시 한 번 강조하는 것이 중요합니다.

• 암호화 오버헤드가 여전히 너무 높을 수 있음 이러한 종류의 완전한 블랙박스 아키텍처가 기존의 폐쇄적인 "나를 믿으세요" 접근 방식과 경쟁할 수 있기 때문입니다.
• 다음과 같은 결과가 나올 수 있습니다. 훈련 데이터 제출 프로세스를 분산화하는 좋은 방법은 없습니다. 과 보호 중독 공격에 대비합니다.
• 다자간 계산 가젯이 작동하지 않을 수 있음 안전 또는 개인 정보 보호 보장 공모하는 참가자들: 결국 이런 일은 크로스체인 암호화폐 브릿지에서 일어났습니다. 다시 과 다시.

제가 이 섹션을 "AI 판사를 하지 마세요, 그건 디스토피아적입니다"라는 더 큰 빨간색 경고 라벨로 시작하지 않은 이유 중 하나는 우리 사회가 이미 무책임한 중앙 집중식 AI 판사에 크게 의존하고 있기 때문입니다. 게시물과 정치적 의견은 소셜 미디어에서 상승하거나 하락하거나 심지어 검열되기도 합니다. 내 생각엔 이런 추세가 확대되는 것 같아 추가 현 단계에서는 상당히 나쁜 생각이지만 그렇게 될 가능성은 크지 않다고 생각합니다. AI를 실험하는 블록체인 커뮤니티 상황을 더욱 악화시키는 요인이 될 것입니다.

사실, 암호화 기술을 사용하면 이러한 기존 중앙 집중식 시스템을 더 좋게 만들 수 있는 매우 기본적이고 위험도가 낮은 몇 가지 방법이 있다고 확신합니다. 한 가지 간단한 기술은 다음과 같습니다. 공개가 지연된 검증된 AI: 소셜 미디어 사이트가 AI 기반 게시물 순위를 매길 때 해당 순위를 생성한 모델의 해시를 증명하는 ZK-SNARK를 게시할 수 있습니다. 사이트는 예를 들어 AI 모델을 공개하기로 약속할 수 있습니다. 1년 지연. 모델이 공개되면 사용자는 해시를 확인하여 올바른 모델이 출시되었는지 확인할 수 있고, 커뮤니티는 모델에 대한 테스트를 실행하여 모델의 공정성을 확인할 수 있습니다. 출판이 지연되면 모델이 공개될 때쯤에는 이미 오래된 모델이 됩니다.

그래서 비교하면 중앙 세상, 문제는 그렇지 않다 if 우리는 더 잘할 수 있지만 얼마만큼. 에 대한 탈 중앙화 된 세계그러나 다음 사항에 주의하는 것이 중요합니다. 예를 들어 누군가가 빌드하는 경우. AI 오라클을 활용한 예측시장이나 스테이블코인이 오라클을 공격할 수 있다는 사실이 밝혀지면 한순간에 사라질 수 있는 엄청난 금액이다..

게임의 목표로서의 AI

위의 내용이 누구도 알 수 없는 블랙박스인 확장 가능한 분산형 프라이빗 AI를 생성하기 위한 기술이 실제로 작동할 수 있다면, 이는 블록체인을 뛰어넘는 유틸리티를 갖춘 AI를 생성하는 데에도 사용될 수 있습니다. NEAR 프로토콜 팀은 이를 현재 진행 중인 작업의 핵심 목표.

이렇게 하는 데는 두 가지 이유가 있습니다.

1. 만약 너라면 만들다 "신뢰할 수 있는 블랙박스 AI”블록체인과 MPC의 일부 조합을 사용하여 훈련 및 추론 프로세스를 실행하면 사용자가 시스템이 편향되거나 부정 행위를 하는 것에 대해 걱정하는 많은 애플리케이션이 이점을 누릴 수 있습니다. 많은 분들이 바라는 마음을 표현해주셨는데요 민주당 지배 시스템적으로 중요한 AI의 우리가 의지할 것; 암호화 및 블록체인 기반 기술은 이를 위한 경로가 될 수 있습니다.
2. ~에서 AI 안전 관점에서 볼 때 이는 자연적인 킬 스위치도 가지고 있고 악의적인 행동에 AI를 사용하려는 쿼리를 제한할 수 있는 분산형 AI를 만드는 기술이 될 것입니다.

또한 "더 나은 AI를 만드는 데 인센티브를 제공하기 위해 암호화 인센티브를 사용하는 것"은 암호화를 사용하여 완전히 암호화하는 토끼굴을 완전히 내려가지 않고도 수행할 수 있다는 점도 주목할 가치가 있습니다. 비트텐서 이 범주에 속합니다.

결론

이제 블록체인과 AI가 더욱 강력해지면서 두 영역이 교차하는 사용 사례가 늘어나고 있습니다. 그러나 이러한 사용 사례 중 일부는 다른 사용 사례보다 훨씬 더 합리적이고 훨씬 강력합니다. 일반적으로 기본 메커니즘은 이전과 같이 대략적으로 계속 설계되지만 개별적인 사용 사례는 다음과 같습니다. 플레이어 훨씬 더 미시적인 규모에서 메커니즘이 효과적으로 작동할 수 있도록 하는 AI가 되는 것이 가장 즉각적으로 유망하고 가장 쉬운 방법입니다.

제대로 작동하기 가장 어려운 것은 블록체인과 암호화 기술을 사용하여 "싱글톤"(일부 응용 프로그램이 어떤 목적으로 의존하는 단일 분산형 신뢰할 수 있는 AI)을 생성하려는 응용 프로그램입니다. 이러한 애플리케이션은 해당 문제에 대한 보다 주류 접근 방식과 관련된 중앙 집중화 위험을 피하는 방식으로 기능과 AI 안전성 향상 모두에 대한 가능성을 가지고 있습니다. 그러나 기본 가정이 실패할 수 있는 방법도 많습니다. 따라서 특히 고가치 및 고위험 환경에 이러한 애플리케이션을 배포할 때는 신중하게 처리할 가치가 있습니다.

저는 이 모든 영역에서 AI의 건설적인 사용 사례에 대한 더 많은 시도를 보고 그 중 어느 것이 실제로 규모에 맞게 실행 가능한지 확인할 수 있기를 기대합니다.

저자: Vitalik Buterin

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• BlockOffsets. 환경 오프셋 소유권 현대화. 여기에서 액세스하십시오.
• 출처: 플라톤 데이터 인텔리전스.