Giao thức Gensyn đào tạo đáng tin cậy các mạng thần kinh ở cấp độ siêu cao với mức độ quan trọng của chi phí thấp hơn
Liên kết: Trang web Gensyn, Giấy vải, Danh mục đầu tư CoinFund, Bài báo TechCrunch liên kết
Tóm tắt luận văn đầu tư
- Đòn bẩy thế tục để ML ngày càng phức tạp và giá trị: Độ phức tạp tính toán của các hệ thống AI hiện đại đang tăng gấp đôi sau mỗi 3 tháng, trong khi giá trị của các mô hình này đang tiếp tục tăng nhanh chóng, trong khi bản chất hộp đen trước đây của các thuật toán này ngày càng có thể phù hợp với đèn chiếu sáng có thể hiểu được của con người.
- Thiết kế hệ thống xác minh và điều phối tiểu thuyết: Gensyn đang xây dựng một hệ thống xác minh (testnet v1 sẽ được triển khai vào cuối năm nay) để giải quyết hiệu quả vấn đề phụ thuộc trạng thái trong đào tạo mạng nơ-ron ở bất kỳ quy mô nào. Hệ thống kết hợp các điểm kiểm tra đào tạo mô hình với kiểm tra xác suất kết thúc trên chuỗi. Nó thực hiện tất cả những điều này một cách đáng tin cậy và chi phí quy mô tuyến tính với kích thước mô hình (giữ cho chi phí xác minh không đổi).
- Chuyên đề tập trung vào phân cấp AI: Hầu hết các ví dụ nổi tiếng về ứng dụng học máy (ô tô tự lái của Tesla, Google DeepMind) đều được sản xuất bởi cùng một nhóm công ty, đó là bởi vì ngành học sâu hiện giống như một trò chơi độc quyền giữa các công ty Big Tech, như cũng như các bang như Trung Quốc và Hoa Kỳ. Những lực lượng này dẫn đến các lực lượng tập trung hóa khổng lồ chạy ngược lại với web3 và thậm chí là nguồn gốc lịch sử của web1.
CoinFund tự hào hỗ trợ đợt gây quỹ gần đây của Gensyn Protocol và tầm nhìn của nhóm để cho phép đào tạo mạng nơ-ron một cách đáng tin cậy với quy mô siêu cao và chi phí thấp thông qua hệ thống xác minh mới của họ. Sử dụng kiểm tra xác suất kết thúc trên chuỗi trong khi khai thác vào Các nguồn máy tính không được sử dụng và sử dụng quá mức, từ các GPU chơi game hiện chưa được sử dụng hết cho đến các nhóm khai thác ETH1 tinh vi sắp tách khỏi mạng Ethereum khi mạng đó chuyển sang Proof of Stake, giao thức Gensyn không yêu cầu người giám sát hành chính hoặc cơ quan thực thi pháp lý, thay vào đó tạo điều kiện cho việc phân phối nhiệm vụ và thanh toán theo lập trình thông qua hợp đồng thông minh. Tốt hơn nữa, bản chất phi tập trung của giao thức có nghĩa là cuối cùng nó sẽ do cộng đồng đa số quản lý và không thể bị 'tắt' nếu không có sự đồng ý của cộng đồng; điều này làm cho nó chống lại sự kiểm duyệt, không giống như các đối tác web2 của nó. Cuối cùng, chúng tôi tin rằng Gensyn đang chơi để trở thành lớp nền tảng cho tính toán ML gốc web3, vì những người tham gia bên thứ ba cuối cùng xây dựng trải nghiệm người dùng phong phú và chức năng cụ thể trong nhiều ngách.
Phần 1: Giới thiệu về Sự phát triển thế tục trong nhiều thập kỷ của Deep Learning
Mọi khuôn mặt bạn nhìn thấy trong cuộc gọi điện video và tất cả âm thanh bạn nghe được đều được điều khiển. Để cải thiện chất lượng cuộc gọi, mạng nơ-ron chọn lọc điều chỉnh độ phân giải trong Zoom và ngăn chặn tiếng ồn xung quanh trong Microsoft Teams. Nhiều tiến bộ gần đây thậm chí còn xem được video có độ phân giải thấp hơn 'mơ' thành một độ phân giải cao hơn. Mạng nơ-ron là các mô hình được sử dụng trong nhánh học sâu của trí tuệ nhân tạo. Chúng dựa trên cấu trúc của bộ não con người và có vô số ứng dụng, có lẽ cuối cùng là tạo ra trí tuệ nhân tạo cấp độ con người. Các mô hình lớn hơn thường mang lại kết quả tốt hơn và phần cứng cần thiết để phát triển hiện đại đang tăng gấp đôi mỗi ba tháng. Sự bùng nổ phát triển này đã làm cho việc học sâu trở thành một phần cơ bản trong trải nghiệm của con người hiện đại. Vào năm 2020, một mạng nơ-ron vận hành radar trên một máy bay do thám của Hoa Kỳ, các mô hình ngôn ngữ hiện viết email lừa đảo tốt hơn hơn con người và thuật toán xe hơi tự lái Vượt trội hơn con người trong nhiều môi trường.
GPT-3 175B, mô hình GPT-3 lớn nhất do OpenAI đề xuất trong Brown và cộng sự. (2020) đã sử dụng một cụm 1,000 GPU NVIDIA Tesla V100 để đào tạo - gần tương đương với 355 năm đào tạo trên một thiết bị duy nhất. DALL-E từ Ramesh và cộng sự. (Năm 2021), một mô hình Transformer khác từ OpenAI, có 12 tỷ thông số và được đào tạo trên hơn 400 triệu hình ảnh có chú thích. OpenAI chịu chi phí đào tạo DALL-E nhưng gây tranh cãi từ chối mô hình nguồn mở, có nghĩa là có lẽ một trong những mô hình học sâu đa phương thức quan trọng nhất vẫn không thể tiếp cận được với tất cả trừ một số ít được chọn. Các yêu cầu về nguồn lực khổng lồ để xây dựng các mô hình nền tảng tạo ra các rào cản đáng kể đối với việc tiếp cận và, không có phương pháp để tập hợp tài nguyên trong khi vẫn thu được giá trị, có thể sẽ gây ra sự trì trệ trong tiến bộ của AI. Nhiều người tin rằng những mô hình tổng quát hóa này là chìa khóa để mở ra Trí tuệ nhân tạo (AGI), khiến cho phương pháp đào tạo hiện nay trong các hầm chứa nhân tạo bị cô lập có vẻ vô lý.
Các giải pháp hiện tại cung cấp khả năng tiếp cận nguồn cung cấp điện toán là độc quyền và đắt tiền hoặc đơn giản là không thể làm việc được do sự phức tạp của máy tính cần thiết cho AI quy mô lớn. Đáp ứng nhu cầu đang tăng cao đòi hỏi một hệ thống sử dụng hiệu quả về chi phí tất cả các máy tính khả dụng (trái ngược với việc sử dụng bộ xử lý toàn cầu ~ 40% ngày nay). Kết hợp vấn đề này ngay bây giờ là thực tế là bản thân nguồn cung cấp máy tính bị cản trở bởi tiệm cận những tiến bộ trong hiệu suất của bộ vi xử lý - cùng với chuỗi cung ứng và địa chính trị thiếu chip.
Phần 2: Tại sao cần có sự phối hợp của Gensyn?
Thách thức cơ bản trong việc xây dựng mạng lưới này là xác minh công việc ML đã hoàn thành. Đây là một vấn đề rất phức tạp nằm ở giao điểm của lý thuyết độ phức tạp, lý thuyết trò chơi, mật mã và tối ưu hóa. Bên cạnh kiến thức của con người trong thiết kế mô hình, có ba vấn đề cơ bản làm chậm tiến độ của ML được áp dụng, 1) tiếp cận sức mạnh máy tính; 2) quyền truy cập vào dữ liệu; và 3) tiếp cận kiến thức (ghi nhãn sự thật trên cơ sở). Gensyn giải quyết vấn đề đầu tiên bằng cách cung cấp quyền truy cập theo yêu cầu vào máy tính có thể mở rộng toàn cầu với giá thị trường hợp lý, trong khi Gensyn Foundation sẽ tìm cách khuyến khích các giải pháp cho hai và ba thông qua nghiên cứu, tài trợ và hợp tác với các giao thức khác.
Cụ thể, quyền truy cập vào các bộ xử lý ưu việt cho phép quy mô ngày càng lớn/phức tạp hơn
người mẫu cần đào tạo. Trong thập kỷ qua, mật độ bóng bán dẫn tăng lên và những tiến bộ về tốc độ truy cập bộ nhớ/song song hóa đã giảm đáng kể thời gian đào tạo cho các mô hình lớn. Quyền truy cập ảo vào phần cứng này, thông qua những người khổng lồ trên nền tảng đám mây như AWS và Alibaba, đã đồng thời mở rộng việc áp dụng. Theo đó, có sự quan tâm mạnh mẽ của nhà nước trong việc mua các phương tiện để sản xuất các bộ vi xử lý tiên tiến nhất. Trung Quốc đại lục vẫn chưa có năng lực toàn diện để sản xuất chất bán dẫn tiên tiến nhất (cụ thể là tấm silicon mỏng), một thành phần thiết yếu trong bộ vi xử lý. Họ cần nhập khẩu những thứ này, đặc biệt là từ TSMC (Công ty sản xuất chất bán dẫn Đài Loan). Các nhà cung cấp chip cũng cố gắng ngăn chặn các khách hàng khác truy cập vào các nhà sản xuất chip bằng cách mua thêm nguồn cung cấp. Ở cấp tiểu bang, Hoa Kỳ đã tích cực ngăn chặn bất kỳ động thái nào của các công ty Trung Quốc nhằm mua lại công nghệ này. Xa hơn nữa trong hệ thống công nghệ, một số công ty đã tiến xa hơn khi tạo ra phần cứng cụ thể cho việc học sâu của riêng họ, như các cụm TPU của Google. Những GPU này hoạt động tốt hơn các GPU tiêu chuẩn khi học sâu và không có sẵn để bán, chỉ cho thuê.
Việc tăng mạnh quy mô của máy tính có thể truy cập, đồng thời giảm chi phí đơn vị của nó, mở ra cánh cửa cho một mô hình học tập sâu hoàn toàn mới cho cả cộng đồng nghiên cứu và công nghiệp. Những cải tiến về quy mô và chi phí cho phép giao thức xây dựng một tập hợp các mô hình cơ sở đã được chứng minh, đào tạo trước – còn được gọi là Mô hình nền tảng– Theo cách tương tự với vườn thú kiểu mẫu của các khuôn khổ phổ biến. Điều này cho phép các nhà nghiên cứu và kỹ sư công khai nghiên cứu và đào tạo các mô hình vượt trội trên các tập dữ liệu mở khổng lồ, theo cách tương tự như Eleuther dự án. Những mô hình này sẽ giải quyết một số vấn đề cơ bản của nhân loại mà không có quyền sở hữu hoặc kiểm duyệt tập trung. Mật mã, đặc biệt là Mã hóa chức năng, sẽ cho phép giao thức được tận dụng trên dữ liệu cá nhân theo yêu cầu. Những mô hình nền tảng khổng lồ sau đó có thể được tinh chỉnh bởi bất kỳ ai sử dụng tập dữ liệu độc quyền, duy trì giá trị / quyền riêng tư trong dữ liệu đó nhưng vẫn chia sẻ kiến thức tập thể trong thiết kế và nghiên cứu mô hình.
Phần 3: Gensyn Drives Trung tâm hóa dữ liệu Web3-Native
Internet có thể do Chính phủ Hoa Kỳ ra đời vào những năm 1960, nhưng đến những năm 1990, nó là một mạng lưới vô chính phủ của sự sáng tạo, chủ nghĩa cá nhân và cơ hội. Trước khi Google tích trữ TPU, các dự án như SETI @ home đã cố gắng khám phá sự sống ngoài hành tinh bằng cách cung cấp sức mạnh máy tính phi tập trung cho cộng đồng. Đến năm 2000, SETI @ home có tốc độ xử lý là 17 teraflop, cao hơn gấp đôi hiệu suất của siêu máy tính tốt nhất vào thời điểm đó, IBM ASCI White. Khoảng thời gian này thường được đặt tên là 'web1', một thời điểm trước khi trở thành bá chủ của các nền tảng lớn như Google hay Amazon (web2), nhưng máy tính phi tập trung đã gặp khó khăn trong việc mở rộng quy mô để đáp ứng nhu cầu ban đầu của internet, do một số vấn đề vào thời điểm đó.
Tuy nhiên, sự tập trung hiện tại của cơ sở hạ tầng web vào các nền tảng web2 khổng lồ tạo ra các vấn đề riêng của nó, chẳng hạn như chi phí (lợi nhuận gộp của AWS là ước tính 61%, thể hiện tính năng nén ký quỹ cho hầu hết các nhà nghiên cứu quy mô nhỏ và các doanh nghiệp dựa trên dữ liệu. Đồng thời, các phiên bản máy tính tập trung cũng hy sinh quyền kiểm soát - AWS đã tắt cơ sở hạ tầng của nền tảng truyền thông xã hội cánh hữu phổ biến Parler với thông báo một ngày sau cuộc bạo động Capitol ngày 6 tháng 2021 năm XNUMX. Nhiều người đồng ý với quyết định này, nhưng tiền lệ rất nguy hiểm khi AWS máy chủ 42% trong số 10,000 trang web hàng đầu trên internet. Tuy nhiên, việc đào tạo các mô hình học sâu trên phần cứng phi tập trung rất khó khăn do vấn đề xác minh mà Giao thức Gensyn giúp giải quyết.
Việc xây dựng thị trường dưới dạng giao thức Web3 loại bỏ các chi phí tập trung về quy mô và giảm các rào cản gia nhập đối với những người tham gia cung cấp mới, cho phép mạng có khả năng bao gồm mọi thiết bị máy tính trên thế giới. Kết nối tất cả các thiết bị thông qua một mạng phi tập trung duy nhất cung cấp một mức khả năng mở rộng mà hiện tại không thể đạt được thông qua bất kỳ nhà cung cấp hiện tại nào, cho phép truy cập theo yêu cầu chưa từng có vào toàn bộ nguồn cung máy tính của thế giới. Đối với người dùng cuối, điều này hoàn toàn loại bỏ tình trạng khó xử về chi phí so với quy mô và cung cấp một máy tính đào tạo ML minh bạch và chi phí thấp để có khả năng mở rộng vô hạn tiềm năng (lên đến giới hạn phần cứng vật lý trên toàn thế giới) và đơn giá được xác định bởi động lực thị trường. Điều này vượt qua những hào hứng thông thường mà các nhà cung cấp lớn được hưởng, giảm giá đáng kể và tạo điều kiện cho cạnh tranh toàn cầu thực sự ở cấp độ tài nguyên và thậm chí còn xem xét trường hợp các nhà cung cấp dịch vụ đám mây hiện tại cũng coi giao thức Gensyn như một phương thức phân phối bổ sung cho bên thứ nhất tập trung hơn cúng dường đi kèm.
Kết luận:
Với AI gần như một từ thông dụng phổ biến như tiền điện tử và blockchain, luận điểm của chúng tôi về việc đầu tư vào Gensyn như đã xem trước ở đây phải vượt qua các bài kiểm tra về tính dễ hiểu và được hỗ trợ bằng chứng, đồng thời có tham vọng giảm bớt cơ hội đặt ra cho khả năng của giao thức thêm giá trị cho một mạng tài nguyên được nhắm mục tiêu ban đầu nhưng có thể tổng quát hóa có nguồn gốc từ web3. Với giao thức Gensyn, chúng tôi tin rằng chúng tôi đang nhìn thấy sự khởi đầu của một mạng lưới điều phối siêu có khả năng mở rộng, tiết kiệm chi phí, mở đường cho những hiểu biết thậm chí có giá trị hơn, tạo nền tảng cho vô số ứng dụng trong tương lai.
Giới thiệu về CoinFund
CoinFund là một công ty đầu tư tập trung vào blockchain đa dạng, hàng đầu được thành lập vào năm 2015, có trụ sở tại Hoa Kỳ. Các chiến lược của CoinFund trải rộng trên cả thị trường thanh khoản và thị trường mạo hiểm và được hưởng lợi từ phương pháp tiếp cận đa ngành của chúng tôi, đồng bộ hóa năng lực kỹ thuật tiền điện tử với kinh nghiệm tài chính truyền thống. Với phương pháp tiếp cận “những người sáng lập đầu tiên”, CoinFund hợp tác chặt chẽ với các công ty danh mục đầu tư của mình để thúc đẩy sự đổi mới trên không gian tài sản kỹ thuật số.
Từ chối trách nhiệm
Nội dung được cung cấp trên trang web này chỉ dành cho mục đích thông tin và thảo luận và không được dựa vào liên quan đến một quyết định đầu tư cụ thể hoặc được hiểu như một lời đề nghị, khuyến nghị hoặc mời chào liên quan đến bất kỳ khoản đầu tư nào. Tác giả không xác nhận bất kỳ công ty, dự án hoặc mã thông báo nào được thảo luận trong bài viết này. Tất cả thông tin được trình bày ở đây “nguyên trạng”, không có bảo đảm dưới bất kỳ hình thức nào, dù rõ ràng hay ngụ ý, và bất kỳ tuyên bố hướng tới tương lai nào đều có thể sai. CoinFund Management LLC và các chi nhánh của nó có thể có các vị trí dài hoặc ngắn trong các mã thông báo hoặc dự án được thảo luận trong bài viết này.
Giao thức Gensyn đào tạo đáng tin cậy các mạng thần kinh ở cấp độ siêu cao với mức độ quan trọng thấp hơn… ban đầu được xuất bản trong Blog CoinFund trên Medium, nơi mọi người đang tiếp tục cuộc trò chuyện bằng cách nhấn mạnh và trả lời câu chuyện này.
