“Các doanh nghiệp muốn chia sẻ dữ liệu một cách hợp pháp để thực hiện phân tích cộng tác và người tiêu dùng muốn bảo mật dữ liệu, vị trí và hình ảnh của họ và chúng tôi muốn giải quyết cả hai tình huống,” Devadas, đồng giám đốc của sáng kiến, nói với VentureBeat qua email. “Sáng kiến ​​này tập trung vào việc chia sẻ, sử dụng và xử lý dữ liệu một cách hợp pháp… Một số quy định mới của [EU] cấm sử dụng một số công nghệ, ngoại trừ lý do bảo mật. Ví dụ, tôi có thể tưởng tượng rằng các camera giám sát tạo ra các luồng video được mã hóa và công nghệ nhận dạng khuôn mặt chỉ được áp dụng trong một tình huống mà các cân nhắc về an toàn và bảo mật là tối quan trọng. Điều này có thể có nghĩa là các luồng mã hóa được xử lý mà không cần giải mã — điều thực sự khả thi với các công nghệ hiện có.”

Sáng kiến ​​này là sản phẩm trí tuệ của Giám đốc điều hành Phòng thí nghiệm Khoa học Máy tính và Trí tuệ Nhân tạo MIT Lori Glover và Danny Weitzner, người điều hành Sáng kiến ​​Nghiên cứu Chính sách Internet tại MIT. Như Devadas giải thích, mục tiêu là tích hợp nghiên cứu về chính sách quyền riêng tư với các công nghệ bảo vệ quyền riêng tư để tạo ra một chu kỳ R&D và quy định hợp lý. Devadas cho biết: “Trong nhiều lĩnh vực, chẳng hạn như chẩn đoán y tế và tài chính, việc chia sẻ dữ liệu có thể tạo ra kết quả và dự đoán tốt hơn đáng kể, nhưng việc chia sẻ bị [luật] chẳng hạn như HIPAA không cho phép”. “Có những kỹ thuật phân tích hợp tác riêng tư có thể giúp giải quyết vấn đề này, nhưng không phải lúc nào cũng rõ liệu các kỹ thuật hoặc phương pháp cụ thể có đáp ứng các quy định hay không, bởi vì các quy định thường mơ hồ. Sáng kiến ​​muốn giải quyết vấn đề này.”

Đặc biệt trong lĩnh vực chăm sóc sức khỏe, người tiêu dùng thường không nhận thức đầy đủ thông tin của họ được đưa vào bộ dữ liệu được sử dụng để đào tạo các hệ thống AI. Năm 2019, The Wall Street Journal đã báo cáo chi tiết về Dự án Nightingale, sự hợp tác của Google với Ascension, hệ thống y tế lớn thứ hai của Mỹ, đang thu thập dữ liệu sức khỏe cá nhân của hàng chục triệu bệnh nhân nhằm mục đích phát triển các dịch vụ dựa trên AI cho các nhà cung cấp dịch vụ y tế. Một cơ quan quản lý của Vương quốc Anh đã kết luận rằng Tổ chức NHS Foundation Trust của Royal Free London, một bộ phận của Dịch vụ Y tế Quốc gia của Vương quốc Anh có trụ sở tại London, cung cấp DeepMind của công ty mẹ Google, Alphabet với dữ liệu của 1.6 triệu bệnh nhân mà không có sự đồng ý của họ. Và vào năm 2019, Google và Trung tâm Y tế Đại học Chicago đã kiện vì bị cáo buộc không xóa dấu thời gian khỏi hồ sơ y tế ẩn danh. (Một thẩm phán quăng vụ kiện vào tháng XNUMX.)

Các quy định của EU áp đặt các yêu cầu đối với các ứng dụng AI “rủi ro cao”, bao gồm cả thiết bị và dụng cụ y tế. Các công ty phát triển chúng sẽ phải sử dụng dữ liệu đào tạo “chất lượng cao” để tránh thiên vị, đồng ý với “sự giám sát của con người” và tạo tài liệu chi tiết giải thích cách thức hoạt động của phần mềm cho cả cơ quan quản lý và người dùng. Ngoài ra, trong nỗ lực cung cấp sự minh bạch về công nghệ nào đang được sử dụng, tất cả các hệ thống AI có rủi ro cao sẽ được lập chỉ mục trong cơ sở dữ liệu trên toàn EU.

Devadas nhận thấy một số công nghệ cho phép các phương pháp tiếp cận có đạo đức đối với AI phù hợp với các quy định của EU. Ví dụ: tính toán đa bên an toàn có thể được sử dụng để đạt được thống kê tổng hợp theo cách không làm lộ dữ liệu của người dùng. Trên đường chân trời là các phương pháp như phần cứng an toàn và mã hóa homographic, cho phép AI rút ra những hiểu biết sâu sắc từ dữ liệu được mã hóa. Mặc dù mã hóa đồng hình có thể thực hiện được ngày nay, nhưng nó chậm hơn 100,000 lần so với các kỹ thuật không bảo mật. Đối với phần cứng bảo mật, thường không phải là không có lỗ hổng bảo mật và cần có sự tin tưởng hoàn toàn vào nhà sản xuất phần cứng.

Devadas nói: “Có rất nhiều kỹ thuật gần như có thể triển khai được nhưng không hoàn toàn ở đó. “[Tuy nhiên], nhiều dự án trong sáng kiến ​​sẽ trực tiếp giải quyết khoảng cách hiệu suất này.”

Để biết thông tin về AI, hãy gửi các mẹo tin tức tới Kyle Wiggers - và nhớ đăng ký Bản tin hàng tuần về AI và đánh dấu kênh AI của chúng tôi, The Machine.

Cảm ơn vì đã đọc,

Kyle Wiggers

Người viết nhân viên AI