Google hôm nay công bố việc phát hành Tìm kiếm mô hình, một nền tảng mã nguồn mở được thiết kế để giúp các nhà nghiên cứu phát triển các mô hình học máy một cách hiệu quả và tự động. Thay vì tập trung vào một miền cụ thể, Google nói rằng Tìm kiếm mô hình là miền bất khả tri, giúp nó có khả năng tìm ra kiến ​​trúc mô hình phù hợp với tập dữ liệu và vấn đề trong khi giảm thiểu thời gian mã hóa và tính toán tài nguyên.

Thành công của một AI mô hình thường phụ thuộc vào mức độ nó có thể hoạt động trên các khối lượng công việc khác nhau. Nhưng thiết kế một mô hình có thể khái quát hóa tốt có thể là một thách thức vô cùng lớn. Trong những năm gần đây, Các thuật toán AutoML đã xuất hiện để giúp các nhà nghiên cứu tìm ra mô hình phù hợp mà không cần thử nghiệm thủ công. Tuy nhiên, thường xuyên hơn không, các thuật toán này nặng về máy tính và cần hàng nghìn mô hình để đào tạo.

Tìm kiếm Mô hình - được xây dựng trên Google Khung học máy TensorFlow và có thể chạy trên một hoặc một số máy - bao gồm nhiều trình đào tạo, thuật toán tìm kiếm, thuật toán học chuyển giao và cơ sở dữ liệu để lưu trữ các mô hình đã đánh giá. Tìm kiếm mô hình chạy các thử nghiệm đào tạo và đánh giá cho các mô hình AI theo cách thích ứng và không đồng bộ, sao cho tất cả các giảng viên chia sẻ kiến ​​thức thu được từ các thử nghiệm của họ trong khi tiến hành từng thử nghiệm một cách độc lập. Vào đầu mỗi chu kỳ, thuật toán tìm kiếm tra cứu tất cả các thử nghiệm đã hoàn thành và quyết định thử điều gì tiếp theo, sau đó nó sẽ “biến đổi” trên một trong những kiến ​​trúc tốt nhất được tìm thấy cho đến thời điểm đó và gán lại mô hình kết quả cho người huấn luyện.

Để cải thiện hơn nữa hiệu quả và độ chính xác, Tìm kiếm mô hình sử dụng tính năng học chuyển giao trong quá trình thử nghiệm. Ví dụ, nó sử dụng sự chắt lọc kiến ​​thức và chia sẻ trọng số, điều này khởi động một số biến trong các mô hình từ các mô hình đã được đào tạo trước đó. Điều này cho phép đào tạo nhanh hơn và bằng các cơ hội mở rộng để khám phá nhiều hơn và có vẻ như kiến ​​trúc tốt hơn.

Sau khi chạy Tìm kiếm mô hình, người dùng có thể so sánh nhiều mô hình được tìm thấy trong quá trình tìm kiếm. Ngoài ra, họ có thể tạo không gian tìm kiếm của riêng mình để tùy chỉnh các yếu tố kiến ​​trúc trong mô hình của họ.

Trên đây: Một ví dụ về sự tiến hóa của một mô hình qua nhiều thử nghiệm. Mỗi màu đại diện cho một loại thành phần kiến ​​trúc khác nhau.

Tín dụng Hình ảnh: Google

Google cho biết trong một thử nghiệm nội bộ, Tìm kiếm Mô hình đã được cải thiện dựa trên các mô hình sản xuất với số lần lặp lại tối thiểu, đặc biệt là trong các lĩnh vực phát hiện từ khóa và nhận dạng ngôn ngữ. Nó cũng quản lý để tìm ra một kiến ​​trúc phù hợp để phân loại hình ảnh trên CIFAR-10 bộ dữ liệu hình ảnh mã nguồn mở.

“Chúng tôi hy vọng mã Tìm kiếm mô hình sẽ cung cấp cho các nhà nghiên cứu một khuôn khổ linh hoạt, miền bất khả tri để khám phá mô hình học máy”, kỹ sư nghiên cứu của Google, Hanna Mazzawi và nhà khoa học nghiên cứu Xavi Gonzalvo đã viết trong một bài đăng trên blog. “Bằng cách xây dựng dựa trên kiến ​​thức trước đó cho một miền nhất định, chúng tôi tin rằng khung công tác này đủ mạnh để xây dựng các mô hình với hiệu suất hiện đại về các vấn đề đã được nghiên cứu kỹ lưỡng khi được cung cấp không gian tìm kiếm bao gồm các khối xây dựng tiêu chuẩn.”