Oleh Staf AI Trends
Ditanya apa di bidang teknologi yang paling membuatnya terkesan, CEO Microsoft Satya Nadella berkata di MIT's AI dan Karya Kongres Masa Depan 2020 hampir minggu lalu ia dikejutkan oleh kemampuan komputasi awan untuk menyediakan daya komputasi yang sangat besar.
“Komputasi yang tersedia untuk melakukan AI bersifat transformatif,” kata Nadella kepada David Autor, Profesor Ekonomi Ford di MIT, yang melakukan sesi Fireside Chat.
Nadella menyebutkan model bahasa tujuan umum GPT-3 dari OpenAI, laboratorium AI yang mencari model bisnis komersial. GPT-3 adalah model bahasa autoregresif dengan 175 miliar parameter. OpenAI setuju untuk melisensikan GPT-3 ke Microsoft untuk produk dan layanan mereka sendiri, sambil terus menawarkan API OpenAI ke pasar. Saat ini, API dalam versi beta terbatas saat OpenAI dan mitra akademis menguji dan menilai kemampuannya.
Lisensi Microsoft bersifat eksklusif, yang berarti pesaing komputasi cloud Microsoft tidak dapat mengaksesnya dengan cara yang sama. Perjanjian tersebut dipandang penting untuk membantu OpenAI dengan biaya mendapatkan GPT-3 dan menjalankan serta memeliharanya, menurut akun di Pembicaraan Teknologi. Ini termasuk biaya sekitar $ 10 juta untuk meneliti GPT-3 dan melatih model, puluhan ribu dolar dalam komputasi awan bulanan dan biaya listrik untuk menjalankan model, perkiraan satu juta dolar setiap tahun untuk melatih kembali model untuk mencegah kerusakan, dan biaya tambahan untuk dukungan pelanggan, pemasaran, TI, hukum, dan persyaratan lainnya untuk menempatkan produk perangkat lunak di pasar.
Awal tahun ini pada konferensi pengembang Build-nya, Microsoft mengumumkan bekerja dengan OpenAI untuk mengumpulkan apa yang dikatakan Microsoft sebagai "salah satu dari lima superkomputer teratas yang diungkapkan secara publik di dunia," menurut sebuah akun di Blog Microsoft AI. Infrastruktur akan tersedia di Azure, penawaran komputasi awan Microsoft, untuk melatih model AI "sangat besar".
Kemitraan antara Microsoft dan OpenAI bertujuan untuk "bersama-sama menciptakan teknologi superkomputer baru di Azure," posting blog tersebut menyatakan.
"Dan ini tidak hanya terjadi di cloud, itu terjadi di edge, "kata Nadella.
Aplikasi untuk komputasi awan dan edge yang bekerja bersama — seperti pembuatan bahasa alami, penyelesaian gambar, atau simulasi virtual dari sensor yang dapat dikenakan yang melihat pekerjaan — sangat intensif dalam komputasi. "Sungguh menakjubkan melihat kemampuannya," dari model GPT-3 yang diterapkan pada pekerjaan ini, kata Nadella. “Sesuatu dalam arsitektur model memberi saya keyakinan bahwa kami akan memiliki lebih banyak terobosan dengan kecepatan yang lebih tinggi,” katanya.
Potensi Keunggulan Strategis dalam Penelusuran, Asisten Suara dari Model GPT-3
Secara strategis, bisa jadi model GPT-3 akan memberikan keuntungan nyata bagi Microsoft, artikel di Pembicaraan Teknologi disarankan. Misalnya di pasar mesin pencari, Microsoft Bing memiliki lebih dari 6% pangsa pasar, di belakang 87% Google. Apakah GPT-3 akan memungkinkan Microsoft untuk meluncurkan fitur-fitur baru yang mendefinisikan ulang bagaimana pencarian digunakan masih harus dilihat.
Microsoft juga kemungkinan akan mengeksplorasi potensi keuntungan yang dapat dibawa GPT-3 ke pasar asisten suara, di mana Cortana dari Microsoft melihat 22% saham, di belakang Siri Apple, yang memiliki 35%.
Nadella memang memiliki kekhawatiran terkait kekuatan AI dan otomatisasi. “Kami membutuhkan seperangkat prinsip desain, dari etika hingga rekayasa dan desain aktual serta proses yang memungkinkan kami bertanggung jawab, sehingga modelnya adil dan tidak bias. Kita perlu 'menghilangkan bias' model dan itu adalah pekerjaan rekayasa yang keras, ”katanya. "Konsekuensi yang tidak diinginkan" dan "kasus penggunaan yang buruk" juga merupakan tantangan, katanya, tanpa menjelaskan lebih lanjut. [Ed. Catatan: Sebuah 'kasus penyalahgunaan "atau kasus penggunaan yang buruk menggambarkan fungsi yang tidak boleh diizinkan oleh sistem Wikipedia.]
moderator penulis bertanya kepada Nadella bagaimana Microsoft membuat keputusan tentang masalah apa yang harus dikerjakan menggunakan AI. Nadella menyebutkan "AI kecil di dunia nyata" dan perusahaannya Platform Daya alat, yang memungkinkan beberapa produk bekerja sama dengan baik sebagai bagian dari platform aplikasi bisnis. Landasan ini dibangun di atas apa yang disebut Common Data Service untuk aplikasi, dan mulai bulan ini (November), disebut "dataverse. ” Data disimpan dalam tabel yang dapat berada di cloud.
Menggunakan alat, "Orang dapat menggunakan keahlian domain mereka dan mengubahnya menjadi otomatisasi menggunakan kemampuan AI," kata Nadella.
Ditanya tentang peluang kerja baru apa yang sedang diciptakan dari penggunaan AI yang diantisipasi di masa depan, Nadella membandingkan transisi yang terjadi saat ini dengan permulaan spreadsheet komputer dan pengolah kata. “Hal yang sama terjadi hari ini,” karena komputasi semakin tertanam di pabrik, pengaturan ritel, rumah sakit, dan peternakan. “Ini akan membentuk pekerjaan baru dan mengubah pekerjaan yang ada,” katanya.
'Demokratisasi AI' Dianggap Berpotensi Menurunkan Hambatan
Keduanya membahas apakah peluang dari AI meluas ke para pekerja tanpa keterampilan abstrak seperti pemrograman. Diskusi terjadi pada "demokratisasi AI" yang menurunkan hambatan bagi individu dan organisasi untuk mendapatkan pengalaman dengan AI, memungkinkan mereka, misalnya, untuk memanfaatkan data dan algoritme yang tersedia untuk umum untuk membangun model AI di infrastruktur cloud.
Berkaitan dengan pendidikan, Autor bertanya-tanya apakah akses ke pendidikan bisa lebih "didemokratisasi". Nadella berkata, “STEM itu penting, tetapi kami tidak membutuhkan semua orang untuk mendapatkan gelar master dalam ilmu komputer. Jika Anda dapat mendemokratisasikan keahlian untuk membantu produktivitas pekerja lini depan, itulah masalah yang harus diselesaikan. ”
Autor bertanya apakah teknologi ada hubungannya dengan meningkatnya kesenjangan antara pekerja berupah rendah dan berupah tinggi, dan apa yang dapat dilakukan untuk mengatasinya. Nadella mengatakan Microsoft berkomitmen untuk membuat pendidikan yang mengarah ke kredensial tersedia. “Kami membutuhkan umpan balik waktu nyata antara pekerjaan masa depan dan keterampilan yang dibutuhkan,” kata Nadella. “Untuk mempercayai keterampilan tersebut, kami melihat lebih banyak perusahaan berinvestasi dalam pelatihan perusahaan sebagai bagian dari alur kerja harian mereka. Microsoft sangat fokus pada itu. "
Kredit pajak untuk perusahaan yang berinvestasi dalam pelatihan adalah ide yang bagus, saran Nadella. “Kami membutuhkan mekanisme insentif,” katanya, menambahkan bahwa putaran umpan balik akan membantu program pelatihan agar berhasil.
Akankah "telepresence" tetap ada setelah pandemi selesai? Autor bertanya. Nadella menguraikan empat pemikiran: pertama, kolaborasi antara pekerja lini depan dan pekerja pengetahuan akan terus berlanjut, karena kolaborasi tersebut terbukti lebih produktif dalam beberapa hal; kedua, rapat akan berubah tetapi kolaborasi akan berlanjut sebelum, selama, dan setelah rapat; ketiga, pembelajaran dan penyampaian pelatihan akan lebih terbantu dengan perangkat virtual; dan "kelelahan video" akan dikenali sebagai hal yang nyata.
“Kita perlu mengeluarkan orang dari kotak persegi mereka dan merasakan kehadiran bersama, untuk mengurangi beban kognitif,” kata Nadella. “Salah satu kekhawatiran saya adalah kita membakar modal sosial yang terbangun. Kita perlu mempelajari teknik baru untuk membangun kembali modal sosial. "
Pelajari lebih lanjut tentang AI dan Karya Kongres Masa Depan 2020, GPT-3 dalamPembicaraan Teknologi dan di Blog Microsoft AI, yang Platform Daya dan dataverse.
