Yawancin mun tattauna DPU don amfani tare da aikace-aikacen AI na gefen. Idan kuna mamakin ko ana iya amfani da DPU don Cibiyar Bayanai ko aikace-aikacen AI na kan gaba, amsar ita ce ee!
Kwanan nan mun nuna DPU akan katin saurin cibiyar bayanai na Alveo a wurin Farashin CVPR 2019 taron.
Mun nuna wani demo na Resnet50 wanda ke gudana akan katin ƙarar cibiyar bayanai na Alveo U250 tare da aiwatar da daidaitattun masana'antu masu jagoranci. Wannan demo yayi amfani da kunnawa Int8/Int2 da Int8/Tarnary nauyi.
Tare da ƙirar DPU da aka inganta don Alveo U250 data cibiyar ƙararrawa katin, zai iya gudu Resnet50 @ 5100+ fps da kuma kusa da 3ms latency tare da batch size of 16. Ta kwatanta, tare da girman girman 32, Nvidia T4 yana gudanar da Resnet50 @ 4600+ fps ( 6.8ms latency!)
Ana nuna hoton demo a ƙasa.
