商湯科技閆俊傑:用軟硬體協同妙招,讓深度學習模型部署更靈活高效

商湯科技閆俊傑:用軟硬體協同妙招,讓深度學習模型部署更靈活高效

量化上包含了目前我們認為較好的學術界演算法,以及自己研發的使工業界模型量化更加落地的演算法,跟現在市面上主流推理引擎做了對接,適配大部分深度學習的硬體和後端,這樣可以非常方便研究員驗證這個演算法是不是真的可以實際部署,也方便我們的硬體廠商來[…]

閱讀全文
頂部