字節(jié)跳動Seed團(tuán)隊(duì)發(fā)布擴(kuò)散語言模型,每秒推理速度2146 tokens
7月31日,字節(jié)跳動Seed團(tuán)隊(duì)發(fā)布實(shí)驗(yàn)性擴(kuò)散語言模型Seed Diffusion Preview。據(jù)介紹,其目標(biāo)是以結(jié)構(gòu)化的代碼生成為實(shí)驗(yàn)領(lǐng)域,系統(tǒng)性地驗(yàn)證離散擴(kuò)散技術(shù)路線作為下一代語言模型基礎(chǔ)框架的可行性。實(shí)驗(yàn)結(jié)果顯示,Seed Diffusion Preview代碼推理速度可達(dá)到2146tokens/s,速度相比同等規(guī)模的自回歸模型提升5.4倍。(界面快訊)
0人