Deepseek關(guān)聯(lián)公司公布大語言模型部署方法專利
2025-08-01 13:54:15
來源：
同花順7x24快訊
天眼查顯示，Deepseek關(guān)聯(lián)公司杭州深度求索人工智能基礎(chǔ)技術(shù)研究有限公司申請的“一種大語言模型的部署方法及系統(tǒng)”專利近日公布。摘要顯示，該發(fā)明涉及人工智能領(lǐng)域，有益效果在于將預(yù)填充階段和解碼階段分別部署在高性能計算能力和大內(nèi)存的機器上，均衡負(fù)載任務(wù)，實現(xiàn)最大化的硬件利用，減少閑置算力，降低整體延遲，提高吞吐量，增強系統(tǒng)的擴展性和容錯性。
0人
