7月6日晚間消息，2023世界人工智能大會(huì)期間，百度首席技術(shù)官王海峰發(fā)言指出，百度文心大模型現(xiàn)已升級(jí)為文心大模型3.5，已實(shí)現(xiàn)基礎(chǔ)模型升級(jí)、精調(diào)技術(shù)創(chuàng)新、知識(shí)點(diǎn)增強(qiáng)、邏輯推理增強(qiáng)等，模型效果提升50%，訓(xùn)練速度提升2倍，推理速度提升30倍。

今年3月，基于文心大模型3.0打造的“文心一言”公開(kāi)邀測(cè)。時(shí)隔三個(gè)多月，文心大模型已迭代至3.5版本。對(duì)此，王海峰表示，與文心大模型3.0相比，3.5版本效果、功能、性能全面提升，實(shí)現(xiàn)了基礎(chǔ)模型升級(jí)、精調(diào)技術(shù)創(chuàng)新、知識(shí)點(diǎn)增強(qiáng)、邏輯推理增強(qiáng)等。

王海峰表示，截至目前飛槳已擁有750萬(wàn)名開(kāi)發(fā)者，這也是百度2023年以來(lái)首次對(duì)外披露飛槳生態(tài)最新數(shù)據(jù)。

據(jù)王海峰介紹，在基礎(chǔ)模型訓(xùn)練上，文心大模型3.5采用了飛槳自適應(yīng)混合并行訓(xùn)練技術(shù)及混合精度計(jì)算策略，并采用多種策略優(yōu)化數(shù)據(jù)源及數(shù)據(jù)分布，加快了模型迭代速度，顯著提升了模型效果和安全性，同時(shí)還創(chuàng)新了多類型多階段有監(jiān)督精調(diào)、多層次多粒度獎(jiǎng)勵(lì)模型、多損失函數(shù)混合優(yōu)化策略、雙飛輪結(jié)合的模型優(yōu)化等技術(shù)，進(jìn)一步提升模型效果及場(chǎng)景適配能力。

在知識(shí)增強(qiáng)和檢索增強(qiáng)基礎(chǔ)上，文心大模型3.5提出了“知識(shí)點(diǎn)增強(qiáng)技術(shù)”，對(duì)用戶輸入的查詢、問(wèn)題等進(jìn)行分析理解，為大模型注入更具體、詳細(xì)、專業(yè)的知識(shí)點(diǎn)，顯著提升大模型對(duì)世界知識(shí)的掌握和運(yùn)用。此外，文心大模型3.5還新增了插件機(jī)制，目前文心一言已對(duì)外發(fā)布官方插件百度搜索和ChatFile。

王海峰透露，文心一言將發(fā)布更多的百度官方和第三方插件，同時(shí)也將逐步開(kāi)放插件生態(tài)，幫助開(kāi)發(fā)者基于文心大模型打造自己的應(yīng)用。

如今，阿里通義大模型、騰訊MaaS解決方案均將大模型應(yīng)用水平與行業(yè)場(chǎng)景落地劃等號(hào)，此外金山辦公、中國(guó)電信、天眼查、釘釘?shù)炔煌?xì)分賽道的企業(yè)也在切入垂直行業(yè)的“大模型圈”。

”大模型廣泛應(yīng)用于各類場(chǎng)景，將加速產(chǎn)業(yè)智能化升級(jí)?！霸谕鹾７蹇磥?lái)，在大模型產(chǎn)業(yè)落地的進(jìn)程中，可以采用“集約化生產(chǎn)，平臺(tái)化應(yīng)用”的模式，即具有算法、算力和數(shù)據(jù)綜合優(yōu)勢(shì)的企業(yè)將模型生產(chǎn)的復(fù)雜過(guò)程封裝起來(lái)，通過(guò)低門檻、高效率的生產(chǎn)平臺(tái)，為千行百業(yè)提供大模型服務(wù)。