,在今日舉辦的 2023 百度云智大會上,百度智能云宣布千帆大模型平臺 2.0 全面升級發布。
據百度云官方介紹,千帆大模型平臺 2.0 升級帶來了多項改進:
在工具鏈方面,大模型開發、訓練、部署、應用開發各個環節是緊密結合的。據介紹,千帆整套的工具鏈可以無縫銜接全生命周期的各個業務流程,最大化提升效率。以前,技術團隊一個月才能調試、跑通看到大模型的效果,在千帆一站式工具鏈平臺,當天就可以實現。
在算力效能方面,千帆底層是一套集合了異構算力集群、高速互聯的網絡、高性能存儲,能夠支撐萬卡規模訓練的 AI 算力基礎設施,可將大模型訓練、推理的成本降到最低。
在數據方面,千帆不僅納管大模型,還可增強大模型的能力。本次全新升級中文增強,可大幅提升大模型中文理解和生成能力,例如 LIama2 的國外大模型,也可實現中文對話好的效果。同時還全面提升訓練和推理性能,訓練 LlaMA 2 的總體吞吐可以提升 1/4,推理甚至能提升 3 倍。
在企業級安全方面,通過千帆的安全機制,企業能夠構建四層安全防線,全方位保障大模型的內容安全、數據安全和系統安全。對合規要求很高的客戶,千帆支持國內、國外主流芯片和操作系統,也支持私有化部署,確保每個企業自己的大模型都自主可控。
此外,在 2023 百度云智大會上,百度集團執行副總裁、百度智能云事業群總裁沈抖表示,截至目前百度網盤“云一朵”智能助理累積使用人數已經超過 600 萬。
IT之家注:千帆大模型平臺是百度智能云推出的一站式企業級大模型平臺,可以為企業提供大模型開發全流程工具鏈和整套環境,號稱可以“讓企業高效率、低成本地擁抱大模型”。
8 月初,千帆大模型平臺完成第一輪升級,全面接入了 LLaMA2 全系列、ChatGLM2 等 33 個大模型,成為國內擁有最多大模型的平臺;同時,千帆大模型平臺上線 103 個預置 Prompt 模板,覆蓋對話、編程、電商十余個場景。
而現在,千帆大模型平臺納管的國內外主流大模型達到了 42 個再創新高,還預置了 41 個有行業特色的數據集,月活企業數已近萬家,覆蓋金融、制造、能源、政務、交通等行業的 400 多個業務場景。
廣告聲明:文內含有的對外跳轉鏈接,用于傳遞更多信息,節省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。
聲明:以上內容為本網站轉自其它媒體,相關信息僅為傳遞更多企業信息之目的,不代表本網觀點,亦不代表本網站贊同其觀點或證實其內容的真實性。投資有風險,需謹慎。