omniture

源大模型AIPC助手YuanChat煥新!支持12種文檔構(gòu)建知識庫+聯(lián)網(wǎng)檢索

2024-08-28 18:17 2555

北京2024年8月28日 /美通社/ -- 超高"模算效率"的源2.0-M32大模型開源開放以來,已經(jīng)在諸多伙伴企業(yè)內(nèi)進行了內(nèi)測上崗,收獲了醫(yī)療、金融和IT等行業(yè)伙伴的一眾好評!

對于不想在開發(fā)環(huán)境中使用大模型的"源"粉們來說,如何能夠在自己的PC上更方便地獲取和使用M32大模型的智能力呢?

現(xiàn)在!AI PC大模型效率工具YuanChat全面升級!簡潔直觀的交互界面,搭配聯(lián)網(wǎng)搜索、搭建個人知識庫(RAG)、模型參數(shù)個性化定制等豐富強大的插件功能,讓你在個人PC上可以輕松部署和使用"源2.0-M32"大模型,完成各類各類編程、數(shù)理計算、文檔解析和公文寫作等任務,激發(fā)你的創(chuàng)造力和生產(chǎn)力!


YuanChat一鍵下載及教程:
https://github.com/IEIT-Yuan/YuanChat/blob/main/docs/YuanChat%E5%85%A8%E9%9D%A2%E5%8D%87%E7%BA%A7%E9%80%9A%E7%94%A8%E7%89%88%E6%9C%AC.md


配置需求:
1、無需GPU,單CPU/XPU 即可運行
2、可使用內(nèi)存:4GB 以上
3、系統(tǒng): windows10/11 64


  • 高敏業(yè)務無憂:在本地環(huán)境中安全、高效地使用M32完成任務

源2.0-M32具備超高的模算效率,在算力需求僅為1/19的情況下,性能全面對標Llama 3-70B,對大模型運行部署的硬件要求大幅降低。

現(xiàn)在,無需GPU,您在單CPU和XPU環(huán)境下即可輕松簡單地部署YuanChat以使用源2.0-M32大模型,所有交互數(shù)據(jù)均在本地處理,無需擔心數(shù)據(jù)泄露的風險。這對于涉及核心代碼、金融數(shù)據(jù)處理等敏感業(yè)務的場景來說,提供了一種既安全又私密的大模型應用方案。

讓M32大模型在您的本地PC上完成任務,無需擔心數(shù)據(jù)泄露風險
讓M32大模型在您的本地PC上完成任務,無需擔心數(shù)據(jù)泄露風險

  • 構(gòu)建個人知識庫,讓M32學習和管理您的海量文檔知識

在YuanChat上,只需點擊鼠標就可以將本地存儲的豐富文檔資源文件轉(zhuǎn)化為一個高度定制化的個人專屬知識庫。YuanChat內(nèi)置多種向量模型(Embedding),可以支持包括pdf、docx、pptx、txt、html、htm、md、json、jsonl、epub、mobi、xml在內(nèi)的12種文檔。

您可以與M32大模型基于特定的知識庫進行對話,通過接入和學習專屬知識庫內(nèi)容,M32能夠更加精準地理解和回應查詢,顯著提升任務處理的準確性和可靠性。

輕松搭建知識庫,讓M32大模型基于知識庫完成任務
輕松搭建知識庫,讓M32大模型基于知識庫完成任務

  • 聯(lián)網(wǎng)檢索,讓M32與世界即時同步

YuanChat支持谷歌(serper)和bing兩種方式進行網(wǎng)絡檢索,打開網(wǎng)絡檢索插件,即可讓M32大模型訪問互聯(lián)網(wǎng),在全網(wǎng)為您檢索并總結(jié)相關(guān)信息,精準獲取信息,高效完成任務。

讓M32大模型訪問互聯(lián)網(wǎng)為您檢索并總結(jié)最新信息

讓M32大模型訪問互聯(lián)網(wǎng)為您檢索并總結(jié)最新信息
讓M32大模型訪問互聯(lián)網(wǎng)為您檢索并總結(jié)最新信息

  • 個性化定制模型參數(shù),讓M32大模型更適合您的任務

YuanChat提供了豐富的參數(shù)設(shè)定功能,支持在使用M32大模型的過程中根據(jù)任務情況自定義生成文本長度、生成文本多樣性、生成下一個詞之前考慮的備選詞數(shù)量,使得用戶能夠精細調(diào)節(jié)大模型的創(chuàng)造性、可靠性、速度和成本,從而更加靈活高效地利用M32大模型的強大能力。

探索大模型能力的多種邊界
探索大模型能力的多種邊界

  • One More Thing

YuanChat支持API Server功能,可將模型能力以及YuanChat的功能(Rag檢索、敏感詞識別、網(wǎng)絡檢索等)接入已有的應用平臺。模型輸出數(shù)據(jù)支持openAI格式,使開發(fā)人員更好理解,降低二次開發(fā)成本和對接工作量。

一鍵開啟/關(guān)閉API Server功能,設(shè)置API Server服務的端口號
一鍵開啟/關(guān)閉API Server功能,設(shè)置API Server服務的端口號

 

消息來源:浪潮信息
China-PRNewsire-300-300.png
全球TMT
微信公眾號“全球TMT”發(fā)布全球互聯(lián)網(wǎng)、科技、媒體、通訊企業(yè)的經(jīng)營動態(tài)、財報信息、企業(yè)并購消息。掃描二維碼,立即訂閱!
collection