智能化技術(shù)飛速發(fā)展，在運(yùn)營(yíng)商AI+推動(dòng)下，眾多生產(chǎn)系統(tǒng)正積極融入并采納大模型技術(shù)，從而引發(fā)了對(duì)大模型需求的迅猛增長(zhǎng)。作為一站式模型工廠，MAAS平臺(tái)以其卓越的大模型服務(wù)能力，覆蓋了從模型數(shù)據(jù)、服務(wù)到應(yīng)用賦能的全流程。然而，在實(shí)踐落地過程中，數(shù)據(jù)采集處理、模型納管微調(diào)以及模型服務(wù)保障三個(gè)環(huán)節(jié)面臨了顯著的挑戰(zhàn)。
2024年 MWC上海展會(huì)上，浩鯨科技展示的鯨智MAAS平臺(tái)，以“FUTURE WISE”為設(shè)計(jì)理念，成功突破了上述三大挑戰(zhàn)。通過提供全面的數(shù)據(jù)管理、強(qiáng)大的模型兼容性、高效的模型微調(diào)機(jī)制、全面的評(píng)估體系以及靈活的發(fā)布策略，鯨智MAAS平臺(tái)幫助客戶打造了強(qiáng)大的AI+新質(zhì)生成力，助力客戶在智能化道路上不斷攀登新的高峰。
同時(shí)，浩鯨科技深度參與工信部旗下人工智能關(guān)鍵技術(shù)和應(yīng)用評(píng)測(cè)重點(diǎn)實(shí)驗(yàn)室《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求 第1部分：模型服務(wù)協(xié)議要求》標(biāo)準(zhǔn)編寫，獲“核心參編單位”稱號(hào)。
全域高質(zhì)量數(shù)據(jù)供給、解決模型幻覺問題
鯨智MaaS平臺(tái)在1.0基礎(chǔ)上強(qiáng)化自動(dòng)化數(shù)據(jù)采集、智能化數(shù)據(jù)處理和編排式語料生成等能力，快速高效地為多重場(chǎng)景提供全域高質(zhì)量數(shù)據(jù)組裝和供給，從而提升模型性能、減少模型幻覺、滿足特定場(chǎng)景需求以及加速模型迭代。
自動(dòng)化數(shù)據(jù)采集：通過數(shù)據(jù)感知技術(shù)和數(shù)據(jù)理解技術(shù)，將廣泛分布且變動(dòng)迅速的數(shù)據(jù)以業(yè)務(wù)實(shí)體智能擬合，并采用分片技術(shù)自動(dòng)執(zhí)行完成數(shù)據(jù)采集。
智能化數(shù)據(jù)處理：首先對(duì)采集數(shù)據(jù)進(jìn)行結(jié)構(gòu)化處理，在通過智能數(shù)據(jù)標(biāo)注、智能數(shù)據(jù)連接、數(shù)據(jù)增強(qiáng)、數(shù)據(jù)融合等技術(shù)，形成大模型投喂的高質(zhì)量Questions and answers數(shù)據(jù)隊(duì)列。
編排式語料生成：對(duì)于高質(zhì)量的數(shù)據(jù)隊(duì)列，通過場(chǎng)景化模板、在線編排式，以拖拉拽的方式，完成數(shù)據(jù)供給。
標(biāo)準(zhǔn)化的能力納管、解決模型適配難問題
鯨智MaaS平臺(tái)通過低門檻、高效率的模型微調(diào)技術(shù)和模型血緣分析，助力企業(yè)突破模型管理瓶頸，實(shí)現(xiàn)低成本、一站式模型納管和微調(diào)，投入成本縮短至天，當(dāng)前平臺(tái)已滿足40+大模型的透明化管理。
低門檻、高效率的模型微調(diào)技術(shù)：提供模型微調(diào)標(biāo)準(zhǔn)的六步法（選擇基模、創(chuàng)建微調(diào)任務(wù)、選擇數(shù)據(jù)集、設(shè)置超參數(shù)、模型訓(xùn)練、模型評(píng)估），實(shí)現(xiàn)通用模型向場(chǎng)景模型的精調(diào)，全程低門檻、高性能的模型微調(diào)體驗(yàn)。
模型自動(dòng)接入：通過自動(dòng)采集基模的公開信息和評(píng)測(cè)報(bào)告，形成360度感知視圖，采用插件化算法框架和硬件芯片適配，實(shí)現(xiàn)運(yùn)行環(huán)境的自動(dòng)化構(gòu)建，確�；Ｐ偷目焖俑咝Ы尤肱c運(yùn)行。
模型血緣分析：通過模型血緣分析智能分析不同層級(jí)模型的復(fù)雜依賴關(guān)系和環(huán)境依賴，實(shí)現(xiàn)分層存儲(chǔ)和版本控制，結(jié)合區(qū)塊鏈技術(shù)確保防篡改和可追溯。
高效率模型服務(wù)、解決模型準(zhǔn)確性和及時(shí)性
鯨智MaaS平臺(tái)提供了智能化的解決方案，將模型切換耗時(shí)從周降至天，實(shí)現(xiàn)資源消耗降低20%以上，意圖識(shí)別準(zhǔn)確率提升10%以上，為企業(yè)提供了更快、更省、更準(zhǔn)的模型服務(wù)保障。
智能差距發(fā)現(xiàn)：通過編排式評(píng)測(cè)數(shù)據(jù)生成、自動(dòng)化環(huán)境構(gòu)建和資源分配、自動(dòng)化指標(biāo)收集等技術(shù)，實(shí)現(xiàn)模型場(chǎng)景化能力分析的自動(dòng)化和高效率。
智能推理加速：通過KVCache、PagedAttention、動(dòng)態(tài)批量、FlashAttion，模型編排、模型量化等技術(shù)，降低推理延遲，提高推理吞吐；同時(shí)，對(duì)客戶問題術(shù)語進(jìn)行標(biāo)準(zhǔn)化，對(duì)問題條件進(jìn)行參數(shù)化、問題直達(dá)，減少對(duì)大模型的調(diào)用。
精準(zhǔn)意圖識(shí)別：采用意圖識(shí)別代理技術(shù)，通過智能問題增強(qiáng)、多路要素提煉、智能問題分解和綜合知識(shí)召回等多維度增強(qiáng)，提升了基礎(chǔ)大模型的意圖識(shí)別能力，實(shí)現(xiàn)場(chǎng)景化問題的精確識(shí)別，提高意圖識(shí)別的準(zhǔn)確性。
未來已來，智慧相伴。鯨智MaaS平臺(tái)將持續(xù)以“FUTURE WISE”設(shè)計(jì)理念為基礎(chǔ)，以創(chuàng)新為驅(qū)動(dòng)力，不斷優(yōu)化和提升自身能力，幫助企業(yè)全面提升智能化水平，實(shí)現(xiàn)高效、精準(zhǔn)、全面的AI應(yīng)用。
（免責(zé)聲明：此文內(nèi)容為廣告，相關(guān)素材由廣告主提供，廣告主對(duì)本廣告內(nèi)容的真實(shí)性負(fù)責(zé)。本網(wǎng)發(fā)布目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)，請(qǐng)自行核實(shí)相關(guān)內(nèi)容。廣告內(nèi)容僅供讀者參考。）
【免責(zé)聲明】【廣告】本文僅代表作者本人觀點(diǎn)，與和訊網(wǎng)無關(guān)。和訊網(wǎng)站對(duì)文中陳述、觀點(diǎn)判斷保持中立，不對(duì)所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請(qǐng)讀者僅作參考，并請(qǐng)自行承擔(dān)全部責(zé)任。郵箱：news_center@staff.hexun.com
最新評(píng)論