引言:MaaS(Model as a Service,模型即服務)是一種將人工智能算法模型及其相關能力封裝成服務,以降低人工智能技術使用門檻、控制應用建設成本、簡化系統(tǒng)運維管理復雜度,并提升人工智能技術的綜合應用效能的模式。

上新了,上新了,卓世科技 MaaS 平臺 V2.0 版本正式上線。本次新上線了包括:模型訓練新基座,支持模型訓練、推理、量化、評測等功能。
卓世科技 MaaS 平臺是一款基于知識增強大模型的一站式行業(yè)模型訓練開發(fā)平臺。面向開發(fā)者和企業(yè)提供從基礎算力服務、數(shù)據(jù)服務、模型訓練服務、應用部署和構建等一系列行業(yè)模型的 " 交鑰匙 " 服務。通過產(chǎn)業(yè)數(shù)據(jù)和行業(yè)知識快速打造企業(yè)專屬的行業(yè)模型,行業(yè)模型將成為企業(yè)構建上層應用的智能化數(shù)據(jù)底座。
V2.0 版本上線新功能:
1、模型訓練 MaaS 底座升級
2、MaaS 新基座模型 sft 微調(diào)
3、MaaS 新基座模型 PT 訓練
4、MaaS 新基座模型評測
5、MaaS 新基座模型量化壓縮
6、MaaS 新基座模型推理部署升級
7、Prompt 工程能力
MaaS 平臺加速了 AI 應用部署的周期,提升了創(chuàng)新的迭代速度,降低了企業(yè)應用大模型服務的多方面成本,推動了 AI 與各行業(yè)的深度整合。促進生成式 AI 應用的規(guī)?;涞亍?/p>
卓世科技 MaaS 平臺核心優(yōu)勢:
1、 支持多源異構的基礎大模型:多種開源、閉源模型,璇璣玉衡模型、ChatGLM2、Llama2、文心一言 ERNIE-Bot-Turbo
2、 模型開發(fā)全流程一站式能力:場景分析、數(shù)據(jù)增強、模型訓練、模型評估、模型測試、模型發(fā)布、模型部署
3、 低代碼方式降低模型開發(fā)門檻:通過拖拽的方式,完成訓練流程的搭建,極大簡化了用戶操作,大幅降低模型開發(fā)的技術門檻
4、 快捷的數(shù)據(jù)接入與知識增強:特色的數(shù)據(jù)接入體系以及知識增強能力,幫助企業(yè)快速接入各種來源數(shù)據(jù)進行模型訓練服務
5、 完備的算力管理平臺:算力資源監(jiān)控,調(diào)度和管理,實現(xiàn)跨設備、跨域、跨品牌算力融合管理
6、 支持各類模型架構:多種模型種類的支持,如大語言模型、多模態(tài)模型等;多種模型架構支持,如單體模型架構、MoE 模型架構
7、 平臺提供多種模型微調(diào)方式:支持 RLHF、LORA、P-turning 等多種模型微調(diào)方式
8、 支持多種模型壓縮模式:平臺支持模型壓縮技術,降低模型推理成本,滿足端側部署需求。
卓世科技 MaaS 平臺 " 交鑰匙 " 服務:
數(shù)據(jù)服務是 MaaS 平臺提供的一項核心 " 交鑰匙 " 服務,基于大模型技術的數(shù)據(jù)分析和清洗、樣本數(shù)據(jù)智能生成和大模型推理數(shù)據(jù)回流,解決大模型訓練數(shù)據(jù)不足且質(zhì)量不高等情況,全面賦能訓練數(shù)據(jù)智能處理功能,提升實際訓練場景下訓練數(shù)據(jù)的質(zhì)量和多樣性。
它主要包括以下三個方面:
1、訓練數(shù)據(jù)智能分析和清洗:綜合利用大模型 + 小模型 + 數(shù)學分析算法的技術優(yōu)勢,對文本數(shù)據(jù) / 結構化數(shù)據(jù)進行分析,優(yōu)化數(shù)據(jù)清洗流程,去 " 臟 " 數(shù)據(jù)危害,清洗效率更高,人力投入更少,提升數(shù)據(jù)的質(zhì)量、準確性和一致性,最終減少模型訓練過程中的錯誤,提高大模型訓練的質(zhì)量和效率。
2、文本數(shù)據(jù)智能生成:基于大模型技術,使用少量文本數(shù)據(jù)智能生成并標注得到更豐富的樣本數(shù)據(jù),以解決大語言模型荊條場景樣本數(shù)據(jù)不足的情況,成本更低廉,且不會損害客戶隱私,從而提升大模型行業(yè)領域微調(diào)的可實現(xiàn)性。
3、大模型推理數(shù)據(jù)回流:結合大模型推理的點贊、點踩等反饋,將正負數(shù)據(jù)回流進行管理。
模型訓練服務是 MaaS 平臺提供的又一關鍵服務,它涵蓋了:
1、模型選擇:提供多種預訓練模型供用戶選擇,這些模型可能針對特定行業(yè)或通用任務進行了優(yōu)化。
2、自定義模型構建:允許用戶根據(jù)自己的需求從頭開始構建模型,提供靈活的模型架構設計工具。
3、訓練環(huán)境配置:提供所需的計算資源,包括 GPU、TPU 等加速硬件,以及相應的軟件環(huán)境。
4、超參數(shù)調(diào)優(yōu):幫助用戶找到最優(yōu)的模型參數(shù),提高模型性能,可能包括自動化的超參數(shù)搜索服務。
5、模型訓練監(jiān)控:提供訓練過程中的實時監(jiān)控和日志記錄,幫助用戶了解模型訓練的狀態(tài)和效果。
應用部署和構建服務確保模型能夠轉化為實際可用的應用程序,具體包括:
1、模型部署:將訓練好的模型部署到生產(chǎn)環(huán)境中,可能包括云服務器、邊緣設備或特定硬件上。
2、API 集成:提供 API 接口,使得模型可以被其他應用程序調(diào)用,實現(xiàn)模型服務的快速集成。
3、應用開發(fā)框架:提供一套框架和工具,幫助用戶快速構建和測試基于模型的應用。
4、持續(xù)集成 / 持續(xù)部署(CI/CD):自動化應用的構建、測試和部署流程,提高開發(fā)效率和應用質(zhì)量。
5、用戶界面(UI)設計:幫助用戶設計和實現(xiàn)與模型應用交互的用戶界面,提升用戶體驗。
6、性能優(yōu)化:對部署的應用進行性能調(diào)優(yōu),確保應用的響應速度和處理能力滿足業(yè)務需求。
7、安全性保障:確保應用的安全性,包括數(shù)據(jù)傳輸加密、訪問控制和防御潛在的安全威脅。
通過這些服務,卓世科技的 MaaS 平臺能夠為開發(fā)者和企業(yè)提供從數(shù)據(jù)準備到模型訓練,再到應用部署的全流程支持,實現(xiàn)行業(yè)模型的快速開發(fā)和應用。
免責聲明:市場有風險,選擇需謹慎!此文僅供參考,不作買賣依據(jù)。