開源 AI 本地構建服務
編號:
狀態: 新商品
2026-03-09
2026-11-04
品牌: CA
購買此產品,您可以獲得 104 點數. 您的購物車總額 104 points 可以轉換成優惠券 $ 520.00.
更多資訊
開源AI本地構建服務
資料零外流
所有運算、暫存皆於公司內部GPU伺服器,絕不經手第三方,符合嚴格的保密合規。
專用本地AI伺服器
平台可連接多台本地GPU伺服器,算力線性擴充。
內部專屬平台
預載Open WebUI / LM Studio 風格入口,客製化專屬網域。
最高120B 級別模型
最高支援120B (1200億) 級別開源模型
最高128K 內容長度
可處理約128K 超長文書、代碼、報告,滿足深度分析與長對話場景。
自由更換/連接多模型
管理介面一鍵切換開源LLM/VLM,同時連接多個模型後端,對比輸出。
* 建議平衡點(約80B, 128k context length)
* 80B 模型平均約35 tokens/sec, 適用於10人以下團體.
套餐 1
- 專用AI平台連2級域名
- 提供及安裝 Blackwell G10 128GB unified memory
- 支援運行80B以下開源大模型 open source LLM/VLM 80B or below
- 1年本地寄存 (4vcpu/16GB/100GB/no gpu)
套餐 2
- 專用AI平台連2級域名
- 提供及安裝 2 x Blackwell G10 128GB unified memory + stacking cable
- 支援運行80B以下開源大模型 open source LLM/VLM 80B or below
- 1年本地寄存 (4vcpu/16GB/100GB/no gpu)