ShareGuru SLM 管理平台 是一种经济高效的系统,可以在边缘设备上运行小型语言模型(SLM)。ShareGuru SLM管理平台搭载 ShareGuru QA AI 管理平台,支持企业报告撰写、自动摘要生成、自动关键点生成、QA 客服、AI 会议纪要/摘要等多种生成式 AI 功能。
硬件规格
CPU:Intel gen13 i5
RAM:64GB RAM
主板:PRIME Z790-P
Power:依据GPU可有不同配置
GPU:选项如下
nVIDIA RTX 5070
250W
12 GB
(N/A)TFLOPS
988 TOPS
Neuchips VIPER
45W
64 GB
32 TFLOPS
(N/A)TOPS
SLM 模型支持
LLaMA 2 7B
LLaMA 2 13B
Code LLaMA 7B
Code LLaMA 13B
Japanese LLaMA 2 7B
Japanese LLaMA 2 13B
Misteral 7B v0.1
Breeze 7B v1.0 (预设)
保固
一年硬件保固
一年软件保固