产品介绍

• 40 TOPS，支持 LLaMA 2.0 和 YOLOv8

• 板对板连接器 (B2B)，4 通道 PCIe Gen4 高速接口

• 支持 AI 框架：TensorFlow、Torchscript、PyTorch&ONNX、Caffe、Mxnet

• 处理器（已测试）： 恩智浦、英伟达、高通、赛灵思

• 支持新一代人工智能和变压器模型

• 可在边缘设备上实现实时、低延迟和高效人工智能推理

• 为可扩展的人工智能解决方案提供多芯片支持

• 稳定扩散 1.4 ~10s（20 次迭代）

• ResNet50-2ms 延迟

AI算力	40 TOPS，支持 llama2.0 和 Yolov8
处理器	恩智浦、英伟达、高通、赛灵思
支持的框架	TensorFlow、Torchscript、PyTorch&ONNX、Caffe、Mxnet
主机接口	板对板连接器（B2B，4 通道 PCIE Gen4 高速接口）
内存	最高 16GB LPDDR4(X)
OS	Linux, Windows
功率	12W
环境温度	0℃~70℃
尺寸	40*55mm