阿里5nm RISC-V芯片首次原生运行通义千问27B大模型
阿里达摩院发布的RISC-V旗舰CPU玄铁C950，近日成功原生运行通义千问3.8-27B大模型。这是RISC-V架构芯片首次在不依赖GPU、无需模拟层的情况下，直接运行270亿参数级别AI模型，推理速度达30 token/s，为国产芯片跑大模型开辟新路径。
阿里达摩院发布的RISC-V旗舰CPU玄铁C950，近日成功原生运行通义千问3.8-27B大模型。这是RISC-V架构芯片首次在不依赖GPU、无需模拟层的情况下，直接运行270亿参数级别AI模型，推理速度达30 token/s，为国产芯片跑大模型开辟新路径。