元空智能发布端侧AI产品矩阵:断网环境下AI仍能完成发票分类、金融分析到科研全流程

9月3日元空智能在上海发布端侧AI产品矩阵,携手惠普探索”AI在本地发生”路径。核心产品自研端侧模型Boxer在40TOPS算力的普通消费级PC上实现每秒700+ tokens预填充、30+ tokens解码速度,运行内存不到8GB。配套”元空AI Work”平台可持续24小时不间断工作,断网环境下完成整理53张发票按月分类生成Excel、从400余条金融流水中识别异常交易、从蛋白质结构分析到撰写论文的科研全流程。联合创始人姚佳雨表示,需要真实在环境中工作的系统不仅靠模型,需要模型、Agent与设备三位一体协同。20B至100B参数区间的模型才具备执行Agent任务能力。

原文链接:元空智能发布端侧AI产品矩阵:断网环境下AI仍能完成发票分类、金融分析到科研全流程

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注