中科创达:已率先发布端侧运行130亿参数模型

交换机 56 0

科创达接受调研时表示公司已经率先发布端侧运行130亿参数模型。充分利用模型压缩、分布式以及张量并行技术,成功在搭载高通8系列芯片平台的边缘设备上实现LLaMA2130亿参数模型的稳定运行,成为业内首家取得此突破的大模型企业

中科创达:已率先发布端侧运行130亿参数模型-第1张图片-淮南编程学习网
图片来源网络,侵删)

标签: 模型