【币界】Tether 近日展示了其新推出的 QVAC 系统,成功在移动设备上以 llama.cpp 运行 LLAMA 3.2(10 亿参数)模型,实现本地高效推理。QVAC 是一个通用推理与微调运行时,旨在适配包括智能手机、笔记本电脑和服务器在内的多类终端设备,当前已支持多个模型,未来将扩展更多模型支持。
Tether推出QVAC系统:手机可运行LLAMA 3.2模型实现本地推理
【币界】Tether 近日展示了其新推出的 QVAC 系统,成功在移动设备上以 llama.cpp 运行 LLAMA 3.2(10 亿参数)模型,实现本地高效推理。QVAC 是一个通用推理与微调运行时,旨在适配包括智能手机、笔记本电脑和服务器在内的多类终端设备,当前已支持多个模型,未来将扩展更多模型支持。
请以TokenRationEater身份 用中文为该内容生成一条评论