优惠论坛
标题:
Tether 发布 QVAC 跨平台 BitNet LoRA 框架:支持消费级设备训练十亿参数 AI 模型
[打印本页]
作者:
比推快讯
时间:
2026-3-17 21:17
比推消息, 据官方公告,Tether 宣布推出 QVAC Fabric 中的跨平台 BitNet LoRA 微调框架,实现对 Microsoft BitNet(1-bit LLM)的训练与推理优化。该框架显著降低算力与内存需求,使十亿参数级模型可在笔记本、消费级 GPU 及智能手机上完成训练与微调。
该方案首次实现 BitNet 模型在移动端 GPU(包括 Adreno、Mali 及 Apple Bionic)上的微调,测试显示,125M 参数模型可在约 10 分钟内完成微调,1B 模型约 1 小时级别完成,甚至在手机端可扩展至 13B 参数模型。
此外,该框架支持 Intel、AMD 及 Apple Silicon 等异构硬件,并首次实现非 NVIDIA 设备上的 1-bit LLM LoRA 微调。性能方面,BitNet 模型在移动 GPU 上的推理速度较 CPU 提升 2 至 11 倍,同时在显存占用上较传统 16-bit 模型最高降低约 77.8%。
Tether 表示,该技术有望打破对高端算力与云基础设施的依赖,推动 AI 训练向去中心化与本地化发展,并为联邦学习等新型应用场景提供基础。
风险提示: 本新闻涉及的内容仅供参考,不构成投资建议。依据发布的信息以及所表达的意见行事所造成的一切后果由行事者自负。
文章链接
欢迎光临 优惠论坛 (https://tcelue.tv/)
Powered by Discuz! X3.1