大浪淘沙 发表于 2025-4-18 18:07:09

微软发布1比特AI大模型 可在CPU运行

微软研究人员推出20亿参数的1.58比特大模型BitNet b1.58 2B4T。该模型极其轻量，非嵌入式内存占用仅400MB，因此可在CPU上高效运行，甚至能在苹果M2芯片上运行。

虽然比特数减少影响精度，但得益于4万亿Token训练，其在多项基准测试中表现优于部分同类模型。不过，实现高效运行需依赖特定的bitnet.cpp推理框架，该模型已在Hugging Face开源。

Tom's Hardware (https://www.tomshardware.com/tech-industry/artificial-intelligence/microsoft-researchers-build-1-bit-ai-llm-with-2b-parameters-model-small-enough-to-run-on-some-cpus)

XYZ124 发表于 2025-4-18 18:43:57

感谢分享

wusuoshishi 发表于 2025-4-18 19:29:59

谢谢分享

zhangyuge 发表于 2025-4-18 19:37:39

感谢分享

读者202411 发表于 2025-4-19 07:35:20

感谢分享

独孤梵听 发表于 2025-4-19 23:45:33

感谢分享

风中追枫 发表于 2025-4-24 21:51:33

感谢分享

llliii 发表于 2025-5-2 13:50:38

感谢分享
页: [1]
查看完整版本: 微软发布1比特AI大模型 可在CPU运行