流星划过水塔尖

别再看显存了!BitNet.cpp 落地全攻略:在普通 CPU 上跑赢大模型

AI 博主连夜翻遍了微软在 GitHub 上开源的 BitNet.cpp 项目文档和社区讨论,整理出了这篇从原理到实操的全流程干货教程。 今天,我们就手把手教你如何用普通 CPU 调教出“千亿级”大模型的风采! 一、 技术回顾:为什么 BitNet.cpp 是“平民福音”? 在进入实操前,我们快速复

志鸢 志鸢 Published on 2026-04-04

termux本地部署ollama与gemma,让你的手机离线跑ai

termux本地部署ollama与gemma,让你的手机离线跑ai https://www.bilibili.com/read/cv32453978/?jump_opus=1 1、安装termux https://github.com/termux/termux-app/releases 下载arm

志鸢 志鸢 Published on 2024-05-22