MLC-Chat:在手机上部署免费大模型,比如Deepseek
Deepseek大火,免费啊,不用白不用,但是官网在线版因为突然用户量巨大导致太卡了,有需求的可以直接本地部署,甚至手机上部署,这是可以的,用MLC-Chat这个App即可,但是注意了,因为手机端性能有限,没办法部署大参数量模型,只能2B-7B这个参数量,效果不会有多好。
Gemma 4 保姆级部署全攻略:从手机到服务器一键跑通
2026年4月2日,Google DeepMind毫无预警地开源了Gemma 4。这不仅是技术升级,更是生态信号:与闭源旗舰Gemini 3同技术底层,首次采用Apache 2.0协议,商用分发无限制。
开源AI聊天机器人MLC LLM发布,完全本地运行无需联网
MLC LLM 使用了 Vicuna-7B-V1.1,后者是一种基于 Meta 的 LLaMA 的轻量级 LLM,效果虽然不如 GPT3.5 或 GPT4,但在大小方面比较占优势。
手机端跑大模型?我试了小米 12 Pro,结果如何呢?
测试机型:小米 12 Pro(骁龙 8 Gen1,8GB/12GB)前言:一个疯狂的想法上周,朋友神秘兮兮地问我:"你能把 AI 塞进手机里吗?不要云端,不要联网,就靠自己手机跑的那种。"我当时就笑了:"你在开玩笑吧?那得是什么配置?
手把手教你把Google Gemma 4装进手机:离线也能流畅对话!
你赶上了好时候!Gemma 4 是 Google 在 2026 年 4 月发布的最新一代轻量级 AI 模型,支持在手机本地运行,还能处理图片、音频,真正做到“随身 AI 助手”。你的手机能不能跑?
MLC-LLM:让手机也能运行大语言模型
MLC-LLM 是一种通用 AI 模型本地化部署解决方案,可以在各种硬件平台和本地应用程序上原生部署任何语言模型,并为每个人提供一个高效的框架,以进一步优化模型性能,满足他们自己的用例需求。它的使命是让每个人都能在自己的设备上本地开发、优化和部署AI模型。
陈天奇等人新作引爆AI界:手机原生跑大模型,算力不是问题了
运行时:TVM 编译生成的库能够通过 TVM runtime 在设备的原生环境中运行,TVM runtime 支持 CUDA/Vulkan/Metal 等主流 GPU 驱动以及 C、JavaScript 等语言的绑定。
手机上的编程助手:在本地运行大模型是怎样一种体验?
你的下一台“开发机”,何必是电脑?还记得几年前,我们只能在云端调用大模型,每一次提问都要经历“上传-等待-接收”的漫长轮回。而现在,一切正在改变——在旗舰手机上,你可以完全离线、实时地运行一个能写代码、能 debug 的大模型。这听起来像科幻,但已成为现实。
大模型能成为手机厂商的救命稻草吗?
把大模型装进手机,成为了今年手机厂商最爱讲的故事。华为、小米、OPPO、vivo、苹果都写起了大模型「上机」的同题作文。
OpenAI网站突破10亿月活;华为类ChatGPT将发布丨AIGC大事日报
华为版类ChatGPT将于7月7日发布。微软Office 365 AI助手定价曝光。腾讯、好未来入股清华系AI公司深言科技。