口袋AI:五分钟把世界知识装进口袋

文摘   2024-11-07 20:04  


现在我日常已经离不开使用 AI 了。

但是目前这些 AI 的使用都有一个问题,那就是需要联网,一旦在没网或者网不好的情况下,AI就得歇菜


好几次,我在飞机上脑子里想到了某个东西,但是具体是什么不清楚,都会想,要是没网的时候也能用 AI 大模型就好了。


大模型几乎学习了世界知识,如果能把大模型离线部署到手机上,这样我就相当于把世界知识装进了口袋随身携带


再也不用担心没网了。


说干就干,于是通过各种方法折腾,我在手机上安装了一个轻量的大模型,在网络不好的时候,作为我的替代品。使用一段时间下来,真的很不错。



我很想写,但是当时能使用的方法太折腾了。


需要来来回回安装很多软件,需要特殊的网络,还需要会一点代码,同时,每次用起来也很不方便。


但是现在,站在开源的肩膀上,江树给大家带来「口袋AI」,让大家不用写代码,不用特殊上网,不用看英文,不用换手机,不用更新系统,不用花钱,也能直接在手机离线使用大模型。


我在我3年前买的旧手机上测试了多款模型,运行流畅,毫无压力。


这应该是国内目前手机离线部署大模型最简单的方法了。


其他方法江树已经帮大家尝试过了,很折腾,使用体验一言难尽。


那么这个应用去哪儿下载呢?


关注公众号,回复「口袋AI」获取下载链接。


Termux 安装法

就是在手机上安装 Termux,然后安装linux系统,再安装 Ollama,下载及运行大模型。全程步骤很多,要输一大堆命令,而且全程都要在下面这个黑框里面操作,包括对话也是,很麻烦。



具体怎么安装我就不讲了,感兴趣的技术专家自己查看下面的文章

https://www.53ai.com/news/qianyanjishu/1795.html


APP 安装法

通过 APP 安装的方法也有,比如 Maid,可以直接安装使用。


Maid APP

但是 Maid 的问题是,需要特殊网络,同时因为设计方案的问题,在手机上运行非常、非常的慢!不推荐!


maid

既然是方案的问题,优化方案是不是就可以了?


MLC-Chat

手机端也有 GPU,调用 GPU 算起来是不是快一点?目前比较推荐的方案是 MLC-Chat,如下图,看着很牛逼。


MLC-Chat

于是我还真的自己按照官方的教程打包编译了 MLC-Chat,但是很遗憾,在我三年前的旧手机上,每次使用 MLC-Chat 都会黑屏,也许是占用 GPU 资源太多的原因,也许新手机会好很多。


于是我继续寻找,看看有没有更方便的方案。


PocketPal

还真的让我找到了,就是国外的 PocketPal 。用下来很方便,速度也不错。

img

但是,国内用不上 PocketPal !安装包只能在谷歌商店下载,同时还要特殊上网!


因为模型很大,下载模型的时候不仅慢,而且经常失败,浪费很多时间!


还有不支持中文,并且一些功能也是缺失的!


有没有一款更适合中国宝宝体质的应用呢?


江树目前没有找到。


更适合中国宝宝体质的「口袋 AI」

于是综合了上面各种方案以后,我在 PocketPal 开源项目的基础上打造了更符合中国宝宝体质的「口袋AI」APP



不用特殊网络了!国内流畅访问。


精选中文最好的模型,针对国内用户习惯精心调教


更漂亮的 UI,更齐全的功能,更友好的使用。


5min 内就能让你在手机上用上本地大模型!也许是国内目前最快捷的部署方法


不过「口袋AI」也有缺点,就是目前只支持安卓,如果是苹果用户,推荐你去商店下载 「PocketPal」,就是可能需要一点特殊网络。


沟通自如


模型自由


希望能让大家在手机上更方便省心的用好 AI。


软件信息


精选图标


同时,精选可爱搞怪的多啦A梦头像作为 Logo,希望大家看到这张笑脸可以天天开心,也希望多啦A梦的百宝箱能装进你的「口袋」。


tip:

关注公众号,回复「口袋AI」获取下载链接。

  


                历史文章              

 01  offer经验谈
OFFER攻略01 | AIGC产品经理,建筑行业0经验小白成功拿下3家!
OFFER攻略02|从传统行业到字节AIGC产品经理
OFFER攻略03|AIGC产品经理,看他如何绝地反击
OFFER攻略04|简历投递零邀面?40天采访揭秘,60位面试官告诉你为何
OFFER攻略05 | 谁说文科生不能转AIGC产品经理?
OFFER攻略06 | HR视角下的简历审查要点与撰写策略
OFFER攻略07 | 怒拿80%涨幅,2 年产品经理邂逅 AIGC
OFFER攻略08 | 130+个offer背后:AIGC产品经理成长之路
OFFER攻略09 | 城市规划转行aigc,开启职业新旅途
OFFER攻略10 | 深度解读:“背调” 那些事儿

 02  干货分享
如何做好 AIGC产品经
干货分享 | AIGC赛道拿offer终极秘诀从ChatGPT到Sora的启示:未来4年,AI产品经理的生存法则
北歌快问快答系列(1):对谈大厂AIGC产品经理
北歌快问快答系列(2):对谈AI绘画出海产品经理
AIGC产品经理线下片段|产品经理如何变得更贵
AIGC产品经理|从问题到需求,再到完美方案的诞生过程
AI产品经理指南| 面试了100位AI产品经理后的心得总结

 03  招生中

AIGC产品经理研习社
为AIGC产品经理提供一个交流学习的平台。
 最新文章