自从我发了那个本地部署DeepSeek的视频之后,每天都有几十人来咨询我相关的问题。要么是ollama下载不了,要么是UI界面连接不上ollama……
很多单位表示:因为工作需要,他们想为单位内部搭建自己的内网AI平台,方便后期相关工作的开展;所以它们不但要部署本地AI大模型,还想在单位内部共享使用。
最近我发现了一款国产的、开源、免费的本地大模型管理软件——AingDesk,可以一键在本地电脑部署管理上百款大模型。
快速体验
官网:https://www.aingdesk.com/
官网非常简单,进去下载,然后和普通软件一样安装就行了。
安装大模型
第一次使用AingDesk需要安装模型管理器,目前只能选择ollama,估计未来会支持更多。
它会自己下载安装ollama,不需要你自己去下载。
然后,你就能一键挑选你想要的大模型了,真多、真方便啊!
文本对话类、视觉类、嵌入类、工具类,全都有呢!
想要哪个,点后面的“安装”即可。(当然,这一切还得由你电脑的性能来决定)
我网速比较快,1分钟就下载好了。
对话
接下来,你直接就能和大模型对话了。
对话这一部分,就不详细讲了,相信大家已经都早已经接触过了。
细心的你,一定发现了它右下角的“不使用联网搜索”,何不点开看看?
当我在右下角勾选了“百度”后,再给它发送“介绍一下不坑老师”,就能得到根据实时搜索后推理出来的结果了。
分享大模型
当你在某一台电脑上按上面的方法部署好大模型后,你还能把这个大模型分享给你的小伙伴使用。
我最开始还以为只能分享给局域网的小伙伴使用,没想到我没有连接WIFI的手机,也能直接和这个大模型对话。
这就真的太方便了!
只需要在一台非常强的电脑上部署好大模型,以后随时随地都可以使用了!
结束语
这个软件是MIT开源协议,就是完全可以免费、无限制使用。
当然,现在它的功能还比较少,相信渐渐地它会逐步壮大,让我们使用起来更方便。
需要的,赶紧试试!
https://www.aingdesk.com/
- end -