阿里通义千问1.8B迷你模型离线包:5年前的老电脑也能跑,下载收藏解压即玩
我最近,对小尺寸AI大模型比较感兴趣。
之前国内外科技公司在大模型领域,一般是不断增加模型参数来增强模型能力,从7亿、13亿、70亿甚至200亿以上,确实越来越强,但这也会让大家自己家的电脑基本跑不动。
近期,微软发布了只有2.7亿参数的Phi-2大模型;12月初,阿里也发布了只有1.8亿参数的通义千问超迷你大模型。
这些小尺寸的大模型,不但在性能评测上,超过了一些7亿甚至13亿参数的大模型,而且因为尺寸小,基本都可以在3G以下显存甚至CPU模式下快速运行,这样一来,5年前的老电脑也可以玩了。今天分享一个通义千问1.8B超迷你大模型的懒人包,赶快随我去看看吧~
通义千问1.8B大模型
Qwen系列,现在包括Qwen基础语言模型,即Qwen-1.8B,Qwen-7B,Qwen-14B和Qwen-72B。以及Qwen-Chat聊天模型,即Qwen-1.8B -聊天、Qwen-7B-聊天、Qwen-14B-聊天和Qwen-72B-聊天。
Qwen大模型拥有强大的基础语言模型,针对多达 3 万亿个 token 的多语言数据进行了稳定的预训练,覆盖领域、语言(重点是中文和英文)等,能够实现有竞争力的基准数据集上的性能。此外,还有基于SFT和RLHF(尚未发布)的符合人类偏好的聊天模型,能够聊天、创建内容、提取信息、总结、翻译、编码、解决数学问题等,并且能够使用工具,扮演代理,甚至扮演代码解释器等。
而今天介绍的Qwen-1.8B大模型,只需要2.9GB的显存即可运行,换句话说5年前的显卡都可以玩,赶紧下载懒人包,在本地拥有一个AI助手吧~
离线懒人包来了
老规矩,大家自行在本地部署比较麻烦,已经为球友大家制作好了一款离线整合包了,下载到本地解压即用。
大家下载解压到本地。
①双击“一键启动-Qwen_1.8B.exe”。
②双击一键启动程序后,会打开一个命令提示窗口,项目会自动运行。加载成功后,请自行复制以下网址在浏览器打开“ http://127.0.0.1:8000/”。
③打开链接后,可以看到Qwen-1.8B大模型可视化聊天主界面:
界面我已经为大家汉化好了~使用非常简单,可以说是10秒上手:
输入提示词:在“input”区域,直接输入提示词
发送:点击“Submit(发送)”按钮
等待片刻,即可得到通义千问1.8B大模型给你的回复了:
从我自己的体验来看,反应非常迅速,回答也比较靠谱,大家可以自行去尝试一下~
注意事项:
①该项目建议使用英伟达显卡运行,只需要3G显存,CPU也能运行,但偏慢
②请确保安装路径不包含中文,不然可能会引起奇怪的适配问题
今天就聊到这了,我是Glen,感谢你看我的文章,欢迎大家继续支持我,请
点击作者的头像,然后扫码关注我的公众号,并回复【Qwen-1.8B】,免费获得本文资源~
-
阿里通义千问1.8B迷你模型离线包:5年前的老电脑也能跑,下载收藏解压即玩
12月初,阿里也发布了只有1 8亿参数的通义千问超迷你大模型。这些小尺寸的大模型,不但在性能评测上,超过了一些7亿甚至13亿参数的大模型。
2025-02-24 15:36:16 -
midjourney V6更新_midjourney V6最新图片生成
Midjourney在前两个礼拜的周会里,明确放出了消息:全新的V6模型,就要来了。要知道,Midjourney发布V4模型的时候,是在2022年11月5号。而在5个月后,2023年3月16号,Midjourney正式发布了V5
2025-02-24 15:09:26 -
谷歌憋出年度最强AI绘图大模型Imagen 2,对比实测力压Midjourney与DALL·E 3
Imagen 2,谷歌最先进的文本图像转换技术,开发人员可以通过Google Cloud Vertex AI中的Imagen API来使用Imagen 2大模型强大的文本生成图像技术。
2025-02-24 14:44:45 -
百度云宣布开启“AI原生应用时代”:构建大模型-算力-AI原生应用三位一体,百度版「GPTs」正式上线
2023百度智能云·智算大会上,百度集团副总裁侯震宇提出了建立繁荣AI原生应用生态的3个关键组件:大模型、智能计算、AI原生应用开发新范式。
2025-02-24 14:17:36 -
AI绘画龙头Midjourney V6版本怎么样_神图频曝直逼真实世界_MJ V6.0测评:出图以假乱真!
Midjourney V6刚刚开启了第二次社区评价,网友们被各种神图震惊到失语。光影效果逆天,皮肤和毛发质感细腻,让人惊呼图像和照片的差别已经彻底消失!
2025-02-24 13:53:12 -
Stable Diffusion发布商业付费订阅计划:每月20美元,与Midjourney同价,个人用户依旧免费
当地时间 12月14日,Stability AI 公司发布新闻稿,正是宣布旗下的文本生成图片大模型 Stable Diffusion 的会员订阅计划。
2025-02-24 13:26:24
-
快手APP上线首个AI社交技能:「AI小快」聊天机器人,成为评论区的欢乐喜剧人
快手可能找到了AI聊天机器人与社交软件合体的最佳方式。最近很多快手用户发现,一个名叫「AI小快」的账号格外活跃,与网友聊得火热,一个抛梗、一个接梗…
2025-01-31 14:46:56 -
快手「可灵AI」全面开放内测,国际版上线丨Mistral发布1230亿Large 2旗舰模型丨OpenAI免费提供GPT-4o微调
【AI奇点网2024年7月25日早报】本站每日播报AI业界最新资讯,触摸时代脉搏,掌握未来科技动向。事不宜迟,点击查看今日AI资讯早餐。
2025-01-14 11:04:50 -
AI视频后期消除对象神器ProPainter:一涂一抹,视频轻松移除指定对象丨本地离线一键部署
今天给大家介绍一款超强的一键删除视频内的移动物体和去除视频水印的工具ProPainter。本地部署比较麻烦,已经为大家制作好了离线整合包,解压即用。
2024-12-19 17:43:32 -
Midjourney 模型如何选择_怎么选择MJ模型
AI 绘画,顾名思义就是利用人工智能进行绘画,是人工智能生成内容(AIGC)的一个应用场景。其主要原理简单来说就是收集大量已有作品数据,通过算法对它们进行解析,最后再生成新作品,Midjourney是一个由同名研究实验室开发的人工智能程序。
2025-01-02 10:23:33 -
10年缘分说散就散:Ilya Sutskever官宣从OpenAI离职,麾下的“超级对齐团队”负责人也一并离职
5月14日,OpenAI 联合创始人、首席科学家 Ilya Sutskever 发推文对外宣告离职。作为联合创始人历经供职十载,OpenAI初创团队还是走散了
2025-01-26 13:54:56 -
爆火Sora震惊威尔·史密斯,真人整活吃意面视频丨OpenAI技术路线或早在1月被成功预言
威尔·史密斯的这段视频,把全网都骗了!其实Sora的技术路线,早已被人预言了。李飞飞去年就用Transformer做出了逼真的视频。但只有OpenAI大力出奇迹,跑在了所有人前面。
2025-02-13 09:47:49 -
openai取消每日限制_GPT-4 turbo取消每日限制
2月17日,OpenAI在社交平台宣布,取消了GPT-4 Turbo的所有每日限制,并将速率限制提升1倍。现在,每分钟可处理高达150万TPM的数据。
2025-02-13 10:38:31 -
痛失2亿港元!警方通报:香港一跨国公司惨遭「AI换脸」线上诈骗,公司上下竟无一人察觉
据香港媒体报道,??香港警方披露境内首宗多人换脸AI技术诈骗案,一家总部位于英国的跨国公司的香港分公司被AI换脸技术的一段视频,直接骗走2亿港元。
2025-02-13 12:49:36 -
hugging face开源平替_Hugging Chat Assistant最新上线
抱抱脸新推出了OpenAI的GPT商店开源平替,“Hugging Chat Assistant”,也瞄准了让用户免费制定自定义聊天机器人。该软件完全免费,无需像OpenAI那样不开会员就被拒之门外。
2025-02-14 10:04:00 -
360 AI智能搜索APP上架移动应用商店:基于搜索结果快捷生成可追溯的整合型答案
“360 AI搜索”移动APP在国内的各大手机应用商城上线。这是一款免费的智能搜索工具软件,基于360自研的“360智脑”大模型开发。
2025-02-14 16:29:24