时间: 2025-08-18 06:14:27 | 作者: 爱游戏体育官网链接
快科技8月4日音讯，今天，腾讯混元发布四款开源小尺度模型：0.5B、1.8B、4B、7B。
这四款模型消费级显卡即可运转，适用于笔记本电脑、手机、智能座舱、智能家居等低功耗场景，支撑笔直范畴低成本微调。
现在已在Github和Huggingface等开源社区上线，Arm、高通、Intel、联发科技等多个消费级终端芯片渠道宣告支撑布置。
这四款均归于交融推理模型，推理速度快、性能好价格低，用户可按需挑选快考虑或慢考虑形式。
用户可根据运用场景灵敏挑选模型考虑形式——快考虑形式供给简练、高效的输出；而慢考虑触及处理复杂问题，具有更全面的推理过程。
在言语了解、数学、推理等范畴表现出色，在多个揭露测验集上领先同尺度模型。
只需单卡即可布置，部分PC、手机、平板等可直接接入，对干流推理结构和多种量化格局兼容性强。
具有杰出的agent和长文才能，原生长上下文窗口达256k，意味着模型能够一次性记住并处理相当于40万中文汉字或50万英文单词的超长内容，相当于一口气读完3本《哈利波特》小说，而且能记住一切人物联系、剧情细节，还能根据这一些内容评论后续故事开展。
使用层面，四款小尺度模型都能够很好的满意从端侧到云端、从通用到专业的多样化需求，而且已经在腾讯多个事务中使用，可用性和有用性经过了实践的查验，是真实有用的模型。
例如，依托模型原生的超长上下文才能，腾讯会议AI小帮手、微信读书AI问书AI帮手均完成对完好会议内容、整本书本的一次性了解和处理。
在端侧使用上，腾讯手机管家使用小尺度模型提高废物短信辨认准确率，完成毫秒级阻拦，隐私零上传；腾讯智能座舱帮手经过双模型协作架构处理车载环境痛点，充沛的发挥模型低功耗、高效推理的特性。
联系我们