多语言和长文本能力是要津主义。

在昔时一年中，通义千问系列模子捏续开源。

不仅常常放出多种版块，波及不同的限度和模态，收成在大模子竞技场中也名列三甲。

比如面前最大的72B模子，阐明就胜过了Llama 2-70B和MoE开源模子Mixtral。

而纵不雅扫数大模子行业，开源怒放也正促进着AIGC新诈欺的暴露。

昔时一年，通义千问团队都作念了什么，又有哪些劝诫值得开源模子建造者参考？

中国AIGC产业峰会上，阿里高等算法巨匠林俊旸给出了他的谜底。

林俊旸参与了通义千问大模子的研发、开源、与外部系统交融等探索使命，还曾参与超大限度预试验模子系列M6、通用协调多模态预试验模子OFA等大模子的打造。

为了竣工体现林俊旸的念念考，在不窜改得意的基础上，量子位对演讲内容进行了裁剪整理，但愿能给你带来更多启发。

中国AIGC产业峰会是由量子位主理的行业峰会，20位产业代表与会商议。线下参会不雅众近千东谈主，线上直播不雅众300万，取得了主流媒体的无为关注与报谈。

演讲要点

开源大模子要更深地融入扫数生态，才能给用户带来方便的使用体验。

除了基础模子Benchmark以外，多语言、长序列和Agent能力，亦然操办大模子阐明的要津主义。

大语言模子发展下去，终将造成多模态模子，因为一个很是智能的模子，不仅要有语言能力，还应该融入对视觉语音方面的伙同。

以下为林俊旸演讲全文：

融入生态，让大模子使用愈加方便

礼服国内一又友都据说过通义千问的开源模子，咱们从客岁8月份开动一直开源，到面前咱们开源的系列模子一经很是多了，刚开动先从7B、14B开动开源，直到面前1.5系列的72B版块，用户使用下来的嗅觉还可以。

虽然，咱们的1.5系列模子，涵盖的限度很是全，除了72B还有0.5B、1.8B这么的小限度版块，最新还有一个小的MoE的模子，大致是14B的参数目，激活参数目大致是2.7B。

咱们的模子面前在LMSYS chatbot Arena，也等于东谈主工评测上头取得比较可以的收成，在刚开动登榜的时候，咱们是开源的第又名，刚刚才被千亿参数的Command-R-Plus给卓绝。

如果只在相易限度中比较，那么戒指到面前（4月17日），咱们的72B模子照旧最佳的。

除此以外，咱们也听从了建造者的冷落，发布了32B模子，因为建造者响应说72B模子太大，14B又好像还不够用。

最新推出的这个32B模子也取得了比较可以的收成，置身到了前15的行列，阐明很是接近72B的模子，跟MoE架构的Mixtral比拟也具有一定上风。

而除了不断提高模子的阐明，最近几个月咱们还作念了一些不太相似的事情，等于让千问系列模子更好地去融入大模子生态，让用户使用起来愈加方便。

具体的举措有这么几点，第一是千问的代码一经融入了Hugging Face的官方代码当中，寰球使用通义千问1.5的模子时就不需要再用Transformer code来调用了。

除此以外，咱们好多三方框架都作念了比较好的复旧，包括LLama.cpp、vLLM，面前还有像Ollama也很是方便，都可以一键使用咱们的模子。

如果你用LM Studio，也可以从中使用咱们的GGUF的模子。如果想对咱们模子进行微调的话，其实可以用到比如说Axolotl以及国内的LlaMA-Factory等器具。

多语言和长文本能力是要津主义

接下来我会给寰球详备先容一下咱们模子的组成以及模子刻下阐明水平。

领先要看Base Language Model是一个什么样的水平，因为只须基础语言模子的阐明好了，才能终了对都，去进一步作念一个比较好的模子。

咱们各个Size都作念了对比，其中72B的模子在各个Benchmark上的阐明都比较有竞争力。

虽然，咱们面前开源模子跟GPT-4还会有差距，可是比拟于此前的Llama2-70B以及Mixtral，都有比较赫然的上风。

很长一段时分，如果寰球关注Hugging Face Open LLM Leaderboard，会发现其实有好多模子是基于咱们的72B模子微调出来的，因为国际一又友好多很是可爱微调这个模子，然后登到这个榜上去。

同期咱们不单是有7B及以上的大模子，也有小一些的模子，又叫作念Small Language Model这一块，咱们最小的模子参数目是0.5B，也等于5亿。

咱们还有像1.8B、4B这些限度的模子，跟Phi-2、Gemma-2B等模子比拟的话，咱们的模子都很是有竞争力。

另外一个方面是多语言的能力，咱们此前的模子在Qwen1的时候，莫得对多语言进行检测，但实质上是多语言的模子。

寰球可能会有一些观念，比如说阿里训出来的模子等于汉文的模子，或者是中英双语的模子，其实不是这么，咱们最近对多语言能力作念一些检测，发现它的阐明还可以，是以咱们进一步在这个基础上作念了多语言方面的对都。

在12个比较大的语言上头去跟GPT-3.5比拟，咱们的模子阐明都比较有竞争力。

如果寰球关注外交媒体，会看到有好多一又友在使用咱们的多语言的能力。

从面前收到的一些响应来看，它的越南语能力还可以，还有东谈主跟我说，配资门户孟加拉语也还可以。

最近还出现了一个模子东南亚语言模子Salior，它是基于Qwen1.5继续试验然后微调出来的。

而在小模子方面，有响应说在法语上的阐明可以，家如果看ChatBot Arena法语榜上，Qwen1.5阐明也吊唁常有竞争力的。

在长序列方面，面前咱们看32K长度上的阐明是比较踏实的，有些模子Size以致可以通过外推的神气推的更长，接下来的版块也会有更长的高下文窗口。

咱们除了作念简略的大海捞针的实验以外，也对一些针对序列评测的榜单作念评估，发现咱们的Chat模子在长序列方面，是可以作念一些使用方面的东西。

下一个部分等于常说的Post-training，今天寰球对大模子感兴味，主要亦然因为Post-training让大模子的后劲爆发出来，能够成为一个Assistant来匡助咱们。

咱们在Post-training作念了很是万古分的使命，包括SFT（教导监督微调），主若是在数据方面作念了一些比较塌实的使命。

咱们最近在DPO方面也作念了比较多的使命，之后如果有契机理会过本事论说的神气跟寰球共享更多关系的细节。咱们作念完这些之后，会发现模子在一些评测上头的阐明更有竞争力。

除了东谈主工评测以外，还有像MT-Bench和Alpaca-Eval这么的测试，咱们模子的阐明也都很是有竞争力，尤其是Alpaca-Eval。

另一方面咱们讲Agent方面的能力，这是咱们一直很是眷注的。

但咱们刚开动给Qwen系列模子作念SFT的时候，发现模子不太具备Agent关系的能力。

贬责的神气是作念更多的数据标注，时分长了之后，劝诫越来越丰富，就可以作念一些Agent关系的任务了。

下一站是多模态Agent

今天咱们还会眷注另外一个问题，等于“大”模子关于好多东谈主来说是不够用的。

因为大模子发展下去，终将造成多模态的模子，因为一个很是智能的模子，应该能够融入对视觉语音方面的伙同。

昔时几年的时分里，咱们在多模态鸿沟也作念了比较多的使命，再把之前的一些劝诫融入进来，就有了Qwen-VL系列模子。

Qwen-VL系列模子的试验递次也相对来说比较简略，分为三个阶段。

领先吊唁常塌实对都的预试验，终了视觉和语言模子的对都，让咱们的语言模子能够睁开双眼看寰宇，能够伙同视觉方面的信息。

接下来是能力的注入和对都，咱们VL中枢建造同学，他有一天刚好去病院，对病院密密匝匝拍了一个照问它说肚子疼去那里，模子把关系信息都能准确识别出来。

这是今天VL模子跟昔时不相似的点，今天对OCR的识别比以往作念的好好多。

在这个基础上咱们想作念愈加冒险的事情，比如说打造VL方面的Agent，如果能告捷的话，将会很是有引诱力。

比如说，如果想敌手机屏幕进行操作，如果看到的是一堆代码，那么操作起来将会很是贫瘠，而对东谈主来说岂论怎样看、岂论神采、Logo怎样变咱们都能伙同，屏幕上头有哪些东西咱们都能作念出正确经受。

是以咱们也让模子进行了一些尝试，发现它能准确识别出来这些位置，是以我礼服跟着VL模子水平不断栽种，在Agent方面的后劲会越来越大。

如果让咱们模子看见寰宇，能不可让它听见呢？递次也很是简略，简略说等于把Audio Encoder接入咱们的模子，再基于刚才所说的几个阶段进行试验，就能得到很是好的恶果。

而能够听见声息的大模子，可以作念的事情很是多。

比如我在国际旅游，到了某个国度去，不太会说当地的语言，但愿有一款居品能帮我进行翻译。

而在这种居品背后需要贬责几个问题，需要先对语音进行识别，然后再进行机器翻译，这个历程其实很是勤劳。

但有了大模子之后，这么的任务只需要一个prompt就能贬责，何况还能翻译成不同的语言，只需要跟模子交互就可以了。

除此以外，还有对当然声息和音乐的伙同，ASR模子只可伙同东谈主的话语并转成翰墨，但践诺中的声息包括当然声息以及音乐等多种类型。

而咱们的模子可以作念音乐的赏析，听到一段声息就能写出一首诗，可以看到大语言模子在多模态方面后劲全都。

另外，本年很是雄壮的一个趋势是大模子与视频的伙同，咱们下一步会作念出更多模态，其中视频等于一个要点。

临了我作念一个简略的回首，咱们面前的Base模子和Chat模子每一次都会推出几个版块，最新的模子就在几个小时前，还推出了code专项模子，叫作念CodeQwen 1.5，是一个7B限度的模子，在代码方面的Benchmark阐明比较杰出，寰球可以去尝试。

接下来咱们会去作念进一步的Scaling，包括模子本人和数据的scaling，接下来还有模态方面的scaling，也等于接入更多的模态。

咱们最终的标的是终了一个很是强盛的大预言模子，能够伙同各式模态的信息，以致终了不同模态的输入和输出。是以，接下来寰球可以捏续关注咱们的进展。

• 东谈
• 模子
• 阿里
• 好多
• 林俊旸