阿里云通義開(kāi)源長(zhǎng)文本模型及推理框架 百萬(wàn)Tokens處理速度提升近7倍

1月27日凌晨，阿里云通義開(kāi)源支持100萬(wàn)Tokens上下文的Qwen2.5-1M模型，推出7B及14B兩個(gè)尺寸，均在處理長(zhǎng)文本任務(wù)中穩(wěn)定超越GPT-4o-mini；同時(shí)開(kāi)源推理框架，在處理百萬(wàn)級(jí)別長(zhǎng)文本輸入時(shí)可實(shí)現(xiàn)近7倍的提速。

百萬(wàn)Tokens長(zhǎng)文本，可換算成10本長(zhǎng)篇小說(shuō)、150小時(shí)演講稿或3萬(wàn)行代碼。兩個(gè)月前，Qwen2.5-Turbo升級(jí)了百萬(wàn)Tokens的上下文輸入能力。如今，開(kāi)源社區(qū)可基于全新的Qwen2.5-1M系列模型，進(jìn)行長(zhǎng)篇小說(shuō)或多篇學(xué)術(shù)論文的解析，或是探索倉(cāng)庫(kù)級(jí)代碼的分析和升級(jí)。