仅仅2小时:摩尔线程GPU火速支撑阿里通义千问
作者:[db:作者]日期:2025/03/07 浏览:
快科技3月6日新闻,3月6日一早,阿里云正式宣布并开源全新推理模子“通义千问QwQ-32B”,而在仅仅2个小时后,摩尔线程就敏捷、高效地实现了适配,实现了Day0级支撑!基于年夜言语模子高速推理框架vLLM、MT Transformer推理引擎安排的QwQ-32B,在摩尔线程GPU上的现实运转中,展示出了出色的推感性能与稳固性,再次印证了摩尔线程MUSA架构的强盛生态兼容性。值得一提的是,在此之前,摩尔线程仅用一周时光,就敏捷支撑了DeepSeek开源周“百口桶”。
现在,摩尔线程已将这一结果开放上线至模子广场“夸娥工厂”。夸娥工厂是摩尔线程倾力打造的模子展现核心,可为用户供给基于摩尔线程夸娥(KUAE)智算集群支撑的模子才能休会。夸娥工厂休会地点:https://playground.mthreads.comQwQ-32B休会地点:https://playground.mthreads.com:12019
摩尔线程模子广场“夸娥工厂”休会界面在一系列威望基准测试中,千问QwQ-32B模子表示异365bet体育样杰出,多少乎完整超出了OpenAI-o1-mini,比肩最强开源推理模子DeepSeek-R1。只管它只有32B参数,但经由过程年夜范围强化进修练习,其开元体育登录入口在数学、编程、通用才能等范畴实现了明显冲破,展示了出色的智能化程度。从官方宣布的benchmark测试对照图中能够清楚地看到,QwQ-32B在各项测试中成就明显高于OpenAI-o1-mini、Deepseek的各个蒸馏版本,在LiveBench、BFCL测试中乃至击败了满血版的Deepseek-R1-671B。
【本文停止pg电子娱乐试玩】如需转载请务必注明出处:快科技义务编纂:上方文Q
相关文章