米乐M6首个邦产单池万卡液冷算力集群加入运营 满意万亿级大模子锻炼需求

 米乐M6     |      2024-03-26 09:43:55    |      小编

  【首个邦产单池万卡液冷算力集群加入运营 满意万亿级大模子操练需求】中邦电信22日通告,天翼云上海临港邦产万卡算力池正式启用,同时入驻首批用户。这是邦内首个加入正式运营的邦产单池万卡液冷算力集群,也是业内领先的宇宙产化云智一体大家智算核心。会上,人工智能琢磨院、稀宇科技、百川智能、思必驰科技、亿熵智能科技、澜码科技、赛陇生物科技、天壤智能科技8家合营伙伴缔结入驻和讲。此次启用的天翼云上海临港邦产单池万卡液冷算力集群更始性地采用汇集中置、算力分层的“魔方”型,告终了简单集群内万卡高速互联,满意万亿级参数大模子操练所需的众机众卡并行、高含糊无损通讯等需求。

  3月22日,中邦电信通告,天翼云邦产万卡算力池正式启用,同时入驻首批用户。这是邦内首个加入正式运营的邦产单池万卡液冷算力集群,也是业内领先的宇宙产化云智一体大家智算核心。

  会上,人工智能琢磨院、稀宇科技、百川智能、思必驰科技、亿熵智能科技、澜码科技、赛陇生物科技、天壤智能科技8家合营伙伴缔结入驻和讲。

  环球开展正正在进入“深水区”。跟着天生式AI的迭代和开展,大模子范围以惊人的速率扩展,万亿参数级别简直成为通用大模子的标配,由此带来的是算力需求的快速增进。

  行为践行《新型数据核心“算力浦江”步履安顿(2022-2024年)》的首要步骤之一,正在临港新片区建设临港算力(上海)科技有限公司,加快临港算力核心维持,为长三角供应特别优质、特别普惠的智算大家办事。2024岁首,正在智算园区投筑15000卡大家智能算力核心,这是宇宙范围最大的运营商级智算核心。

  原委急急的维持,3月22日,上海临港智算园区的首个邦产单池万卡液冷算力集群正式交付,并加入贸易运营。

  此次启用的天翼云上海临港邦产单池万卡液冷算力集群更始性地采用汇集中置、算力分层的“魔方”型,告终了简单集群内万卡高速互联,满意万亿级参数大模子操练所需的众机众卡并行、高含糊无损通讯等需求。同时,为了告终绿色低碳的对象,总共采用交融液冷办事和IDC根蒂措施的新一代智算液冷DC舱,告终了的能效和智算集群的算效双晋升,为“+”供应智能、弹性的绿色算力。

  据先容,此次正式运营的大家智算核心,以中邦电信天翼云自研TeleCloudOS 4.0为底座,承载天翼云算力分发汇集平台“息壤”、智算根蒂措施平台“云骁”、一站式智算办事平台“慧聚”,修筑算力纠合分发的新形式,告终全栈本领自助可控、安乐可托,众项技巧目标领先,可为大模子企业供应从算力供应、算力输送、算力更改到模子操练及推理使用的一站式办事。

  会上,八家合营伙伴通告将行为首批用户入驻临港邦产算力池,此中既有通用说话大模子公司百川智能、稀宇科技、思必驰科技、天壤智能,也有金融规模的行业大模子金声玉亮、企业级AI-Agent平台公司澜码科技、AI创重生物制药公司赛陇生物,以及上海人工智能琢磨院,根本掩盖根蒂层、技巧层、使用层等人工智能完好财产链。

  思必驰科技共同创始人、首席科学家俞凯接纳滂湃信息记者采访时吐露,此次邦产万卡算力池办理了算力供应题目,对租用算力的企业来说厉重思考两个题目,一个是有没有算力,二个是能不行用得起米乐M6。“现正在算力是有了,用无须得起上海是有一系列配套战略的。”俞凯吐露,此次邦产万卡算力池正式商用是一个很好的初步,正在模子操练流程中少许适配以及针对性调动,总体上属于先辈水准的算力核心。