产业AI化的算力流水线浪潮如何实践

人工智能由一种技术发展成产业,这是过去数年方兴未艾的行业轨迹,AI产业化如语音识别,想象空间很大却有天花板,而将千行百业AI化,则是公认的广阔天地大有可为。

“行业信息化市场已经步入了产业AI化阶段,这将会是一个万亿级的市场。”在近日召开的IPF2020浪潮云数据中心合作伙伴大会上,浪潮集团执行总裁、首席科学家王恩东如此表示。

结合浪潮自身的定位和产业AI化的前景,浪潮搭建了生产算力、聚合算力、调度算力和释放算力来加速落地AI的流水线,体现出浪潮对于AI算力的理解。

隔离初期,他们没办法采买,只能紧着车上有的东西吃,一个小电锅连着几天煮了五六包家庭装的方便面。还是来考察的社工发现他们缺食物,说“不能总是吃方便面”,赶紧送来新鲜的蔬菜。

在沙坡尾的这段时间,总是受到社工关照,张琦一家和居委会的工作人员都熟络起来,还互相加了微信方便联络。2月2号张琦出了隔离期,3号他就看到社区的许长忠书记在朋友圈里发布招募志愿者的信息。正处在防疫最要紧的当口,张琦觉得自己在沙坡尾住了快一个月,也算是半个居民,全国这么大的疫情,人力上有短缺,自己也应该尽一份力。况且在社区的帮助下,自己家里已经安顿好了,也有余力帮帮别人。“这也就是我们平时学习的,党员要发挥先锋模范作用嘛。”张琦说。

梅建华介绍,山东加大对企业和重点群体稳就业支持,将困难企业失业保险稳岗返还政策延长1年;对小微企业吸纳离校2年内未就业高校毕业生就业的,给予社会保险补贴。在社会保险补贴、公益性岗位补贴、培训补贴、下岗失业人员生活补助等方面延长政策享受期限。对返乡创业服务站、创业孵化示范基地、人力资源服务产业园区,给予运营补贴。对职业技能竞赛活动给予赛事补贴。

到了厦门,家人都很喜欢这座干净、美丽的海滨城市,他们先后去逛了曾厝垵、环岛路、鼓浪屿,还去了海边沙滩玩水,品尝了几样当地小吃,到了晚上就住进订好的酒店,一切都很顺利。直到1月25号从鼓浪屿坐船回来,去沙坡尾取车准备回武汉的时候,他们才发现情况变了。“疫情严重了,武汉封城回不去,厦门这边我们也不知道能不能待下去,进退两难。”

对此,山东新出台《关于积极应对新冠肺炎疫情做好稳就业工作的若干措施》,指导解决实际问题。据梅建华介绍,政策提出,建立重点企业、重大项目用工保障制度,设立用工服务人社专员,一对一提供用工服务,同时设立用工补贴,对春节期间复工复产的疫情防控重点物资生产企业,给予最高50万元(人民币,下同)一次性用工补贴;对2月10日后一个月内复工复产新吸纳就业的,每新吸纳1人按每人1000元标准给予一次性吸纳就业补贴。

AI应用从开发环境、生产环境,模型上线、部署复杂度远超以往,人工智能企业需要一个强大的高效的资源管理平台,帮助完成一站式模型开发和部署,这就是浪潮AIStation资源平台。

原本一家人在房车里的生活并不丰富,张琦形容就是“蜗居”。在紧凑的空间里,他们除了完成做饭洗碗等日常生活琐事,也就是看看手机,和不时来访的邻居聊几句天。张琦每天还负责去买菜,空闲时候按照单位要求在APP上进行党员的学习强国活动,定时收看新闻和答题。

说起沙坡尾热心的朋友们,张琦打开话匣子,讲出好多人名和故事。和母亲年龄相仿的张阿姨,怕张琦妈妈闷得慌,每天傍晚在家看完新闻,一准散步到停车场找他们聊天。在附近开餐厅的威哥,知道张琦一家在房车里吃不好,就亲手做了一桌子西式大餐,给他们改善生活。沙坡尾工作坊的梁允熹,在得知张琦一家要返回武汉的时候,专门送来介绍当地历史的书《口述历史:厦门港记忆》,并在扉页上亲手写下祝福,“我们是新认识的家人,可这辈子不会再变。欢送你们回家,也欢迎你们再回来。还没讲完的故事,请慢慢看吧。”

新增4例境外输入病例中,3例已于昨日通报具体情况。未通报病例为3月15日晚深圳报告菲律宾输入病例。患者3月14日上午从菲律宾马尼拉机场乘坐KA5930航班14:50到达香港国际机场,入境时体温正常,有咳嗽、咳痰等症状,主动申报有疫情高发地区旅居史,海关部门将其留观。3月15日该患者新冠肺炎核酸检测阳性,目前在深圳市第三人民医院隔离治疗,情况稳定。截止目前,判定中国内地密接者0名。省卫生健康委已将相关情况通报香港卫生部门。具体情况由深圳市卫生健康委进行通报。

因为设计的是短途旅行,张琦一家便轻装简行。三床薄薄的空调被、每人两套换洗衣服、一只能下面条的小电锅、十来个鲜鸡蛋、几包方便面还有一棵大白菜,就是他们最主要的行李。张琦没想着在收拾东西上费心,唯独惦记着带上一棵大白菜,路上下面条的时候放点菜,老人孩子吃着顺口。

据浪潮官方表示,浪潮目前能够提供业界最全和拥有最高性能组合的AI服务器产品线,拳头型产品如针对训练场景的AGX-2,是目前全球首款在2U空间能够支持互联八颗最高性能GPU的AI服务器,AGX-5是目前全球单机AI计算性能最强的AI超级服务器,单机张量计算性达每秒两千万亿次,此外还有面向边缘计算的NE5250M5等产品。

N20X智能网络加速方案可将主机网络、存储和计算的负载的卸载到网卡,对主机计算、存储和网络实现有效的加速,它支持 OVS、 NVMe、Virtual IO的技术融合,甚至能够实现接近于物理机性能的裸金属服务,容器和VM分钟级资源交付。

头一批志愿者没入选时,张琦心里挺失落。成功入选第二批志愿者后,武汉人的特殊身份让张琦成为了志愿者里的“宣传员”,社区安排他走访各个防疫点和商铺进行拍照,跟随书记考察防疫工作并做记录。

为了帮助行业用户更好的进行智慧化转型,连接传统合作伙伴和新兴AI企业,浪潮此前就提出了元脑生态计划,元脑由浪潮联合具备AI开发核心能力的左手伙伴和具备行业整体方案交付能力的右手伙伴共同组成,在本次大会上浪潮进一步推出“E基金”计划,“E基金”首期将由浪潮投入亿元作为启动资金,针对以下三个方向进行重点投入:

特殊时期,共克时艰,对张琦一家来说也是办法总比困难多。张琦的房车属于紧凑型,一家四口同时生活在里面,超过了人员合理容量。每到吃饭的时候,他们只能把桌椅搬下车,才能转得开身。要命的是停车场靠海近,一到下午五六点钟海风就刮起来,饭桌和遮阳棚根本没办法往下放。一家人就商量着把晚饭提前,每天五点前就吃完饭回车上休息。

山东省委组织部副部长、省人力资源社会保障厅厅长梅建华介绍相关情况。沙见龙 摄

附近企业帮忙 接了电源延长线和水管

当地社工说“不能总是吃方便面”

作为服务器厂商,算力的生产是浪潮最基础的能力,浪潮已经形成完整的产品布局,能够提供全线定制化的人工智能芯片和加速卡,覆盖从训练到推理,从语音到语义,从边缘到云到AI加速到各类相关的AI应用的场景。

“我们可以实现计算资源非常细粒度的切割共享,一块GPU资源可以共享到多个用户来同时使用,面对训练场,大规模数据集的IO挑战,我们实现了对训练数据的缓存加速,越来模型开发和训练越来越复杂,浪潮在AIStation上海提供了分布式训练和编排,保证开发人员尽可能自动化调度更大规模的计算力,来提升AI训练模型的精度。”刘军解释道。

“在针对三维的核磁共振图像的模型训练,浪潮LMS系统支持到350百万像素立方的超大尺寸图像分辨率,而在现在通用的GPU技术只能做到200百万像素立方左右的尺寸分辨率。”浪潮AI&HPC总经理刘军表示。

沙坡尾星鲨停车场建在厦门岛内的西南方向,2016年末投入使用,和著名的旅游景区鼓浪屿遥遥相对。今年年初,新冠肺炎疫情暴发,从武汉到厦门旅行的张琦一家四口,就是把房车停在这个停车场上,度过了35天的抗疫生活。

在AI模型生产上线阶段,AIStation推理平台可以帮助客户部署和推理,从而提速整个AI生产交互过程,这其中浪潮解决了很多问题。比如兼容多种深度学习框架和推理服务,AIStation推理版本能提供多模型计算结果,保证推理结果的准确性和可信度。

一家四口体温全部过关,也没有任何呼吸道症状,健康状况良好,但既然是来自武汉,14天的隔离还是免不了。厦门市针对有湖北旅居史的人士提供了几个专门的隔离点保障防疫,但张琦琢磨着,隔离点的承载力有限,而且自己一家都是常住武汉的,万一真的处在潜伏期,再去把别人传染了就不好了。既然房车能保障基本的生活需求,张琦就和社区商量能不能就在停车场就地隔离。

张琦一家1月25号在鼓浪屿岛游玩后,到停车场准备取车,门口的保安就把他们拦下,不让走了。张琦这才知道,两天前的凌晨,家乡武汉已经封了城,厦门也紧接着启动防疫计划,排查湖北籍车辆。他们这辆“鄂A”是无论如何也走不了了,只能就地等待防疫检查。

从技术AI进化至产业AI的中途,不同企业都在探索,边界模糊、定位重塑,这是全新的机会,可能诞生新产业形态的巨头,也可能淘汰一些竞争壁垒不强的企业,置身变革之中的浪潮,也在从底层算力向上寻找突破垛口。

1月20号,农历腊月二十六,张琦一家四口开车出发的时候,疫情的风声还不紧,武汉的市民生活有序进行。他们计划着出来玩个三四天,大年初一就能返回武汉串亲戚、吃年饭了,什么都不耽误。

AutoML Suite之所以可实现上述功能,来源于其三大核心引擎: AutoNAS可根据数据特性,从无到有构建网络模型,实现AI模型与用户应用场景的最佳匹配; AutoTune可进行超参自动调整,使算法工程师从繁琐耗时的手动调参中解放出来; AutoPrune基于元学习技术,可对任意网络进行无损压缩,使生成的模型满足用户应用生产部署要求。

张琦2014年就买了房车,平时赶上假期,喜欢开车带家人短途旅行,这几年陆续去过内蒙古、北京、上海、福建、宁夏好几个省份。今年过年,赶上家里大人孩子都有假,借着高速公路免费的优惠,张琦就想带女儿去看看她一直向往的厦大芙蓉隧道。“女儿喜欢画画,想去感受一下芙蓉隧道那边的文艺气质。”张琦说。

突发状况让张琦有点措手不及,因为没考虑到在厦门常住,他们带的被子不够厚。“刚好厦门那几天降温,当时那个温度,在家是要盖棉被的,但我们就带了空调被。”张琦怕老人受寒,撤出一条褥子给母亲盖,自己就化身“人体热水袋”帮妻女升温。

张琦的女儿月月,也在这段时间体会到了分享与感恩的快乐。临走前,月月亲手画了画,送给总是记挂着他们一家的沙坡尾工作坊。邻近的礼品店,终于在他们出发的当天早上开了门,月月高兴地拉着爸爸去选了几只健康猫,送给关照他们一家的威哥、许书记、梁姐姐,把身体健康的祝福赠予厦门的好朋友们。

没水没电是带给张琦一家的第一道考验。房车一停下,张琦只能靠油箱里储备的油发电,做饭、洗澡哪样都少不了水电,一天过去张琦的一整箱油就下去了半箱。眼见着生活没法保障,张琦赶紧联络了社区,让他们帮忙给想想办法。好在社工速度够快,找到了附近的企业帮忙供水供电,外接的电源延长线和水管,让一家四口的基本生活有了保障。

算力生产之后,数据中心扮演聚合算力的角色,当前云数据中心仍有许多固有挑战,比如虚拟交换、VXlan等技术大量消耗CPU的资源,最多时损耗高达50%,此外,网络抖动、带宽、IOPS的增加都可能拉低云数据中心性能,同时裸金属服务器、软件定义网络等需求成为主流,也给数据中心带来新的难题。

经过申请,张琦一家终于获得了返回武汉的许可,与停留了近40天的沙坡尾依依惜别。街坊邻居和社工听说他们要走,赶忙带着“祝福”来为他们送行。干燥花平安符、口罩、饺子、粥、酒精、消毒水、蔬菜,还有厦门的特产馅饼,从吃的到用的,把来时空空的车厢装得满满当当。武汉市的小区封闭,食品都要线上订购,靠着这些厦门特产,张琦一家不仅路上的物资有了保障,刚回到家也不至于来不及准备,马上能有的吃、有的用。

此外,山东还将提高促进就业创业补贴标准,主要提高个人创业担保贷款额度,提高就业见习补贴标准;完善就业形势监测预警制度,提高失业风险监测预警能力;建立健全就业岗位信息归集发布制度,规范企业裁员行为;建立就业风险储备金制度,妥善处置失业风险;完善组织领导机制、投入保障机制、政策协同机制,加强公共就业服务,确保就业创业政策落实落地。

本次大会上,浪潮发布了全球首个AI开放加速计算系统MX1,在同一机组内能够支持不同厂家的AI芯片,意味着它可以支持多种符合OAM(OCP Accelerator Module)开放标准的接口。

总结:产业AI化,浪潮的新路

之后的几天,由于饮食和气候上水土不服,张琦的母亲开始闹肚子,体温在临界值附近徘徊,这可把一家人急坏了。赶来帮忙的还是社工,及时送到的药品和赶来诊治的医务人员,让张琦母亲的病情得到缓解,大家才逐渐放心下来。

在数据中心网络加速方面,推出N20X智能网络加速方案,最高可释放50%的CPU计算资源,IOPS延迟降低30%以上。

隔离期顺利度过,虽然还是没能找到酒店住,但张琦一家的生活恢复了正常。他能每天早上去附近的市场买菜了,女儿还借助共享单车在停车场的大空地上练会了骑自行车。前来探访问候的街坊邻居也逐渐多了,小小的房车据点热闹起来。

他立刻发了微信跟书记申请,表达自己想去防疫测温驻点工作的意愿,但社区考虑到他一家有湖北旅居史,又刚出隔离期,最终没批准他入选这批志愿者。之后,到了2月18号,第二批志愿者招募时,张琦再次向书记报名。这一回经过党支部的讨论,这名武汉来的临时志愿者终于如愿穿上红马甲,正式加入了沙坡尾的防疫工作队伍。

自从当上了志愿者,张琦的生活更忙碌起来,除了一大早去菜市场买好全家一天的食材,大多数时间就是去防疫点上班。由于社区书记交给了张琦一项特殊的工作——拍照记录,这也让张琦从一个武汉人的视角,更加了解厦门社区里防疫工作的开展与进行。返回武汉后,他用当时保留下来的素材剪辑视频,还整理成画册的形式,描述厦门留给他的印象——热情、美丽、有爱。

住在房车上,生活规律被打乱了,母亲也埋怨过张琦,干吗非要出来旅行过年。但随着物资有了保障,每天感受到当地社工和邻居的温暖,张琦一家也真正地喜欢上了这个海滨,将沙坡尾亲切地称为“娘家”。

张琦的房车在沙坡尾一停就是半个月,住在四周的居民也很好奇,他们究竟是谁?度过了隔离期,渐渐地就有街坊四邻来看望他们,问问有没有什么能帮上忙的。这些邻居成为张琦一家旅居厦门时最大的收获与最温馨的回忆。

如何能把生产、聚合之后的算力高效的调度用于更多的创新?

为帮助企业渡难关稳岗位,山东降低社保成本,助力企业轻装上阵、共渡难关;降低失业保险稳岗返还门槛,支持企业不裁员少裁员;降低残保金负担,对残保金实行分档减缴;降低住房公积金负担;降低小微企业创业担保贷款申请条件,当年新招用符合条件人员占现有职工比例由25%下调至20%,超过100人的下调为10%;鼓励创业就业。

聚合算力:高性能NVMe存储池,深度优化软件栈

20日,山东省委组织部副部长、省人力资源社会保障厅厅长梅建华在该省人民政府召开的新闻发布会上介绍,受新冠肺炎疫情影响,山东2020年就业形势将更为严峻复杂:今年需在城镇就业的新成长劳动力约105万人,去年结转的城镇登记失业人员约45万,新增失业人员约50万人,预计将有200万人以上的就业需求。

生产算力不只是硬件工作,如何让大规模计算在硬件平台上实现,必须要有与之相匹配的软件优化产品和技术。比如当下Common Crawl数据集最大接近250TB,如此之大的数据集,需要大规模深度神经网络来训练,受限于GPU显存有限,无法实现超大参数规模和高分辨率图片模型训练。对此,浪潮研发出LMS系统,它可以实现大模型内部细粒度模型的分层,从而释放GPU显存压力,同时针对图像计算整体优化。

沙坡尾星鲨停车场落成新、面积大,整体呈一个“7”字形。张琦把车停在“7”的拐角,社区给他专门划出一片隔离区,与其他停放的车辆分隔出安全距离,一家四口的隔离生活正式开始。社区派专人每天给他们测量体温、检查健康状况,也陆续送来了口罩、食物等生活必需品。但刚开始隔离,大家都没有经验,小麻烦接踵而至。

回想起刚开始隔离的时候,一家人忧心不已,但正是当时的焦灼与担忧,才显得后来与沙坡尾的街坊邻居成为朋友、产生感情,是多么幸运与珍贵的体验。

释放算力:升级AutoML Suite自动机器学习平台,AI全自动建模

AIStation训练平台首先能够解决研发模型开发训练的挑战,实现高效共享AI算力,加速AI创新的研发。通过AIStation,企业不同工作小组,不同开发者,都可以高效共享AI服务器资源,保证算力资源的高效利用。

目前,浪潮AutoML Suite已在智慧城市、铁路、公路等场景中得到应用。在智慧城市路口通过监测领域,基于40万数据集,AutoML自动生成的模型在日间识别准确率达91.5%,夜间识别准确率为83.6%,高于专家手动设计模型精度;在铁道开口销设备故障检测中,运用浪潮AutoML Suite自动生成的模型实现了81.8%的召回准确率;在高速公路团雾识别领域,对14000张图片进行搜索训练后,自动生成模型对团雾的检出准确率率为99.25%,模型效果符合生产应用水平。

雷锋网了解到,仅就单一AI应用,其实现平均至少需要消耗6个人月的专家人力,以智能化工具提升AI开发的效率,有效降低人力的成本,成为不少企业用户的诉求。

AI算力中心上线推理服务时,尤其高并发推理服务,最大挑战来自海量文件IO处理的瓶颈,浪潮专门针对高并发推理集群进行架构优化,构建高性能的基于NVMe的存储池。具体操作是将AI计算的软件栈进行深度的优化,把所有推理节点进行高带宽,低延迟的高速网络优化,性能提升3.5倍以上。

生产算力:覆盖训练、推理和边缘,最全算力产品线

浪潮自研的AI大模型计算框架LMS,在NLP智能语言模型训练突破70亿参数规模,相比通用参数模型规模提升20倍以上。

张琦对沙坡尾的防疫工作部署可以说是门儿清,“防疫点是由派出所、税务局、海防大队等单位,还有一些企业承包下来的,里面也会有居民志愿者,他们每三四个小时换班一次。”哪个防疫点是“党员先锋队”、“巾帼建功队”,他都会到现场拍照记录下来。张琦觉得当地的市民都很自觉,对防疫工作特别配合,他当时的工作也完成得很顺利。

让张琦印象最深刻的是回武汉之前,邻居威哥给他们做的一份“带有大海味道”的热干面。热干面是武汉人过早最常吃的食物,出来三十多天,一家人好久没吃上这一口了。威哥问好了张琦一家是不是吃辣,就地取材选用厦门的辣椒,按照网上的调料配方,做了一碗厦门版热干面。在大海边的停车场上,海风吹过,带来湿润的感觉,张琦觉得这碗面“味道好得很呢”!

雷锋网原创文章,。详情见转载须知。

浪潮的目标是聚合AI最强算力平台、最优质的算法模型开发能力和最优质的集成、部署和服务能力,从而支撑和加速各行业、各产业与人工智能的融合,让各个行业、各个产业具备可感知、自学习、可进化的能力,最终帮助用户完成业务智能转型升级,以生态之力成就行业、产业AI大脑。(雷锋网(公众号:雷锋网)雷锋网)

穿上红马甲成了沙坡尾的防疫志愿者

回忆起刚开始隔离的不适应,张琦已经能打趣地讲出来。“查天气预报说厦门17~18℃,我们带的都是秋装,谁想到一来就赶上降温了,我就身上这一件羽绒服,连着穿了三十多天。”张琦边说,还自己笑了起来。

浪潮升级了AutoML Suite自动机器学习平台,AutoML Suite可实现企业级一站式模型自动构建,支持私有化部署,全面支持图像分类/回归/目标检测CV场景应用,模型大小与计算量极致压缩,用户提供原始图片数据和标注数据,经过AutoML Suite处理,自动生成所需的AI算法模型。 

正如王恩东所说,智慧社会离不开智慧的生态。在AI产业化过程中,浪潮是新兴AI企业的主要合作伙伴和算力提供商,新兴IT企业已经积累了大量优质的算法框架、模型和数据,这些优质的AI技术正是产业AI化过程中行业用户所需要的,也是为这些用户服务的传统合作伙伴所欠缺的。

“未来五年、十年,人工智能会成为未来最核心的计算力,面临大数据和深度学习的计算需求,人工智能会带来一个指数型增长的对计算力的需求。浪潮一直致力于创新AI计算,也是为我们当前的新基建提供原动力,浪潮会提供最领先的算力机组来生产算力,我们会通过更敏捷的数据中心来聚合算力,通过高效的调度算力我们产业AI提供更多创新的可能,同时通过释放算力来快速落地进化AI。”刘军总结表示。

根据疫情防控进展情况,山东财政部门及时出台政策减轻企业税费负担、支持企业复工达产、促进重点群体就业。在2019年年底各级财政已筹集职业技能提升专项资金62亿元的基础上,今年省级财政部门又统筹四本预算安排促进就业创业资金19.7亿元。(完)

顺利返乡后,月月主动把在沙坡尾认识的朋友们拉了个微信群,给他们报平安,分享自己回家之后的生活。现在张琦一家就想等着疫情结束,再开着这辆装满温馨与感动的“鄂A”房车,回到沙坡尾去串串亲戚,吹吹海风。文/武冰聪

方案火种源:助力合作伙伴AI技术创新,浪潮自主投入市场经费,搭建AI计算平台开放环境,并免费向合作伙伴提供浪潮算法工具服务,赋能合作伙伴进行AI算法开发,并与合作伙伴联合产品创新,打造行业AI解决方案; 项目火种源:面向金融、通信、智慧城市、交通、能源等8大重点行业,给予合作伙伴联合市场推广资金支持,推动高价值AI场景化解决方案的落地,加速重点行业的产业AI进程; 人才火种源:赋能行业AI人才培养,联合打造ASC、AICC等顶级AI资源交流平台,开放资源赋能行业,培养更多优秀行业AI人才。

一碗有大海味道的热干面

现在,已经回到汉阳区家里的张琦还没有正式上班,正忙着剪辑一个名叫“厦港志愿者手记”的小视频,里面讲述了他在厦门社区做了一周多防疫志愿者的所见所闻。

调度算力:AIStation资源平台,模型开发和部署一站式交付

在陌生的地方、狭小的环境里做着有数的几件事,初来乍到的一家老小难免觉得不安。但是慢慢地,大家都找到了自己的位置,生活就变得生动起来。过了正月十五,女儿的学校开学了,每天上午通过视频学习课程,下午的时间用来读书和完成作业。附近的小伙伴还给她送来了两本课外书,女儿很喜欢。母亲和妻子也在和街坊的日常相处中收获了自己的朋友,沙坡尾工作坊的梁允熹还带他们到附近参观,介绍这个海港的独特历史。

yginsaf.com