新浪新闻客户端

211TOPS算力加持!算能大算力边缘微服务器SE6正式发布

211TOPS算力加持!算能大算力边缘微服务器SE6正式发布
2022年08月05日 18:49

  近日,算能正式发布全新边缘大算力微服务器——SE6。

  算能SE6采用了模块化设计,最多可搭载12颗算能自研第三代AI芯片BM1684,INT8峰值算力高达211TOPS。SE6的高算力密度、低功耗、便携、超静音等优点,让它可以灵活应对智能安防、智慧交通、智慧园区、安全生产等多种场景,为云边差异化推理提供多种算力选择。

  一、澎湃算力加持,SE6释放极致性能

  SE6能够提供211TOPS的INT8峰值算力,支持192路高清视频智能分析,具备456路25fps高清视频硬件解码能力以及216路视频转码(1080P转CIF)能力,支持RTSP/ONVIF/GB28181等多种视频接入协议,具备本地Web管理与多路预览显示功能。

  相比传统的GPU四卡边缘推理服务器,SE6的算力密度有4倍提升,能效比提升54%,基于典型分类网络ResNet-50测试,推理速度提升18.7%。

  SE6在典型工况下的能耗不到300瓦,相比于传统边缘服务器下降了35%,同时工作温度范围拓宽40%,大幅提升了环境适应性,加之便携小巧、超静音的设计,让SE6在边缘侧的部署更加灵活,设备状态检测,软件升级都可以在远程完成。

  二、“一网打尽”边缘节点,算力调度精细到单颗芯片

  随着5G和人工智能的发展,智慧园区、安全生产、智慧交通等边缘场景对算力的需求开始大规模增长,SE6边缘大算力微服务器应运而生。

  针对公安、交通等涉及大量边缘计算设备部署的场景,算能SE6通过SOPHNET即可对众多边缘节点进行统一管理,实现单颗芯片的算力调度;借助SOPHNET提供的算法池化能力,可以一站式解决视频结构化图侦、交警视频大数据、视频联网转码上云等多样化的应用需求。

  针对煤矿、危化、工地等安全生产场景,算能SE6可以实现设备状态、生产作业过程的全程可视化,对重点区域内人、车、物、行为进行全面监控和智能预警。

  三、复用SOPHTEAM生态成果,打造极致开发体验

  作为算能智算产品矩阵的新成员,SE6承续了SOPHTEAM算法生态成果,边缘侧算法模型得以平滑迁移。同时,算能将持续提供国产化的软硬件全栈支持,工具链兼容TensorFlow、PyTorch、Caffe、MXNet、PaddlePaddle、ONNX等常用深度学习框架,上千种硬件算子持续迭代优化,为移植到SE6的用户提供便捷的开发体验。

  通过TPUNET实现模型的高效转换,自研量化工具大幅提升并发性能,减少内存占用,通过TPU Profiler辅助用户分析模型性能,对AI推理过程异常进行快速诊断。此外,算能还将持续输出开源Demo和Pipeline框架参考,进一步加速基于SE6的应用开发和部署。

  四、坚持开源开放,推动智算赋能未来

  从边缘侧1-4路高清视频AI分析,到200路大算力的并行处理,SE6的出现完美补充了SOPHTEAM产品Family边缘侧大算力,SOPHTEAM生态产品也实现了边缘算力区间全覆盖。

  算能将始终坚持硬件开放,参考设计开源的生态理念,携手合作伙伴共同打造边缘计算新生态,推动智算赋能未来。

  (来源:新视线)

责任编辑:曹蕊

微服务器推理

举报邮箱:jubao@vip.sina.com

Copyright © 1996-2022 SINA Corporation

All Rights Reserved 新浪公司 版权所有