开元体育随着AIGC浪潮的兴起,大模型时代的计算网络正面临前所未有的挑战。如何实现更高的带宽、更低的延迟以及更强的计算能力成为关键问题。
对此,腾讯云副总裁郑亚峰详细阐述了腾讯网络在大模型时代的技术变革,以及如何在满足复杂多样的业务需求的同时,保持极致的网络质量。
据了解,千亿、万亿参数规模的大模型,训练过程中通信占比最大可达50%,传统低速网络的带宽远远无法支撑。同时,传统网络协议容易导致网络拥塞、高延时和丢包,而仅 0.1%的网络丢包就可能导致 50%的算力损失,最终造成算力资源的严重浪费。
郑亚峰认为,AI行业的发展离不开基础设施建设,而网络是AI基础设施中最重要的部分之一。他举例说,腾讯最近推出的星脉高性能计算网络,正是通过自研软硬件设施构建了独立的超大带宽和符合AI训练流量特征的网络架构,从而为大模型训练提供了稳定的网络环境保障。郑亚峰进一步表示:“星脉网络是为大模型而生,将有效助力算力瓶颈的突破,释放AI潜能,加速大模型技术的迭代升级和落地应用。”
而随着腾讯云业务的快速发展,腾讯基础网络承载的业务类型和服务对象日益复杂,也给网络的高可靠性带来了巨大挑战。
为确保网络质量,郑亚峰表示,在部署生产网络之前,对预期的网络行为进行验证是非常重要的。传统的网络验证方式存在周期长、规模小、种类少等问题,难以应对不断增长的网络规模和业务需求开元体育开元体育。因此,腾讯网络团队打造了新一代的网络验证平台——灵境。通过静态模拟验证引擎和动态仿真验证引擎,灵境打破了传统的物理验证方式,大大提高了验证效率和质量。
腾讯网络团队还将理论与实践相结合,将前沿技术工程落地并部署在腾讯云的多个场景中。近日,腾讯网络的两项核心技术——TENSOR(无中断路由)和FlexWAN(弹性光网络)入选了SIGCOMM2023长文。SIGCOMM是全球通信网络领域最具声望的会议之一,录取率通常不到20%。这也意味着腾讯网络的两项核心技术得到了国际行业专家学术界和工业界的高度认可。
展望未来,郑亚峰表示,网络建设的下一个方向是网络智能化。通过引入人工智能、机器学习等先进技术,实现对网络的自动化管理、优化和故障排除,从而提高网络的性能、稳定性和安全性。腾讯将与行业共同探索和进步,开拓科技的星辰大海。(陈倩倩文)
