软粉新闻|WP8资讯|windows热点

日均互动时长突破20亿分钟,即构科技做对了什么

2020-03-24 16:12:53    次阅读    稿源:酷七新闻    作者:wangloyal

 封面(1).jpg

艾媒咨询数据显示,2020年复工期间,中国有超过1800万家企业采用了线上远程办公模式,共计超过3亿用户使用远程办公应用。同时,还有约2亿的学生采用线上网课的方式进行远程教学。而无论是远程办公、视频会议还是线上教育系统,都离不开底层技术实时音视频的支持。

实时音视频技术包括实时语音、实时视频和连麦互动,此前“直播”可能是大家最熟悉的实时音视频应用场景。受疫情影响,音视频技术带来的其他行业和场景的远程无接触服务,获得了高速增长。

“X+音视频”aPaaS全行业接入,即构日均通话时长突破20亿

针对疫情期间爆发的多行业远程服务需求,音视频云服务商即构科技快速上线了TalkLine视频会议、小艺帮线上艺考两大SaaS平台以及多个远程aPaaS方案,通过即下即用和快速开发的优势,将音视频技术的应用范围从直播社交泛娱乐,迅速延伸到教育、办公会议、艺考、政务、医疗、金融等多个行业,覆盖政务民生各个领域。

合作的线上远程服务应用呈爆发式增长,即构科技作为底层技术服务商,平台数据也不断攀升。据了解,2020年初,即构平台整体流量增长近4倍,日均音视频互动时长增长至20亿分钟。

即构科技的合作客户,覆盖了泛娱乐和在线教育行业的大量头部平台,比如映客、喜马拉雅、酷狗、荔枝、好未来、作业帮、一起作业网、掌门一对一等,而这两个行业,恰好是2020年初流量增长最大的行业之二。不少平台的使用量是以倍数增长的,某个国内TOP级在线教育平台,更是实现了百倍的用量增长。

流量暴涨为平台带来了大量用户,但同时对平台稳定性会有更大压力,可能会导致平台崩溃,服务不可用。在 “家里蹲”的日子里,大家经历了多个APP的宕机。那么,日均20亿分钟互动,高达数千万的并发,即构科技是如何在流量暴增的情况下保障稳定服务的?

千万高并发架构+后台服务机制,保障平稳服务

要扛住千万级的高并发,首先要有一个支持千万级并发的底层架构。即构的核心创始团队来自腾讯,团队成员多数参与了QQ产品实现用户量从百万级到上亿级的跨越式发展,因此对于平台底层架构的高并发设计具有先瞻性预见。通过以往海量用户运营的经验积累和近二十年的音视频技术沉淀,在5年前即构创立之初进行底层架构设计时,对并发数的要求就达到了千万级别。

随后的几年里,即构科技通过不断打磨技术,不断优化服务器的单点负载能力、集群系统的智能调度算法和多云多网融合的虚拟网建设,已实现弹性伸缩,让用户无损无感知的无缝平滑扩缩容。在2019年中,即构后台统计到的日均音视频互动时长就已突破6亿分钟。

有了千万级并发的基础架构,要实现在一波又一波流量高峰来临后依然平滑稳定服务,还离不开预警、限流、紧急扩容等后台服务机制的保障。

即构科技后台媒体服务组负责人Jack,向我们介绍了即构一系列后台服务机制是如何运行的:

首先,针对每一位企业客户,即构会提供流量实时监测预警服务。后台服务的技术人员会监控目前的容量水位,当该客户的服务器负载超过一定阀值时会自动触发预警,提醒相关人员进行扩容;

其次,当遇到短时突发性暴涨,即构后台服务会通过限流机制来保障客户服务的可用性。即构的限流机制,是以不影响已有用户体验为基础的。以前段时间即构所服务的某教育平台为例,在客户也未预期的情况下,客户平台用量突然暴涨了几倍,触发了即构的限流机制。限流开启后,该平台上已开课上课的老师学生,服务不受影响;而后来涌入的用户,即构会通过降低推拉流码率、分辨率的方式,牺牲部分用户体验以保障服务可用。随后,即构立即启动紧急扩容机制,10分钟后,扩容完成,后进入的老师学生码率分辨率恢复。

第三,即构的紧急扩容机制,可实现10分钟内完成数百台服务器的扩容。这些服务器资源,可支持一个在线教育平台新增10W级别的老师开课,或者接近100万级别的学生听课。

当架构和后台服务机制都ready的情况下即构还提供一对一技术支持,帮助客户提前规避和及时解决流量上涨可能带来的问题。

服务前置+一对一支持,即构让所有用户获得最佳体验

“技术支持是一项非常细致的工作,平台使用量暴涨时,对技术支持的工作提出了不小的挑战,我们都是24小时待命,全程支持客户上量、扩容。”这是即构技术支持负责人Tina的原话。

与大家印象中技术支持“遇到问题才解决问题”不同的是,即构倡导以客户成功为导向,映射到技术支持工作中,即构会进行服务前置,即帮助客户提前规避可能的风险。

2月初,教育部发出“停课不停学”的倡议。预料到随后在线教育平台使用量可能将快速攀升,即构技术支持人员对每一家教育平台进行了回访。询问客户对自身平台使用量的一个预估,判断用户目前的服务器资源是否足够支撑。并细致到具体的应用场景,是大班课、一对一小班、一对多小班或是AI课堂、跨国教育等,针对每个平台制定一对一服务方案。

方案制定后,技术支持人员会立即与后台服务人员对接,确认服务器资源,提前部署。即构会在客户提供的预估量之上,提供一定量的冗余资源来保障客户稳定性。

从客户上量到最高使用峰值再到用量回落的整个过程,即构技术人员需全程支持。而不同的行业,使用峰值时段并不同。比如,在线教育平台,使用量从上午开始攀升,到下午或者晚上才达到高峰;而跨国教育或出海平台,使用高峰在后半夜之后;而即构服务的某Top级金融平台,通过即构SDK实现了3万销售人员的远程企业内训,其使用量在早上7点就开始上涨,整个上午时段的用量最大。这意味着,技术支持人员需要24小时无休全天轮值。

除了针对客户使用量上涨所做的保障工作,技术支持还需对客户的常规问题进行排查,以保障客户使用的最佳体验。“我们经常帮助客户排查问题到凌晨1-2点,但这些努力都是有回报的,我们最开心的是一天结束后,客户在对接群里说的一句:今天平台运行良好,感谢大家的支持,辛苦了”Tina分享道。

单日互动时长突破20亿分钟的背后,是无数客户对即构技术和服务的肯定。即构也遇到过棘手的难题。线上用户增速最快的那段时间,全网服务器资源紧张。一方面是用户急需扩容保障服务,一方面是供应商资源的短缺。即构科技拿完了已有供应商所有可提供的资源后,陆续向其他的云商采购。

“我们本来就是支持多云商的架构,不同厂商的物理机、云主机我们都做了兼容和支持,因此服务器资源不受单一供应商限制,可以在短时间内调用更多的资源,所以服务器资源紧张的问题并没有困扰我们太久”,即构后台媒体服务组负责人Jack说到。

即构强调利他共生的价值观,最大程度的支持客户成功,与客户共同成长。坚持 “将技术做极致,不浪费客户的每一分钱”的原则,通过持续不断优化服务器负载能力,从根源上优化客户的云服务成本。

同时,针对不同时期不同客户,即构会推出不同的让利举措,在疫情期间用户对远程办公协同有大量需求,即构自研的视频会议平台TalkLine,针对每个新注册用户赠送5000分钟使用时长,目前已累计赠送了约10亿分钟。

浪潮涌来,即构为客户提供最大的支撑;潮水过后,与客户一起细水长流。

  • 今日热点
  • 一周热点
  • BBS 热门主题