电信服务能不能做到完全没有等待,AI可是个关键。这事儿得从Jack说起,他大早上一打通客服电话,足足等了10分钟才有人接,结果上班迟到了。Jill好不容易成了第三个接电话的客服,一边翻看前同事潦草的记录,一边还得再问两句才能弄清楚到底要干嘛。好不容易把政策翻出来找到答案,Jack那边电话已经挂了。 这种长时间的等待、复杂的流程、还有完全没有个性化的服务体验,把客户给弄丢了,也让运营商很头疼。过去那种纯靠人工的老办法根本应付不过来,“会说话”的AI就成了现在的必须课。客户都希望跟个真人聊天那样直接说事,系统马上就能回应,一次把问题解决完。 不过AI也不是万能的灵药,哪怕语音转写的准确率每掉5%,客户的满意程度也得跟着往下掉10%。所以要想后续的活儿干得漂亮,必须先把准确率提上去。Quantiphi公司为了精准抓每一句用户的话,用了NVIDIA Riva的定制技术专门去调模型。 在自家做的测试里,一段10秒的话录下来的误差从3.2%一直降到了0.8%。这样一来用户再去问同一个问题的概率直接少了67%。既然听得准了,“听得懂”也就水到渠成了,后面自动化的处理也就有了基础。 现在的大模型像ChatGPT和DALL-E特别火,GPU、CPU、DPU这些硬件都得用上。虽然现在既能在云上跑也能在本地跑,但是问题在于如果AI的流量突然翻了十倍以上,网络的延迟也会跟着翻倍。 以前的以太网本来就是给那些网速慢、信号不稳的流媒体用的,根本不适合AI这种实时处理大量数据的活。一旦用得太多就容易丢包还抖动得厉害。 NVIDIA推出的Spectrum-X网络平台就不一样了,它专门为高速低延迟和扩展性进行了优化。从服务器到交换机再到存储全都进行了硬件级的加速。 现在的场景就是“对话式AI”把客服从繁琐的重复劳动里解放出来了。再加上高准确率的语音识别让AI不再答非所问。 Spectrum-X这就把原本堵车的地方变成了一条通途。不管算力和流量怎么飙升,延迟都不会变多反而是变低了。 这样一来电信服务真的能做到拨一次电话就解决问题。当等待时间被压到秒级的时候复杂的流程也被AI自动拆解了客户流失的情况自然也就少了很多。电信行业那个最好的服务体验不光是说在嘴上了而是实实在在能让人感受到的日常体验了。