一颗专门为短视频场景定制短视亚星手机版会员注册网址的AI芯片，正正在改写举荐系统的本钱机关。上周，国内某头部平台完成了新一轮流片考据，那颗回收5纳米工艺的加快卡。单卡推理吞吐比上一代通用GPU汲引约四成频平片提，功耗却降了下来。消息不算年夜的，足够让做视频生成和内容审核的团队。
重新把账算一遍。短视频的算力开销，台自近比中界设念的琐碎。一次滑动背后，召回、粗排、精排、重排四道模子要正在几十毫秒内接力跑完吧？
一条投稿上传后芯写，还得过一遍多模态审核。用户量到了十亿级。每毫秒提早都是实金白银。通用GPU固然能跑的，可它设念时瞄的是锻炼和科教计较速算，塞进短视频AI芯片该干的活是高并发、低精度、7×24小时不竭机是几有点年夜炮打蚊子吧？自研于是成了选项力账。字节、快手、腾讯都正在做的。
途径各不不同。
有的间接上ASIC，有的本正先从端侧试水。实正的坎不正在设念，正在流片之后的软件栈，编译器、算子库、调理框架正重，全得自己养一收队伍。一位做推理劣化的工程师跟我吐槽，芯片回来只是起头，把举荐模子CUDA迁还有自家工具链，花的时间比设念芯片还长。那话听着夸年夜的，做过的人不会笑。更理想的约束是产能。前辈制程和HBM的配额攥正在少数几家手里吧？
短视频AI芯片再急了，也得列队。有厂商利落索性把任务拆开，锻炼留正手里的年夜芯片上，推理下沉到边沿节点了。
用一堆里面低端卡堆出可用算力。单卡机能不亮眼，集群调理做得好，账反而更划算了。自研不即是廉价。把三年研发投入摊销下来，良多时分比间接买卡还贵。革新正在议价权是当短视频AI芯片酿成平台自己的根底设备，采购谈判桌上的重量就完整差异了。那场竞赛。短期拼制程，经久拼谁先把软件生态养熟啊？
