翻了一下记录,距离我上一次在知乎写文章已经过去了1年多。而从我入职字节将近两年的时间里,一共也只在知乎上发了11篇。
复盘一下原因,1确实自己变懒了,2也跟公司的一些PR制度有关系。
对外发布的技术文章都需要经过脱敏和报备处理,而脱敏的一个方式就是去除内部保密的信息。大部分时候我的技术文章都来自于 对自己学到的和做过的东西的总结。如果一篇技术文章,失去了一些数据和结果支撑,就显得比较苍白。
11.25是我在字节的last day。
乘着交接完的空虚时间,回顾一下两年在字节游戏所做过的业务,结合当前大环境和大家聊一聊我所积累的思考。
首先非常感谢我的直属领导@嘉树给我的机会和信任,才得以进入江南中台,并基于我来组建性能优化的团队和业务。
其次非常感谢项目组的领导萧让 @FrankZhou 在我业务开展期间给与的支持和帮助。
最后感谢Mentor@波波 和所有和我合作过的同学(包括中台组和项目组),大家一起紧密协作才有高效的产出。
我在字节的工作整体可以分为2个阶段:
- 第一阶段为2021年1月~2021年8月。业务方向为性能优化,主要在为项目组做各种性能优化的事物。
- 第二阶段为2021年9月~至今。业务方向为UE+超写实数字人。
性能优化阶段
性能优化阶段落地的东西大概可以总结为:
- 性能优化团队的职能的思考和组建。并基于此做了一次Unity官方的分享。
- 为江南的一款代理游戏做驻场性能优化,并帮助该项目建立了日常的性能检查意识、流程以及常规性能工具使用。并针对项目的热点问题,提供了若干性能优化的解决方案。
- 针对《降临》项目做了一整轮的包体优化,共整理了60+个有效问题。这些问题涵盖了包括了资源重复,多余,BUG,临时/测试资源,音频,代码段等多个可改进的方向。开出优化单60+,优化包体600M+。同时催化了一个新的包体分析工具。并落地了性能周会的例行包体检查项的流程。同时也催化了音频组对音频的优化过程以及音频相关的检查工具。
- 针对国内的手机厂商(华为,小米、OPPO、VIVO、荣耀),开发和整合了一个厂商性能SDK,从硬件操作系统层面来优化项目。后将该SDK上升到朝夕光年中台完成共建,可以对朝夕光年其他项目进行赋能,目前已经在MLBB落地使用。
- 一款运行时性能监测工具。可以在项目运行时,实时查看各种性能指标和卡顿分析。并能通过项目进行自定义的数据扩展。在江南各项目均落地使用。
除了以上落地的比较大的模块之外,还有因为一些客观因素没有完全跟进或者落地的部分。
- 安卓平台的内存分析和跟踪。完整实现了安卓内存从分配到归纳的流程路径,由于项目当时重心不在安卓Native内存上,搁置。
- Framework整理。针对江南游戏的通用Framework做技术整理,和归档。最终由于项目数量变化,而重新评估了ROI和性价比之后,搁置。
- 资源分级方案。针对不同平台和机型分级而出的,包含开发、打包、运行等时态下的资源分级方案。后因为HC缩编,人手不够而转交给项目组自行实现。
UE+数字人阶段
在2021年9月之后,由于一些客观因素,性能优化完全交由项目组自主进行之后,开始研究UE引擎+超写实数字人。部分效果可以查看:
在极小的人力投入下,历时半年(2022.4)超额完成了既定的宣发任务,并将超写实数字人做到了国内的top。在这个阶段,大多是美术同学的功劳,技术更多的是提供引擎和工程的协助,并运用技术判断力来提高效率。
和Nvdia合作,做了数字人的宣发。
以及比较深度的数字人技术揭秘:
4月之前,在技术支持方面我们完成了
- 从0开始,完成了UE引擎和数字人的双重破冰。
- 《降临》 4月全球宣发视频制作的技术支持
- 巨量引擎文旅大会主持人技术支持
- 日常的AI、美术工程支持
- 外包商&外包工程技术支持
- 大屏交互Demo开发支持
- 直播路径技术支持
- 国家战略级项目合作的技术支持
- 项目团队一共产出技术专利若干,由本人发起和参与的约6篇。尚有其他2篇正在起稿中。
在4月之后,开始构建数字人技术层面的产品
- 面捕产品
- 完成面捕软件的设计和开发,通过增维的方式提升面捕精度,效果超越竞品软件。
- 完成IOS版本app开发,日常稳定支持lydia的直播和各种数据录制。
- 完成Android版本的APP开发并已经落地ASoul的日常直播。
- 完成面捕数据的存储和导出,给离线视频的制作提供便捷的脸部数据支持。
- 导播产品
- 可一键开播,使非技术同学可以自主进行直播。
- 完成UE端录像&回放系统功能,使得所有直播数据可以完整保存,并能进行功能回放。
- 完成多端导播设计,完成镜头、道具、换装等基础功能实现,保障直播基础的功能需求。
- UE制片软件
- 设计统一数据格式并实现,统合所有的脸和身体的数据创建、存储和编辑。
- 统合面捕APP、导播软件、AI直播等各软件之间的数据关系,一处生成,处处可用。
- 完成JNLivelink的插件开发,接管所有Live下的数据源,并能进行自定义的控制和分发。
- 完成基础的replay Server和Replay Client功能,可基于存储的数据文件来模拟Live信号,以完成直播/录播信号的无缝切换。
当然还包括很多踩坑和弯路,这些内容已经在朝夕光年内部完成了技术分享并得到了一致好评,并且这些本可以在今年的UOD大会上和大家分享的。最终出于PR风险的原因,我们主动撤回了主题分享。
与此同时,11.26号在Unity官方组织的杭州UUG上,本来也会跟大家分享一下Unity的数字人布局和技术的。因为自己的一些行程原因也主动和主办方取消了。
在次,再次对大钊和洵姝说声抱歉。
两年时间里,遇到了很多主观或者客观的因素,这些或多或少影响了工作室的业务,也影响着中台的职能和岗位。但我想说的是,我们没有办法预知和左右这些客观因素,那就在每一次的变动中找好自己的定位,努力的适应环境然后想办法解决问题。
最后,口罩当下,希望每个人都能健康愉快。和家人在一起,就是最幸福的事。么么哒!