春节期间，支付宝的「扫福得福」活动火爆异常。AR是一种新的交互方式，与传统营销方式相比，可以使用户更深入地参与互动，给用户带来新体验。而支付宝红包，寄托着用户对未来的期盼，因此其团队就考虑将AR与红包相结合，探索一种新的玩法。在AR领域走在前面的支付宝，其AR红包的技术选型、技术架构及其背后的技术故事都有哪些？

2004年12月12日，我加入雅虎中国，也加入了互联网大军。至今，我还依稀记得，当时心中那种对互联网的敬畏之情。2009年，在雅虎的四年外企生活一晃而过，我有幸加入支付宝团队，并参与支付宝无线支付。从那之后，我每天都要接受无线浪潮的洗礼，人生轨迹从此也发生了巨变。

今天是我到阿里的第4096天，谈起“红包”，让我回忆起了，2015年参加第一次支付宝春节口令红包项目，团队获得蚂蚁金服CEO大奖；2016年负责识别猴子，开始具有了AR雏形，后续又提出了儿童时代“集卡片”玩法，可谓集五福前身；2016年开始建造支付宝AR系统，全面支撑了2017年AR实景红包、AR扫福等一系列活动……

提到AR红包，这是我们团队的一次大胆创新，现在就来和大家分享一下支付宝AR红包背后的技术和故事。

AR是增强现实技术的简称，其历史可以追溯到1968年——哈佛大学电气工程副教授萨瑟兰，发明了名为“达摩克利斯之剑”的头戴式显示设备。

1998年，在当时的体育转播图文包装和运动数据追踪领域领先的公司Sportvision，在橄榄球赛的电视转播上使用了AR技术，将得分线叠加到了屏幕中的球场上。此后，AR技术开始被用于天气预报——将计算机图像叠加到现实图像和地图上面，从那时起，AR才真正地开始了其爆炸式的发展。

1999年，增强现实开发工具ARToolKit便问世了，很多开发者加入这个行业，推动领域向前发展。目前Microsoft、Google、Apple等公司都在AR领域进行了大规模投入，旨在推动下一代视窗交互系统的变革。

为什么要做支付宝AR红包

AR是一趟奔驰的列车，从个人到团队，从团队到公司，都希望搭上这趟列车，但是如何搭上，用何种技术搭上都是新的挑战。

AR是一种新的交互方式，与传统营销方式相比，可以使用户更深入地参与互动，给用户带来新体验。而支付宝红包，寄托着用户对未来的期盼，因此团队就考虑将AR与红包相结合，探索一种新的玩法。

2015年，我们开始关注AR这个领域，当时为2016年制定的一个新春红包方案就是用手机识别猴子。这个方案让大家有了AR的感觉，项目组也想做一些AR的创新玩法。但是，由于当时相关技术储备不足，就放弃了。

方案虽然放弃了，但探索AR的新玩法这件事，深深地烙在了我们的心里。2016年一开春，我们创新组就开始储备相关技术知识：识别跟踪算，OpenGL、3D渲染引擎，建模能力，AR体系架构，等等。这些相关技术也陆续在小视频美颜、人脸贴图等社交场景进行了实践，为后续AR相关技术快速成型提供了保障。

如何推进AR的新玩法呢？当时，我们团队定下了两个目标，一是找一个小场景落地AR概念，二是在春节红包上使用AR技术，后者是我们的年度终极目标。

2016年的“中秋节扫月亮”，算是支付宝在AR领域的第一次尝鲜，体验和反响还不错。迈出这第一步之后，各种业务需求也接踵而来，AR新玩法也越来越多——双12线下商圈“扫双12集四宝”的活动，2017年春节AR实景红包，扫可口可乐福娃领红，扫福集福……

支付宝AR红包带来的挑战

新玩法自然会带来新挑战，不说别的，单单用怎么样一种方式呈现AR红包，就是非常大的挑战。

大多数AR的玩法都是针对预设的2D图片，离线训练好识别模型，然后在此基础上实现识别互动。由于是2D图片并且预先验证过，因此能较好的保证识别的效果。

支付宝AR实景红包算是业界的一次大胆尝试。用户自由选择真实3D场景，拍摄一张图片作为线索图，其他人根据线索图到指定位置拍摄图片进行比对。而这种方式呈现AR红包，自然也对图像匹配的算法性能提出了新的挑战，主要涉及如下方面。

1. 算法鲁棒性：由于针对真实的3D场景拍照，匹配算法需要容忍一定的遮挡和角度、距离、光线、图片质量等的变化；
2. 计算复杂度：由于在终端上进行实时匹配，算法的复杂度不能太高，否则会导致用户寻找红包时间变长，手机功耗消耗过大等问题；
3. 手机流量：移动端应用需要考虑用户的流量问题，需要在数据大小和识别率之间做好平衡；
4. 手机兼容性：对拥有亿级用户的支付宝而言，机型特别是Andriod机型分布很广。对于我们3D模型渲染带来了很大的挑战，需要制定完善的兼容性方案，确保AR功能的正常使用。
AR实景红包的技术选型

AR红包的初期方案也和很多已有的产品类似，仅依靠LBS和手机陀螺仪来进行互动：用户在某个位置发一个红包，其他人到达这个地点后打开摄像头，朝着某个方向拍摄就能看到别人发的红包。这个方案由于仅依赖LBS和手机陀螺仪，方案比较成熟，但主要存在两个问题：

1. 定位精度：产品初期的定位是让附近的人领取红包（比如附近几十米的人或者同一层楼的人），这对近距离定位要求就很高。内部也讨论了很多潜在的方案，比如结合WiFi定位、室内定位等等，但都不是很通用或者不成熟，没有很好的解决方案；
2. 主观体验：由于GPS和陀螺仪的数据本身就存在较大的误差，位置定位和用户动作都无法精确度量，用户体验不太好，没有真实的藏?找的体验。

因此在AR红包中，我们希望能够重新设计交互方式，提出了图片匹配方案。在发红包时，用户对着场景拍摄一张图；其他人想要领取红包，必须到达该位置并且对着同一场景拍摄，只有位置和图片匹配才能领取，大大增加了精确度和用户趣味性。最终该方案被采纳，诞生出了AR实景红包。

AR实景红包最终的技术架构

整个AR实景红包由两个场景组成：一是藏红包，用户对着某场景拍一张图，将红包藏在这个场景里面；二是找红包，用户在地图页选择一个红包，通过线索图走到对应地点，打开摄像头拍摄进行图片比对，匹配成功后领取红包。

并不是所有的场景都适合藏红包，比如白墙到处可见，会造成线索图不唯一的情况。因此在藏红包时，我们会校验当前场景是否满足预设要求。藏成功后，拍摄的图片会传到服务端处理：一是将图片转成特征码用于图片匹配，二是生成一张线索图用于找红包。

根据用户当前的位置，服务端会下发附近的红包信息。用户通过红包列表可以选择领取某一个红包，此时客户端会到服务端拉取该红包的特征码和线索图。线索图在本地展示，提示用户红包的样子。特征码用于客户端本地实时比对。用户找红包时，将摄像头采集的图像转换成特征码，与服务端下发的红包特征码进行比对，如果本地匹配成功，则把图片信息传到服务端做二次校验来防止作弊。服务端校验通过后，红包就可以领取了。

在扫福字得福卡的活动中，为了解决高并发的问题，采用了客户端+服务端并行处理的架构体系，可支持两种识别方式：

所有图片都传至服务端做处理，这样识别精度更高，但是服务器端能处理的数量有限；二是先走客户端检测，客户端无法识别的再上传服务端。客户端检测能力稍弱，但将计算能力分散到各终端，能极大缓解服务端的压力。

活动开启后，由于用户的积极参与，我们在活动早期就打开了客户端识别，使得系统顺利支撑了14万次/秒的福字识别峰值，确保了整个活动的顺利进行。但是客户端的识别精度有限也导致了不是福字被是被为福字的问题，这个也是我们后续的优化方向。

正常用户要成功领取红包，需要按照线索图的提示找到红包隐藏地点并完成实景拍摄，也就是说位置+图像匹配两个条件都需要满足，才可以领红包。

AR实景红包上线之初，为了让用户有较好的体验，线索图做的比较简洁美观。第一版线索图是通过添加均匀的横条纹蒙版（类似百叶窗效果）来对原图进行遮挡，同时确保用户能简单的识别出图片。

但是，由于该方案比较简单，部分用户通过PS线索图来补全被遮挡部分，后续甚至出现了自动化的PS工具。我们随后进行了升级，每个红包的线索图都是动态选择一个蒙版，蒙版还会随机的动态旋转/偏移等。新的线索图方案，大大增加了自动化PS的难度，基本解决了PS的问题。

除了对付图片的攻击外、对于LBS篡改等其他作弊手段，蚂蚁安全团队也做了大量的防控技术手段，通过对用户的行为数据来分析潜在的作弊用户，也有效地拦截了大部分作弊用户。

AR是一种新颖的交互形式，虽然该领域已经有了很多年的发展历程，但技术成熟度和用户普及度都不是很高。目前市面上的AR应用场景还是比较窄的，仍然有很多挖掘的空间，特别是结合各行业自身的特点去思考，肯定会产出很多好的创意玩法。

AR红包正式上线时，那几天地图页都是满满的红包，我们也很兴奋，说明大家对这个新鲜事物都很感兴趣并且能够接受。除了个人红包玩法，很多商家对这种新型互动方式更加感兴趣，也主动联系我们。商家希望用户通过拍摄自己的品牌Logo来加深用户对品牌的认知，认为这是一种新颖的营销方式，未来还会有更多的成长空间。

后续我们会朝着AR开放平台的方向发展，提供一个开放的AR平台让更多商家和用户都参与进来。同时，结合线下支付场景，围绕用户体验，打造更多的创新产品。

第一版Windows Mobile钱包的诞生让我完成向移动转型，接着，我带领团队经历了Symbian从鼎盛到衰退，然后又经历了WP项目的纠结，经历了Android从开发版到现在的家喻户晓，经历了iOS从奇怪的语法到后来轻车熟路……

技术在发展，而我们在不断地创新。2013年开启了支付宝声波支付，2014年银行卡识别和身份证识别用于钱包业务……同时，团队相关算法技术、工程能力和创新思维在这个过程中也得到很大的沉淀，为连续三年参与红包项目奠定了基础，为今年AR红包的新玩法奠定了基础。能力越大，责任也就越大，既然承担起了这份责任，我相信我们的努力定会不负使命。

何强（花名：何武），2001年毕业于北京工商大学，加入中国雅虎，参与雅虎通等客户端研发工作。2009年转战支付宝无线事业部，参与支付宝第一版客户端研发，先后负责过Symbian团队、WP团队、开放平台团队、创新团队等。在阿里期间，参与过无线的每次变革，引领过相关新技术用于钱包应用，如：声波用于支付、识别银行卡用于绑卡、OCR用于实名认证、音频处理用语音降噪、图像处理用于美颜贴图、AR综合技术用于红包等，所带团队连续三年承担红包重要角色，擅于与兄弟团队合作，融合相关产品和技术，促进新技术落地。目前就职于支付宝多媒体创新团队，协助主管朝山推动多媒体向前发展，探索更多新领域。

感谢对本文的策划和审校。

给InfoQ中文站投稿或者参与内容翻译工作，请邮件至。也欢迎大家通过新浪微博（，），微信（微信号：）关注我们。

　　8月21日，支付宝宣布升级“延时到账”功能。通过支付宝转账后如察觉可能遭遇电信诈骗，只要“延时转账”还未到账，及时报警就能冻结交易，一旦警方下达止付指令，款项可原路退回。

　　2016年徐玉玉遭遇电信诈骗事件后，支付宝、微信支付等第三方支付平台陆续推出“延时到账”功能，用户可选择2小时或24小时到账，但延时到账并不能撤销交易，时间一到，钱款依然会进入对方账户，即便发现被骗也没法撤回。支付宝相关负责人表示，此次推出的“延时到账2.0”试图解决这一痛点。选择延时到账的用户如在到账期限内发现被骗，虽然无法撤回，但只要上传报警的相关凭证，转账会被临时冻结；一旦警方判断系诈骗，款项就原路返回。（澎湃新闻）

24小时在线，业务QQ：，提现，解封，解冻等业务处理！24小时在线，业务QQ： 感谢咨询与办理，支付宝[1]  （中国）网络技术有限公司是国内领先的第三方支付平台，致力于提供“简单、安全、快速”的支付解决方案。[1] 支付宝公司从2004年建立开始，始终以“信任”作为产品和服务的核心。旗下有“支付宝”与“支付宝钱包”两个独立品牌。自2014年第二季度开始成为当前全球最大的移动支付厂商。

支付宝与国内外180多家银行以及VISA、MasterCard国际组织等机构建立战略合作关系，成为金融机构在电子支付领域最为信任的合作伙伴。24小时在线，业务QQ：，提现，解封，解冻等业务处理！感谢咨询与办理

2016年5月31日，支付宝与深圳人社局合作上线的医保移动支付平台，开始在深圳 6 家医院落地试运行[2]  。

8月，支付宝与微信同获香港首批支付牌照，意欲争夺新市场[3]  。

9月，宣布支付宝自2016年10月12日起，将对个人用户超出免费额度的提现收取0.1%的服务费，个人用户每人累计享有2万元基础免费提现额度[4]  。