作者：字节移动技术——白昆仑

一、什么是端智能？

​ AI技术现在已经覆盖到了互联网的方方面面，在云端的应用已经非常广泛和成熟。为了追随人工智能的浪潮，各大厂商也在不断加强移动设备的AI能力，主要体现在以下方面：

1. 通过专门为AI能力定制的Soc，提供更好的计算能力
2. 轻量级推理引擎技术的成熟（例如：TensorFlow Lite），对算力有限的移动设备更加友好
3. 模型压缩技术使得模型体积大大降低，使得其部署在移动设备上成为了可能

​ 经过这几年的飞速发展，在终端部署AI能力渐渐步入了大众的视野，端智能的概念应运而生，旨在提供在终端设备上使用AI能力的完整框架。相比云端，端智能具备以下优势：

1. 低延迟：节省了网络请求的延迟
2. 安全性：更好的保护用户隐私数据
3. 定制化：根据用户习惯进行本地训练，逐步迭代优化，真正做到用户定制
4. 更丰富的特征：可获取更加丰富的用户特征，提高预测的准确率
5. 节约云端资源：与云端推理结合，在终端进行预处理，从而降低对云端算力的压力
6. 更丰富的使用场景：人脸识别、手势识别、翻译、兴趣预测、图像搜索等智能场景已被广泛使用，更多的应用场景也在不断涌现。

​ 在端智能的应用方面，Google、Facebook、Apple等巨头已经走在了前列。Google提出了Recommendation Android App的概念，根据用户兴趣进行内容推荐。Apple的Face ID、Siri推荐也都是端智能应用的代表。