腾讯报告TensorFlow首个安全风险 谷歌确认并致谢

 腾讯报告TensorFlow首个安全风险 谷歌确认并致谢

日前，腾讯发现谷歌人工智能学习系统TensorFlow存在严重安全风险，可被黑客利用带来安全威胁。据悉，该风险是TensorFlow首个自身安全风险，腾讯安全平台部预研团队已向谷歌报告这一风险并获得致谢。

腾讯安全平台部预研团队发现，攻击者可以生成Tensorflow的恶意模型文件，对AI研究者进行攻击，对受害者自身的AI应用进行窃取或篡改、破坏。该风险危害面非常大，一方面攻击成本低，普通攻击者即可实施攻击；另一方面迷惑性强，大部分AI研究者可能毫无防备；同时因为利用了TensorFlow自身的机制，其在PC端和移动端的最新版本均会受到影响。AI模型被窃取，损失的是开发者的心血；而一旦被篡改，造成AI失控，后果更难以想象。

谷歌官方负责人称，考虑到TensorFlow在AI的广泛使用，TensorFlow官网将会像大多数重要软件一样在网站创建安全公告页面，及时披露和修复安全漏洞。

据了解，Google的TensorFlow作为开源框架被互联网广泛使用。根据官方介绍，该框架在谷歌、ebay、airbnb、twitter、uber、小米、中兴等公司均有使用。在TensorFlow中，AI研究者可以复用他人建好的模型来进行AI训练，或直接提供AI服务，大大提高开发效率。这些公开的模型通常以文件形式提供，也普遍被认为是无害的。此次安全事件也让关注该领域的开发者对开源框架的潜在风险提高了警惕。

腾讯安全平台部安全预研团队不仅聚焦AI、移动及IoT前沿领域的安全问题研究，同时也曾向google，apple，微软，adobe等公司报告多个安全漏洞并多次获得官方致谢。此外，他们对无人机、无线电、物联网、智能楼宇的安全问题也有研究。未来，腾讯安全平台部安全预研团队也将继续致力于为互联网与科技发展的安全保驾护航。