ai的应用越来越广泛，已经渗透到人们工作和生活的方方面面。随之而来的，是ai的安全问题。我每天都在使用的ai助手，可信吗？企业核心业务依赖的ai服务器，安全吗？ai软件的安全性，已经成为了一个复杂且多面的全球性议题。
近日，nvidia（英伟达） 官方发布了一则安全风险预警和软件更新公告，公布 nvidia triton 推理服务器存在着重要安全漏洞，提醒用户尽快进行版本更新。（涉及的漏洞为深信服发现并提报）
triton 推理服务器是nvidia发布的一款开源软件，作为 nvidia ai 平台的重要组成部分，该服务器可以针对各种工作负载，实现标准化的ai模型部署和执行，为用户提供快速且可扩展的ai服务。triton作为目前全球主流ai推理服务器，已被全球众多人工智能厂商广泛使用。
nvidia ai平台大多数应用与功能的实现，背后都是由triton 推理服务器提供基础支持，这代表什么呢？
对于使用该服务器的厂商、企业来说，这个漏洞一旦被恶意攻击者利用，他们的云端ai模型就很有可能完全被控制。攻击者可以在未授权的情况下实现窃取用户敏感数据、执行恶意代码、修改ai模型计算结果、窃取ai模型等一系列操作，对用户的数据隐私带来的风险是灾难性的，对企业利益和品牌信誉带来的损失也是毁灭性的。
假设，某自动驾驶汽车厂商使用triton 推理服务器来训练和优化自动驾驶模型。这个漏洞被恶意攻击者利用并成功控制，则可能导致车辆误判、失控等安全问题，威胁到乘客和行人的生命安全。
再假设，某人工智能服务厂商使用triton 推理服务器部署和开发其ai模型，如果被攻击者利用此漏洞入侵，可能导致模型计算结果被篡改，甚至直接被“一键复制”式窃取，导致知识产权泄漏或声誉受损。
对于我们每个人来说就是，你的“ai助手”带着你所有的隐私和数据，背叛你了。
假设，你一直使用的某个对话类ai助手被黑客利用此漏洞控制，你的所有对话内容、日常行为习惯和隐私信息都会暴露，黑客可以公开并售卖你的个人信息，甚至利用这些信息实施诈骗、窃取财产，甚至盗用身份信息进行其他非法行为。
深信服安全研究员lawliet和彭峙酿在日常研究过程中发现了这两个漏洞，随即编写详细的漏洞报告，积极与监管机构和nvidia官方取得联系。nvidia官方验证漏洞信息后第一时间发布官方公告提醒用户更新，并致谢深信服。
ai技术的发展正如火如荼，但是对ai基础设施安全性的研究才刚刚起步，在可预见的未来会有更多挑战。比如本次发现的漏洞，属于未授权远程代码执行漏洞，影响范围大，未修复可能导致严重后果。面对这些挑战，具备主动识别潜在风险的能力，并提前采取行动进行有效的修复和预防，可以为用户使用的安全性提供多一层保障。
再次提醒各位nvidia ai推理服务器用户，请及时检查自己使用的版本是否更新升级，避免引发安全风险！另外，无论是使用ai推理服务器的厂商还是使用ai服务的个人用户，都应提升安全意识，关注数据安全和隐私保护，在享受ai带来的高效和便利的同时，确保ai使用过程的安全。
深信服注重网络安全攻防技术研究，利用攻击方视角解决网络安全问题，并将安全研究技术应用到产品实践中。基于多年的技术积累，深信服在国内率先推出了多个前沿安全产品及服务，并在去年首秀自研的安全大模型——安全gpt的技术应用。发布至今，安全gpt已收获130 体验用户。深信服aicp算力平台在2024数字中国创新大赛的“信创赛道”和“城市赛道”中获得2大奖项。
近期，彭峙酿等研究员受邀参加国际知名信息安全会议hitb x phdays 2024，在主论坛发表主题演讲，与全球网络安全专家、团队共同探讨前沿安全技术。
未来，深信服将不断提高专业技术造诣，加大对安全研究人才和技术研究层面的投入， 也将持续在ai安全领域深耕，为所有用户的网络安全保驾护航，让ai技术更好地为人类社会的发展做出贡献。
雷峰网(公众号：雷峰网)
雷峰网凯发官方的版权文章，未经授权禁止转载。
