所有个人隐私都泄漏公开将发生什么？

数字化转型已成为常态

以部委如国家水利部为例，用19年时间打造出了全国最有权威的“水利一张图”，为2020年洪水肆虐时的应急处理提供了科学的决策依据。本年度的三峡五次洪峰调度，水利部每天提供河道水文站、水位站、水库站、堰闸站等监测站的实时监测信息，将实时降水监视、未来降水预报、热带气旋等信息与水利一张图基础地理信息相结合，每日为三峡的防汛会商决策提供所需的各类气象信息及决策依据。

再以中国交通建设集团为例，中交建在数字化与人工智能方面进行了诸多探索。通过人工智能、物联网、数据分析等技术，实现了园区道路、公共区域的人、车、物、情的全面感知。实现多模式、多维度交通场景的绿色、节能、智慧化运行，最终打造出行有序、停车有位，便捷友好的绿色交通环境。

同样实现数字化转型的还有浪潮，浪潮位于济南的服务器高端装备智能工厂通过将云计算、大数据、AI等新一代信息技术应用于工厂的生产、运营管理，实现从需求到生产交付的全智能化管控。在疫情较为严重的2月，在员工返岗数量受限的条件下，仅用一晚时间准备便实现工厂复工复产，顺利完成了防疫服务器的交付，同时将产能恢复至峰值时期的80%。智能工厂一夜复工的背后，除了严格管理、精细计划外，最直接的原因就是智能化、自动化技术减少了对人工的依赖。
 

对AI模型的恶意输入可以采取对抗性AI、操纵数字输入或恶意物理输入的形式。对抗性AI可能会使用AI生成的声音以社会工程学人类的形式出现，该声音可用于任何类型的犯罪，被认为是网络钓鱼的“新”形式。例如，去年3月，犯罪分子使用AI合成语音模仿了CEO的语音，并要求将243000美元的资金以欺诈方式转移到自己的帐户中。

调查攻击涉及犯罪分子向组织的AI模型发送调查，以了解其工作方式，并且可能以黑匣子或白匣子的形式出现。具体来说，黑匣子查询攻击确定了不常见的扰动输入，以用于所需的输出，例如财务收益或避免检测。一些学者已经能够通过操纵输出来欺骗领先的翻译模型，从而导致翻译不正确。

白盒查询攻击会重新生成训练数据集以重现类似的模型，这可能会导致有价值的数据被盗。这样的一个例子是，语音识别供应商成为新的外国供应商伪造他们的技术然后出售它的受害者，这导致外国供应商能够基于被盗的IP抢占市场份额。

最新的安全支柱使AI值得信赖

对于IT领导者而言，承认其组织中对AI的威胁至关重要，以便评估和支持他们现有的现有安全支柱(以人为中心和企业安全控制)和新的安全支柱(AI模型的完整性和AI数据)完整性)。

AI模型的完整性鼓励组织探索对员工的对抗培训，并通过企业安全控制来减少攻击面。将区块链用于AI模型的起源和跟踪以及用于训练该模型的数据也属于这一支柱，作为组织使AI更加值得信赖的一种方式。

AI数据完整性侧重于数据异常分析(如分布模式和异常值)以及数据保护(如差异性隐私或合成数据)，以应对对AI的威胁。

为了保护AI应用程序的安全，专注于安全技术和基础架构的技术专业人员应执行以下操作：

• 通过进行威胁评估并应用严格的访问控制以及对训练数据、模型和数据处理组件的监视，可以最大程度地减少开发和生产期间AI应用的攻击面。
• 通过解决四个特定于AI的方面来增强用于保护软件开发生命周期(SDLC)的标准控件：模型开发过程中的威胁，AI模型中缺陷的检测，对第三方预训练模型的依赖以及公开的数据管道。
• 通过保护和维护最新，高质量并且包含对抗性样本的数据存储库，防御所有数据管道中的数据中毒。越来越多的开源和商业解决方案可用于提高针对数据中毒，对抗性输入和模型泄漏攻击的鲁棒性。

除非欺诈者被人发现并随后对该欺诈者的系统进行取证，否则很难证明AI模型何时遭到攻击。同时，企业不会简单地停止使用AI，因此确保其安全对于在企业中成功实施AI至关重要。将安全性改造到任何系统中的成本要比从一开始就内置它要高得多，因此请立即保护您的AI。

（编辑：潍坊站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!