Last updated at Fri, 22 Dec 2023 16:00:00 GMT
从ChatGPT发布到现在已经一年多了，变化真是太大了. 人工智能和机器学习的进步标志着一个变革的时代, influencing virtually every facet of our lives. 这些创新技术重塑了自然语言处理的格局, 使机器不仅能够理解，而且能够以前所未有的流畅性和连贯性生成类似人类的文本. As society embraces these advancements, 生成式人工智能和法学硕士的影响遍及各个领域, 从交流和内容创作到教育等等.
人工智能服务收入在五年内增长了六倍以上, 云提供商在这一领域大力投资以扩展其能力，这并不奇怪. 用户现在可以使用AWS新发布的Bedrock使用自己的培训数据定制现有的基础模型，以提高性能和客户体验, Azure OpenAI Service and GCP Vertex AI.
人工智能/机器学习的无序采用会带来安全风险
With the market projected to be worth over $1.8 trillion by 2030, AI/ML在威胁检测和分析中继续发挥着至关重要的作用, anomaly and intrusion detection, behavioral analytics, and incident response. 据估计，有一半的组织已经在利用这项技术. 相比之下，只有10%的国家制定了规范其使用的正式政策.
因此，不受治理的采用会带来重大的安全风险. 通过影子人工智能缺乏监督可能导致隐私泄露, non-compliance with regulations, and biased model outcomes, fostering unfair or discriminatory results. 不充分的测试可能会使人工智能模型遭受对抗性攻击, 缺乏适当的监测会导致模型漂移, impacting performance over time. Increasingly prevalent, 不受控制的人工智能应用引发的安全事件可能会损害组织的声誉, eroding customer trust.
在云中安全开发AI/ML需要可见性和有效的护栏
To address these concerns, 组织应该建立健壮的治理框架, encompassing data protection, bias mitigation, security assessments, 以及持续的合规性监控，以确保负责任和安全的AI/ML实施. 了解你周围的环境是第一步，我们都知道这有多难.
InsightCloudSec推出了专门的库存页面，专为有效管理您的AI/ML资产而设计. Encompassing a diverse array of services, 从内容审核和翻译到模型定制, 我们的平台现在支持跨AWS的生成式人工智能, GCP, and Azure.
一旦你了解了在云环境中运行的AI/ML项目, 下一步是建立和设置机制，以持续执行一些护栏和政策，以确保以安全的方式进行开发.
介绍Rapid7的AI/ML安全最佳实践合规性包
我们很高兴在InsightCloudSec中推出最新的合规性包:Rapid7 AI/ML安全最佳实践. 新包源自OWASP机器学习十大漏洞, the OWASP Top 10 for LLMs, and additional CSP-specific recommendations. With this pack, 您可以在一个地方检查与这些控件的对齐情况, 使您能够全面了解法规遵从情况，并促进更好的战略规划和决策. 自动警报和补救也可以设置为漂移检测和预防机制.
这个包引入了11个控件，以数据和模型安全为中心:
Rapid7 AI/ML安全最佳实践合规性包目前包括6种不同的AI/ML服务和3个平台的15项检查, 我们将在1月份的第一个版本中对亚马逊Bedrock进行额外的报道.
有关我们其他遵从性包的更多信息, 并利用自动化来执行这些控制, check out our docs page.
