OWASP LLM 应用程序前 10 名：新增内容、变化以及如何保持安全
要积极主动地保护软件的安全，就必须始终站在最新标准和合规要求的最前沿。毕竟，网络安全领域不断出现新的威胁和漏洞，尤其是随着新技术的出现。如今，我们正共同处于人工智能的拐点上，每天似乎都有新的演变和使用案例出现，这一点从未像今天这样真实。
为了应对这些挑战，OWASP 基金会最近发布了更新版的《OWASP 大型语言模型（LLM）应用 10 强》，旨在让开发人员、架构师和其他软件交付贡献者了解部署 LLM 和生成式人工智能应用时的潜在风险。我们Secure Code Warrior 很高兴地宣布，最新版本中的更改和更新已在我们的安全代码learning platform 中实施和提供。有了这些最新可用和更新的材料，我们的所有用户在使用 LLM 时都能走在降低风险的最前沿。
本次更新有哪些新内容？
OWASP 从之前的十佳项目中删除了两个项目：
- 不安全的插件设计--这涉及到 LLM 与插件的交互方式，以及插件与外部存储或服务的交互方式。
- 模型盗窃--指未经授权复制或获取机器学习模型或人工智能系统。
根据以前版本的 OWASP Top 10，Secure Code Warrior 与这些漏洞相关的指南是我们 LLM Top 10 课程的一部分。这些指南以易懂、易读的格式提供了有关漏洞和安全概念的易消化信息，现已从课程中删除。不过，这些指南仍可在 Explore 中找到，同时还有我们提供的所有其他学习材料。
OWASP 将 "前十名 "保持在正式的 "前十名"，并增加了两个新项目：
- 系统提示泄漏 --通常隐藏在系统 中，用于指导模型行为的提示会暴露给用户。
- 矢量和嵌入 --可暴露不公开的特定、专有或实时信息
这些漏洞的指南已添加到 LLM Top 10 课程中，与被删除的指南一样，这两个漏洞也可以在 Explore 中供希望利用自学优势的用户访问。
最后，OWASP 还对其列表中的现有漏洞类别进行了一些修改，重新命名了一些类别，使其更加广泛或具体，并对其定义进行了修改。我们支持这些主题的指南现已更新，以反映 OWASP 指南中的细微变化以及新的命名约定。此外，它们的优先级顺序也已更新，以符合 OWASP LLM Top 10 中的顺序。
在Secure Code Warrior ，我们致力于帮助用户保持领先地位。随着 OWASP 的最新更新已经反映在我们敏捷的learning platform 中，我们让用户可以轻松访问最新的培训材料，这些材料涵盖了最新的漏洞，并能在部署 LLM 和生成式 AI 技术时降低风险。无论您是要应对新引入的系统提示泄漏或矢量和嵌入威胁，还是要更新您对错误信息和无界消费的理解，我们的平台都能提供您所需的资源，帮助您掌握这些关键概念，改善您的安全态势。
利用最新的 OWASP 十大更新，在保护 LLM 应用程序方面保持领先地位。了解新增内容、变化以及 Secure Code Warrior 如何为您提供最新的学习资源，以降低生成式 AI 中的风险。
Secure Code Warrior ，使安全编码成为开发人员提高技能的积极和参与的经验。我们引导每个编码者沿着他们自己喜欢的学习途径前进，从而使具有安全技能的开发人员成为我们互联世界的日常超级英雄。
Secure Code Warrior可帮助您的组织在整个软件开发生命周期中保护代码，并营造一种将网络安全置于首位的文化。无论您是应用安全经理、开发人员、首席信息安全官还是任何与安全相关的人员，我们都能帮助您的组织降低与不安全代码相关的风险。
预约演示
Secure Code Warrior ，使安全编码成为开发人员提高技能的积极和参与的经验。我们引导每个编码者沿着他们自己喜欢的学习途径前进，从而使具有安全技能的开发人员成为我们互联世界的日常超级英雄。
本文由Secure Code Warrior的行业专家团队致力于让开发人员从一开始就具备构建安全软件的知识和技能。凭借在安全编码实践、行业趋势和现实世界见解方面的深厚专业知识。
要积极主动地保护软件的安全，就必须始终站在最新标准和合规要求的最前沿。毕竟，网络安全领域不断出现新的威胁和漏洞，尤其是随着新技术的出现。如今，我们正共同处于人工智能的拐点上，每天似乎都有新的演变和使用案例出现，这一点从未像今天这样真实。
为了应对这些挑战，OWASP 基金会最近发布了更新版的《OWASP 大型语言模型（LLM）应用 10 强》，旨在让开发人员、架构师和其他软件交付贡献者了解部署 LLM 和生成式人工智能应用时的潜在风险。我们Secure Code Warrior 很高兴地宣布，最新版本中的更改和更新已在我们的安全代码learning platform 中实施和提供。有了这些最新可用和更新的材料，我们的所有用户在使用 LLM 时都能走在降低风险的最前沿。
本次更新有哪些新内容？
OWASP 从之前的十佳项目中删除了两个项目：
- 不安全的插件设计--这涉及到 LLM 与插件的交互方式，以及插件与外部存储或服务的交互方式。
- 模型盗窃--指未经授权复制或获取机器学习模型或人工智能系统。
根据以前版本的 OWASP Top 10，Secure Code Warrior 与这些漏洞相关的指南是我们 LLM Top 10 课程的一部分。这些指南以易懂、易读的格式提供了有关漏洞和安全概念的易消化信息，现已从课程中删除。不过，这些指南仍可在 Explore 中找到，同时还有我们提供的所有其他学习材料。
OWASP 将 "前十名 "保持在正式的 "前十名"，并增加了两个新项目：
- 系统提示泄漏 --通常隐藏在系统 中，用于指导模型行为的提示会暴露给用户。
- 矢量和嵌入 --可暴露不公开的特定、专有或实时信息
这些漏洞的指南已添加到 LLM Top 10 课程中，与被删除的指南一样，这两个漏洞也可以在 Explore 中供希望利用自学优势的用户访问。
最后，OWASP 还对其列表中的现有漏洞类别进行了一些修改，重新命名了一些类别，使其更加广泛或具体，并对其定义进行了修改。我们支持这些主题的指南现已更新，以反映 OWASP 指南中的细微变化以及新的命名约定。此外，它们的优先级顺序也已更新，以符合 OWASP LLM Top 10 中的顺序。
在Secure Code Warrior ，我们致力于帮助用户保持领先地位。随着 OWASP 的最新更新已经反映在我们敏捷的learning platform 中，我们让用户可以轻松访问最新的培训材料，这些材料涵盖了最新的漏洞，并能在部署 LLM 和生成式 AI 技术时降低风险。无论您是要应对新引入的系统提示泄漏或矢量和嵌入威胁，还是要更新您对错误信息和无界消费的理解，我们的平台都能提供您所需的资源，帮助您掌握这些关键概念，改善您的安全态势。
要积极主动地保护软件的安全，就必须始终站在最新标准和合规要求的最前沿。毕竟，网络安全领域不断出现新的威胁和漏洞，尤其是随着新技术的出现。如今，我们正共同处于人工智能的拐点上，每天似乎都有新的演变和使用案例出现，这一点从未像今天这样真实。
为了应对这些挑战，OWASP 基金会最近发布了更新版的《OWASP 大型语言模型（LLM）应用 10 强》，旨在让开发人员、架构师和其他软件交付贡献者了解部署 LLM 和生成式人工智能应用时的潜在风险。我们Secure Code Warrior 很高兴地宣布，最新版本中的更改和更新已在我们的安全代码learning platform 中实施和提供。有了这些最新可用和更新的材料，我们的所有用户在使用 LLM 时都能走在降低风险的最前沿。
本次更新有哪些新内容？
OWASP 从之前的十佳项目中删除了两个项目：
- 不安全的插件设计--这涉及到 LLM 与插件的交互方式，以及插件与外部存储或服务的交互方式。
- 模型盗窃--指未经授权复制或获取机器学习模型或人工智能系统。
根据以前版本的 OWASP Top 10，Secure Code Warrior 与这些漏洞相关的指南是我们 LLM Top 10 课程的一部分。这些指南以易懂、易读的格式提供了有关漏洞和安全概念的易消化信息，现已从课程中删除。不过，这些指南仍可在 Explore 中找到，同时还有我们提供的所有其他学习材料。
OWASP 将 "前十名 "保持在正式的 "前十名"，并增加了两个新项目：
- 系统提示泄漏 --通常隐藏在系统 中，用于指导模型行为的提示会暴露给用户。
- 矢量和嵌入 --可暴露不公开的特定、专有或实时信息
这些漏洞的指南已添加到 LLM Top 10 课程中，与被删除的指南一样，这两个漏洞也可以在 Explore 中供希望利用自学优势的用户访问。
最后，OWASP 还对其列表中的现有漏洞类别进行了一些修改，重新命名了一些类别，使其更加广泛或具体，并对其定义进行了修改。我们支持这些主题的指南现已更新，以反映 OWASP 指南中的细微变化以及新的命名约定。此外，它们的优先级顺序也已更新，以符合 OWASP LLM Top 10 中的顺序。
在Secure Code Warrior ，我们致力于帮助用户保持领先地位。随着 OWASP 的最新更新已经反映在我们敏捷的learning platform 中，我们让用户可以轻松访问最新的培训材料，这些材料涵盖了最新的漏洞，并能在部署 LLM 和生成式 AI 技术时降低风险。无论您是要应对新引入的系统提示泄漏或矢量和嵌入威胁，还是要更新您对错误信息和无界消费的理解，我们的平台都能提供您所需的资源，帮助您掌握这些关键概念，改善您的安全态势。
点击下面的链接并下载此资源的PDF。
Secure Code Warrior可帮助您的组织在整个软件开发生命周期中保护代码，并营造一种将网络安全置于首位的文化。无论您是应用安全经理、开发人员、首席信息安全官还是任何与安全相关的人员，我们都能帮助您的组织降低与不安全代码相关的风险。
查看报告预约演示
Secure Code Warrior ，使安全编码成为开发人员提高技能的积极和参与的经验。我们引导每个编码者沿着他们自己喜欢的学习途径前进，从而使具有安全技能的开发人员成为我们互联世界的日常超级英雄。
本文由Secure Code Warrior的行业专家团队致力于让开发人员从一开始就具备构建安全软件的知识和技能。凭借在安全编码实践、行业趋势和现实世界见解方面的深厚专业知识。
要积极主动地保护软件的安全，就必须始终站在最新标准和合规要求的最前沿。毕竟，网络安全领域不断出现新的威胁和漏洞，尤其是随着新技术的出现。如今，我们正共同处于人工智能的拐点上，每天似乎都有新的演变和使用案例出现，这一点从未像今天这样真实。
为了应对这些挑战，OWASP 基金会最近发布了更新版的《OWASP 大型语言模型（LLM）应用 10 强》，旨在让开发人员、架构师和其他软件交付贡献者了解部署 LLM 和生成式人工智能应用时的潜在风险。我们Secure Code Warrior 很高兴地宣布，最新版本中的更改和更新已在我们的安全代码learning platform 中实施和提供。有了这些最新可用和更新的材料，我们的所有用户在使用 LLM 时都能走在降低风险的最前沿。
本次更新有哪些新内容？
OWASP 从之前的十佳项目中删除了两个项目：
- 不安全的插件设计--这涉及到 LLM 与插件的交互方式，以及插件与外部存储或服务的交互方式。
- 模型盗窃--指未经授权复制或获取机器学习模型或人工智能系统。
根据以前版本的 OWASP Top 10，Secure Code Warrior 与这些漏洞相关的指南是我们 LLM Top 10 课程的一部分。这些指南以易懂、易读的格式提供了有关漏洞和安全概念的易消化信息，现已从课程中删除。不过，这些指南仍可在 Explore 中找到，同时还有我们提供的所有其他学习材料。
OWASP 将 "前十名 "保持在正式的 "前十名"，并增加了两个新项目：
- 系统提示泄漏 --通常隐藏在系统 中，用于指导模型行为的提示会暴露给用户。
- 矢量和嵌入 --可暴露不公开的特定、专有或实时信息
这些漏洞的指南已添加到 LLM Top 10 课程中，与被删除的指南一样，这两个漏洞也可以在 Explore 中供希望利用自学优势的用户访问。
最后，OWASP 还对其列表中的现有漏洞类别进行了一些修改，重新命名了一些类别，使其更加广泛或具体，并对其定义进行了修改。我们支持这些主题的指南现已更新，以反映 OWASP 指南中的细微变化以及新的命名约定。此外，它们的优先级顺序也已更新，以符合 OWASP LLM Top 10 中的顺序。
在Secure Code Warrior ，我们致力于帮助用户保持领先地位。随着 OWASP 的最新更新已经反映在我们敏捷的learning platform 中，我们让用户可以轻松访问最新的培训材料，这些材料涵盖了最新的漏洞，并能在部署 LLM 和生成式 AI 技术时降低风险。无论您是要应对新引入的系统提示泄漏或矢量和嵌入威胁，还是要更新您对错误信息和无界消费的理解，我们的平台都能提供您所需的资源，帮助您掌握这些关键概念，改善您的安全态势。
%20(1).avif)
.avif)
