随着人工智能行业越来越注重透明度和安全性，围绕“开放性”真正含义的争论也愈演愈烈。开源安全公司 Endor Labs 的专家就这些问题发表了看法，Endor Labs 高级产品营销经理 Andrew Stiefel 强调了将软件安全经验应用到人工智能系统的重要性。
01人工智能模型的“开放”意味着什么？Endor Labs 高级产品经理 Julien Sobrier 为正在进行的有关 AI 透明度和“开放性”的讨论提供了重要背景。“AI 模型由许多组件组成：训练集、权重、用于训练和测试模型的程序等，将整个链条作为开源提供以称该模型为‘开放’非常重要。目前这是一个广泛的定义。”Sobrier打破了将AI系统分类为真正开放的固有的复杂性。Sobrier指出，主要参与者之间缺乏一致性，这导致了对该术语的混淆。“在主要参与者中，对‘开放’定义的担忧始于 OpenAI，而 Meta 现在因其LLAMA模型而成为新闻焦点，尽管该模型‘更加开放’。我们需要对开放模型的含义有一个共同的理解。我们希望警惕任何‘开放营销’，就像我们在免费软件与开源软件中看到的那样。”Sobrier强调，一个潜在的陷阱是“开放营销”的做法日益普遍，即组织声称透明，但实际上却施加限制。“由于云提供商提供开源项目（例如数据库）的付费版本而不做出任何贡献，我们看到许多开源项目发生了转变：源代码仍然开放，但他们增加了许多商业限制。”
04建立应对人工智能模型风险的系统方法随着开源 AI 的采用加速，风险管理变得越来越重要。Stiefel 概述了一种以三个关键步骤为中心的系统方法：发现：检测您的组织当前使用的 AI 模型。评估：审查这些模型是否存在潜在风险，包括安全和操作问题。响应：制定并实施防护措施，以确保安全可靠应用模型。风险管理的关键在于，在推动创新和管理风险之间找到适当的平衡，企业需要给予软件工程团队进行试验的自由，但必须以完全的可视性进行。此外，社区必须制定最佳实践，以安全地构建和应用 AI 模型，同时也要有一种共享的方法来评估 AI 模型的安全性、质量、运营风险和开放性等参数。
原文链接：https://www.artificialintelligence-news.com/news/endor-labs-ai-transparency-vs-open-washing/
免责申明：本文所发内容不含任何商业广告性质，也不持有任何特定立场，文中部分文字、图片内容来源于网络，如有侵权，请联系删除。
SENSE ARRAY善思开悟科技（成都）有限公司善思开悟是国内领先的人工智能基础设施提供方，秉承“算力筑基 模型赋能”的发展理念，致力于建设国内最大规模的第三方人工智能训练集群。善思开悟始终关注技术前沿，与中山大学、国家超级计算广州中心建立了联合实验室，不断投入研发和资源，以确保基础设施在性能、稳定性和可扩展性方面达到世界一流水平。通过提供强大的计算能力和优化的硬件配置，善思开悟将帮助国内顶尖的大模型厂商在突破模型规模、提高训练效率、降低训练成本方面取得显著进展。未来，善思开悟将继续加大研发投入，推动人工智能技术的创新与应用，致力于成为全球领先的人工智能基础设施提供方。
长按扫码关注联系电话：028-88855888（88855999）公司地址：中国（四川）自由贸易试验区成都高新区吉瑞二路188号2栋1单元8层802
