今天分享的是：CSET：2024年人工智能安全与自动化偏见报告（英文版）
报告共计：34页
《CSET：2024年人工智能安全与自动化偏见报告》探讨了自动化偏见问题，即个体过度依赖自动化系统的倾向，它会在个体和组织偏向系统输出时增加事故、错误和不良结果的风险。
报告通过用户、技术设计和组织三个层面的案例研究，构建了理解自动化偏见的框架。在用户层面，以特斯拉为例，用户的个人知识、经验、信任度等因素会影响偏见，如司机对自动驾驶技术的过度信任可能导致事故。技术设计层面，以空客和波音为例，系统的整体设计、用户界面和反馈方式会引发偏见，不同设计哲学有不同风险。组织层面，以陆军爱国者导弹系统和海军宙斯盾作战系统为例，组织的培训、流程和政策会嵌入偏见，不同组织方式影响用户与系统交互。
基于案例研究，报告总结了相关经验教训并提出建议。包括为用户理解建立和维护资格标准，重视并执行一致的设计理念，根据技术能力和组织优先级设计和定期审查组织政策。总之，“人在回路”不能预防所有事故，需校准技术和人为保障措施来降低AI系统使用风险。
以下为报告节选内容
