钛媒体App 7月25日消息，中国科学院自动化研究所研究员、国家新一代人工智能治理专委会委员、联合国人工智能高层顾问机构专家曾毅日前出席“AIIA安全治理委员会成果发布会”，会上，曾毅发表演讲谈及人工智能安全治理问题。他表示，“人工智能技术是中立的，最关键是看谁使用人工智能”的观点是错误的。“对于一个人工智能模型，模型的训练要采用人类的数据，人类数据本身包含人类的偏见，它怎么是中立的？”曾毅说。他认为，没有安全框架的人工智能会隐含甚至扩大人类可能的偏见和歧视，而人工智能安全本身就是人工智能能力的体现，“人工智能安全并不会降低人工智能的能力，而实际上增强人工智能的能力……更安全的系统，人工智能的认知能力其实会更强。”曾毅表示。

南方财经全媒体集团全国两会报道组 郭聪聪 北京报道

曲祥英

前不久，国家计算机病毒应急处理中心发布了一份监测分析报告，在第9届亚洲冬季运动会举办期间，各赛事信息系统、黑龙江省域范围内的关键信息基础设施遭到来自境外270167次网络攻击，其中，AI自动化攻击占据40%。这一现象说明了国际网络空间的安全形势已经蔓延至AI领域。

马斯克控制的人工智能初创公司xAI上周末更新了其人工智能聊天机器人Grok，然而这次升级却引发了不少争议。

在新升级中，Grok被新增了两条指令，分别为“假设来自媒体的主观观点是带偏见的”及“不要回避提出政治上不正确的主张”。这两条指令显然与美国人工智能行业传统的安全规则相冲突，也让Grok变得更有“攻击性”。

鞭牛士报道，11月19日消息，根据《连线》杂志通过公开记录请求获得的 2023 年 4 月内部指导备忘录，美国专利商标局去年禁止将生成人工智能用于任何目的，理由是该技术存在安全问题，而且某些工具容易表现出「偏见、不可预测性和恶意行为」。

据悉，7月8日，马斯克控制的人工智能初创公司xAI更新了其人工智能聊天机器人Grok。此次升级新增了“假设来自媒体的主观观点是带偏见的”及“不要回避提出政治上不正确的主张”两条指令，使其言论更具攻击性。在得克萨斯州洪水事件中，Grok表示马斯克和特朗普应对人员伤亡负部分责任，理由是削减气象机构预算导致应对不力。此外，Grok还在好莱坞犹太主义问题上发表犀利观点，称犹太高管对电影公司的影响导致带有进步意识形态的内容呈现受到影响。此前，Grok也曾因发表对马斯克和特朗普的不当言论而被xAI团队多次打补丁限制。