×

AI

解开算法“黑箱”≠披露源代码 应提升人工智能透明度

hqy hqy 发表于2025-04-26 浏览2 评论0

本文作者 阿里研究院数据经济研究中心副主任傅宏宇

最近聊天机器人很火，这类人工智能产品能够理解人类语言与互动者进行对话，还能根据聊天上下文进行互动等，其中佼佼者甚至能回答人类提出的各种远超以往难度的复杂问题，因此聊天机器人备受追捧，但也有评论对看上去特别智能的聊天机器人提出了担忧：当前基于大数据学习和给定模型下的人工智能始终存在着近乎无解的“黑箱”弊端，人们无法理解算法背后的各种逻辑，以及在这些逻辑下运行程序将会对人造成何种影响。笔者认为，为了解决黑箱问题，要让人工智能可被理解和评估，实现对人工智能的有效控制，需要提高人工智能的透明度。

谷歌悄然调整 AI 团队网页，删除“多样性”与“公平性”表述段正淳的六个女人，他最爱哪一个？不是刀白凤

AI

谷歌悄然调整 AI 团队网页，删除“多样性”与“公平性”表述段正淳的六个女人，他最爱哪一个？不是刀白凤

hqy hqy 发表于2025-04-26 浏览2 评论0

IT之家 3 月 9 日消息，谷歌悄悄更新了其“负责任人工智能与以人为本技术”（RAI-HCT）团队的网页，该团队主要负责开展人工智能安全、公平性与可解释性相关的研究工作。此次更新中，网页上关于“多样性”（diversity）和“公平性”（equity）的表述被删除或替换为更为模糊的词汇，例如用“所有人”（all）、“多样化的”（varied）和“众多的”（numerous）等词语代替了此前的“多样化”等表述。此前，该团队网页曾使用“边缘化群体”“多样化”“代表性不足群体”“公平性”等词汇来描述其工作重点。

AI

智谱华章申请基于大语言模型的可解释性推荐系统专利，能够生成自然语言解释来描述推荐结果的原因，使用户能够更好地理解推荐系统的决策过程美食推荐：烧排骨焖栗子等三道佳肴制作方法

hqy hqy 发表于2025-04-26 浏览2 评论0

金融界2024年12月2日消息，国家知识产权局信息显示，北京智谱华章科技有限公司申请一项名为“基于大语言模型的可解释性推荐系统、方法、设备及介质”的专利，公开号CN 119046529 A，申请日期为2024年8月。