作为人类，我们在做决策时无法完全保持客观。无论我们是否意识到自己的主观想法，我们的决定总会受到个人偏好、价值观和观点的影响。相对而言，计算机仅根据其所提供的数据进行决策，这也是为何将人工智能应用于预测和决策过程中能帮助减少这种主观性。然而，用于机器学习的数据可能包含潜在的偏见，从而导致计算机做出歧视性决策和产生偏颇结果。

在人工智能的浪潮中，我们常常被其表面的智能和效率所吸引，却可能忽视了潜藏在算法背后的偏见问题。这篇文章将带你深入探讨AI偏见的根源、影响以及对企业可能带来的“黑天鹅事件”。

南都讯 “随着人工智能（AI）的迅速发展，全球各国都面临着巨大的挑战，我将其总结为‘3+2’挑战，即三个内部挑战和两个外部挑战。”12月4日，在2024年“读懂中国”国际会议（广州）“智能时代的全球创新协作”平行研讨会上， 中国国家创新与发展战略研究会副会长吕本富提出了上述观点。他指出，面对人工智能带来的挑战和机遇，我国对国际合作一直持开放性态度，期待通过科技创新共同寻求治理途径和方法。

来源：【中国社会科学网】

本报综合外媒报道 近日，英国伦敦大学学院官网发布最新研究称，人工智能（AI）系统在“继承”特定数据集中的人群的偏见后，还会放大人类偏见。该研究已经发表在最新一期《自然·人类行为》（Nature Human Behaviour）期刊上。

在过去二三十年间，AI取得了飞速发展。1997年，计算机首次战胜国际象棋世界冠军；2016年，它又击败了韩国职业围棋选手李世乭；2017年，计算机连续三局战胜了世界排名第一的中国围棋九段选手柯洁。这些辉煌胜利大大提升了人们对AI的期望。

科技日报记者 张佳欣

据英国《新科学家》网站近日报道，在提供购房和租房建议时，AI对黑人用户倾向于推荐低收入社区，这一行为被指存在种族偏见，映射出美国历史上长期存在的住房歧视问题。

“为了安全使用 AI，需要将AI与人类价值观和目标保持一致”。美国宾夕法尼亚大学沃顿商学院的副教授、人工智能研究权威专家伊桑·莫里克说：“有人担心一旦无法保持一致，人工智能会失控并威胁到人类灭绝，且还有其他潜在的道德问题。”本文选自伊桑·莫里克撰写的新书《共智：与人工智能一起生活和工作》的部分内容。