一名具有南亚血统的澳大利亚女性在无法访问 Airbnb 人工智能服务后暴露了该服务的重大缺陷。
悉尼妇女弗朗西斯卡·迪亚斯 (Francesca Dias) 向 ABC 问答小组讲述了她的故事,并透露由于应用程序的人工智能问题,她无法创建自己的帐户。
< p class="mol-para-with-font">她不得不求助于她的白人伴侣,后者轻松地注册了帐户。'最近,我发现我无法激活 Airbnb 帐户,主要是因为面部识别软件无法匹配我的两张照片或带照片的身份证件,所以我最终让我的白人男性伴侣帮我预订,”她说.
这个故事让专家组感到震惊,主持人帕特里夏·卡维拉斯 (Patricia Karvelas) 形容她的待遇“真的令人震惊”。
女士迪亚斯的故事对于人工智能专家和负责任的元宇宙联盟创始人卡特里奥娜·华莱士来说并不奇怪,他说这是一个社会问题导致了这个问题。
“通常”社会在其数据集中没有很好地代表全部人口,因为这就是我们的偏见她说:“这些历史数据集被用来训练机器,这些机器将对未来做出决策,就像发生在弗朗西斯卡身上的事情一样。”
Karvelas 继续质疑为什么大型科技公司不会投入更多资金来确保所有人都能使用他们的服务,科技记者 Angharad Yeo 对此表示“乐观”。 ”
“因此,由于这项技术仍然是新技术,我认为他们很容易因为它的实施而感到非常兴奋,”她说。
南亚裔悉尼女性弗朗西斯卡·迪亚斯(如图)声称自己受到了人工智能的歧视,因为人工智能因面部识别而拒绝她创建账户
Q+A 小组对迪亚斯女士的说法感到“悲伤”,但“并不感到惊讶”,她表示大公司必须采取更多措施来确保他们的人工智能不会歧视少数族裔
'我认为这是真正让这些偏见成为焦点的领域之一……当它更加隐蔽时,很容易被忽视,但当它是'我确实无法使用这项服务,因为人工智能不起作用’,那么这真的让你走了,我们这里有一个真正的问题。”
大公司不被CSIRO 首席执行官道格·希尔顿 (Doug Hilton) 表示,在人工智能方面,有能力处理偏见的问题应该以“监管”方式处理,他表示,他对弗朗西斯卡的故事“一点也不感到惊讶”。
“我们有种族歧视法律,我们应该强力实施这些法律,因此正确执行这些法律符合 Airbnb 的利益,”她说。
“我们实际上知道技术上如何解决这个问题,我们知道如何真正使算法[工作]。”
阅读更多:人工智能最有可能抢走你的工作的郊区,并在短短两年内创建中产阶级“铁锈地带” - 导致澳大利亚各城市房价暴跌
SydneyAIMetaverseAirbnb澳洲中文论坛热点
- 悉尼部份城铁将封闭一年,华人区受影响!只能乘巴士(组图)
- 据《逐日电讯报》报导,从明年年中开始,因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产?
- 据本月早些时分报导,绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联