谷歌联合创始人谢尔盖·布林 (Sergey Brin) 在罕见的公开言论中承认,在该工具生成历史上不准确的图像后,该公司“搞砸了”其 Gemini 人工智能的发布。
根据与会者分享的视频,布林在周六旧金山 AGI House 的一次聚会上对企业家们说,“我们在图像生成方面确实搞砸了”。
'我认为这主要是由于测试不彻底造成的。布林在谈到上个月灾难性的发布时说道,这确实有充分的理由让图像上的很多人感到不安。
谷歌暂时中止了 Gemini 描绘的能力人们使用该工具生成了黑人和亚洲二战纳粹分子、美国黑人开国元勋和女教皇的图像。
“这些图像确实促使很多人深入测试基本文本模型,”布林在谈到这场争议时说道。
Google 联合创始人谢尔盖·布林 (Sergey Brin) 承认该公司“搞砸了”其 Gemini 人工智能发射
Gemini 在生成历史上不准确的图像(例如来自二战德国的黑人和亚洲纳粹士兵)后引起了强烈反对
布林,50 岁,于 1998 年与拉里·佩奇共同创立了 Google,目前仍是董事会成员和主要股东。去年,他重返公司并担任积极角色,帮助领导 Google 的人工智能业务。
在周六的活动中,布林承认 Gemini 在政治上似乎倾向于左倾在许多回应中。
“我们还没有完全理解为什么它在很多情况下会向左倾斜”,但“这不是我们的意图,”他说。
布林认为,包括 OpenAI 的 ChatGPT 和埃隆·马斯克的 Grok 在内的竞争对手聊天机器人也面临着类似的问题,而且“说了一些非常奇怪的事情,这些事情肯定让人感觉不舒服”。最左边。
在图像生成争议之后,Gemini 用户一直在分享该工具对一系列问题的不同寻常的文本响应。
在社交媒体上分享的一个例子中,当被问到芭芭拉·史翠珊或苏联独裁者约瑟夫·斯大林是否“对人类来说更糟糕”时,双子座犹豫不决,称这个问题是一个“复杂而敏感的问题”。
双子座也因未能谴责恋童癖而受到批评,在一份冗长的回应中宣称“个人无法控制自己被谁吸引”。
人工智能程序从现有信息中学习,研究人员警告说,人工智能很容易重现其创造者的种族主义、性别歧视和其他偏见以及整个社会。
在这种情况下,谷歌在解决歧视问题上可能矫枉过正,导致双子座“产生幻觉”多样化但历史上不准确的描述。
Google 的 Gemini AI 聊天机器人生成了历史上不准确的黑人开国元勋图像
不准确的描述招致了多方面的批评,并促使 Google 暂时中止了 Gemini 生成人物图像的能力
上周,Google 首席执行官桑达尔·皮查伊 (Sundar Pichai) 在给员工的一份备忘录中回应了双子座的争议,称这些不准确的图像“有问题”,并告诉员工公司正在“昼夜不停”地工作来解决这些问题。
< p class="mol-para-with-font">'人工智能没有完美的,尤其是在行业发展的新兴阶段,但我们知道对我们来说门槛很高,无论需要多久,我们都会坚持下去。“我们将回顾发生的事情,并确保大规模修复它,”皮查伊说。
Semafor 最先报道的内部备忘录称:“我想解决 Gemini 应用程序(以前称为 Bard)中最近出现的文本和图像响应问题。
“我知道它的一些回复冒犯了我们的用户并表现出偏见 - 明确地说,这是完全不可接受的,我们错了。
“我们的团队一直在夜以继日地努力解决这些问题。我们已经看到各种提示都得到了显着改进。
“没有人工智能是完美的,特别是在行业发展的新兴阶段,但我们知道对我们来说门槛很高,无论需要多久,我们都会坚持下去。我们将回顾发生的事情,并确保我们大规模修复它。
“我们的使命是组织全球信息并使其人人都能访问和使用,这一使命是神圣不可侵犯的。”
“我们一直致力于在我们的产品中为用户提供有用、准确和公正的信息。这就是人们信任他们的原因。这必须成为我们所有产品(包括我们新兴的人工智能产品)的做法。
'我们将推动一系列明确的行动,包括结构变革、更新的产品指南、改进的发布流程、稳健的评估和红队以及技术建议。我们正在审视所有这些,并将做出必要的改变。
“即使我们从这里的错误中吸取了教训,我们也应该在产品的基础上继续发展以及过去几周我们在人工智能方面发布的技术公告。
在用户抱怨 Gemini 的图像生成工具生成“醒来”但不正确的图像,例如女性教皇
要求描绘历史上浅肤色群体,例如Vikings,Gemini 给出的结果显示黑色维京人
'这包括我们的基础模型中的一些基础性进步,例如我们的 100 万长上下文窗口突破和我们的开放模型都受到了好评。
'我们知道如何创造出色的产品,被数十亿人和企业使用和喜爱,凭借我们的基础设施和研究专业知识,我们为人工智能浪潮提供了令人难以置信的跳板。
“让我们专注于最重要的是:构建值得用户信任的有用产品。”
自 2022 年 11 月推出 Microsoft 支持的 OpenAI 的 ChatGPT 以来,Alphabet-谷歌旗下的谷歌一直在竞相开发一款具有竞争力的人工智能软件。
它一年前发布了生成式人工智能聊天机器人 Bard。上个月,谷歌将其更名为 Gemini,并推出了付费订阅计划,用户可以选择该计划以从 AI 模型中获得更好的推理能力。
GoogleBardAIWorld War IIChatGPT澳洲中文论坛热点
- 悉尼部份城铁将封闭一年,华人区受影响!只能乘巴士(组图)
- 据《逐日电讯报》报导,从明年年中开始,因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产?
- 据本月早些时分报导,绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联