AI 日报

又又又又翻车!谷歌新AI功能再遭公众批评,称前总统奥巴马是穆斯林,“承认谷歌违反反垄断法”

  • By 51ITO
  • May 27, 2024 - 2 min read



编辑 |星璇

出品 | 51CTO技术栈(微信号:blog51cto)

谷歌近日在谷歌搜索中首次推出了“AI Overview”,上线还不到两周,就被爆料由于该 AI 功能中的查询返回了毫无意义或不准确的结果(并且没有任何选择退出的方式),公众的批评日益增多。

AI Overview在 Google 搜索的最顶部显示搜索问题答案的简要摘要。例如,如果用户搜索清洁皮靴的最佳方法,结果页面可能会在顶部显示“AI Overview”,其中包含多步清洁过程,这些信息是从网络上综合收集的信息中收集的。

但近日,社交媒体用户分享了大量截图,显示人工智能工具给出了不正确且有争议的回答。

根据用户分享的截图,以下是 AI Overview 产生的一些错误示例。

当被问及美国有过多少位穆斯林总统时,AI Overview回答道:“美国有过一位穆斯林总统,即巴拉克·侯赛因·奥巴马。”

图片图片

当用户搜索“奶酪不粘在披萨上”时,该功能建议添加“约 1/8 杯无毒胶水到酱汁中”。社交媒体用户找到了一条11 年前的 Reddit 评论,似乎是该评论的来源。

图片图片

归因对于 AI Overview 来说也可能是一个问题,尤其是在将不准确的信息归因于医疗专业人员或科学家时。

例如,当被问及“为了获得最佳健康,我应该盯着太阳看多长时间”时,该工具回答道,“根据 WebMD 的说法,科学家表示,盯着太阳看 5-15 分钟,或者如果你的皮肤较黑,则最多盯着 30 分钟,一般来说是安全的,并且对健康最有益。”

当被问及“我每天应该吃多少块石头”时,该工具回答道:“根据加州大学伯克利分校地质学家的说法,人们每天应该至少吃一块小石头”,并列出了其维生素和消化益处。

图片图片

该工具还可能无法准确响应简单的查询,例如列出以“um”结尾的水果列表,或者说 1919 年是20 年前。

图片图片

当被问及谷歌搜索是否违反反垄断法时,AI Overview表示,“是的,美国司法部和 11 个州正在起诉谷歌违反反垄断法。”

图片图片

1.谷歌发言人声明

谷歌在年度 Google I/O 大会上推出 AI Overview 当天,该公司表示还计划在搜索中直接引入类似助手的规划功能。该公司解释说,用户将能够搜索诸如“为一个群体创建易于准备的 3 天膳食计划”之类的内容,然后他们就会从网络上的各种食谱中获得一个起点。

谷歌发言人在一份声明中告诉外媒 CNBC:“绝大多数 AI Overview 都提供了高质量的信息,并提供了深入挖掘网络的链接。”

“我们看到的许多例子都是不常见的查询,我们也看到了被篡改或我们无法重现的例子。”

该发言人表示,AI Overview 在推出之前经过了广泛的测试,并且公司正在“根据我们的内容政策采取适当的迅速行动”。

2.被屡屡吐槽的谷歌AI产品

此前,谷歌于 2 月份高调推出了 Gemini图像生成工具,但因出现类似问题,于同月暂停了该工具的发布。

该工具允许用户输入提示来创建图像,但几乎立即,用户就发现了历史错误和可疑的回应,并在社交媒体上广泛流传。

例如,根据社交媒体平台 X 上的截图,当一名用户要求 Gemini 展示一名 1943 年的德国士兵时,该工具会描绘出一群 种族各异的士兵, 他们身着当时的德国军装。

截图 显示, 当被要求提供“中世纪英国国王的历史准确描述”时,该模型生成了另一组种族多样化的图像,其中包括一张女性统治者的 图像。当用户要求提供美国开国元勋、18 世纪法国国王、19 世纪德国夫妇等图像时,他们报告了类似的结果 。用户报告称,在回答有关谷歌创始人的问题时,该模型显示了一张亚洲男性的图像。

谷歌当时在一份声明中表示,正在努力修复 Gemini 的图像生成问题,承认该工具“没有达到预期”。不久之后,该公司宣布将立即“暂停人物图像生成”并“很快重新发布改进版本”。

Gemini 图像生成输出的问题再次引发了人工智能行业的争论,一些团体称 Gemini 太过“觉醒”或左倾,而另一些人则表示该公司没有充分投资于正确的人工智能伦理形式。谷歌在 2020 年和 2021 年因 罢免其人工智能伦理小组的联合负责人而受到抨击 ,此前他们发表了一篇批评此类人工智能模型某些风险的研究论文,随后重组了该小组的结构。

2023 年,谷歌母公司 Alphabet 首席执行官桑达尔·皮查伊 (Sundar Pichai) 因公司 在 ChatGPT 迅速传播之后拙劣且“仓促”地推出 Bard而受到部分员工的批评。

想了解更多AIGC的内容,请访问:

51CTO AI.x社区

https://www.51cto.com/aigc/