让人吃石头、给披萨涂胶水，Google AI搜索疯了吗？

snowing303

福无双至，祸不单行，Google 又又又“翻车”了。


2023 年 2 月，追赶 ChatGPT 的 Bard，公开犯了事实错误；2023 年 12 月，Gemini 侃侃而谈如同贾维斯，然而视频经过后期处理；2024 年 2 月，Gemini 生成多种肤色的历史人物，被批评歧视白人。
' n' s$ S+ ]& M$ \0 J% Q9 L+ I

7 `+ A' H9 X. a! L9 Q# Y这回，厄运降临到 Google 的看家本领——搜索。海外网友看热闹不嫌事大，甚至上演了一波斗图狂欢。
6 c) q7 c- {; R9 V- ]3 a0 o- x

  x- Q( l; O8 F被群嘲的 Google AI 搜索，有种清澈的愚蠢

) k! I! f& x. x  F/ |2 I
过去不久的 Google I/O 大会，推出的其中一项功能是 AI Overview（AI 概述）。
  l+ z$ \& \# O3 U. [

顾名思义，AI Overview 在网页顶部生成综合多个信源的摘要，同时附有链接。



2 X8 F2 p" {3 s& s* W+ u

当时，Google 对 AI Overview 很有信心，宣布当即向所有美国用户推出，很快也会推广到更多国家，预计年底覆盖超过 10 亿人。

; @( @7 K8 S) ]+ B, v
然而没过几天，AI Overview 先在美国用户这里翻车了。
. ^( y- T; {  Y1 \) f8 T! ~

( N: Z! O' r& p& c4 h自制披萨的奶酪容易掉下来怎么办？


Google 建议您，亲，往酱汁里添加约 1/8 杯的胶水即可。特意强调是无毒的，背后原因令人暖心。
  h% u6 N6 S2 ]- T
* _' z2 \0 @7 u+ f9 p# s/ _% s


7 q8 G5 z5 j- k" G$ S
Google 并非现编，而是从“美版贴吧”Reddit 一位用户 11 年前的评论照搬了答案，可惜它读不懂人类的幽默。
' M, e3 H; m5 O
6 x6 B# I  k7 d) G  p9 C


: \3 K* h. i, }/ f
) e) S2 w* l. A7 O人一天里应该吃多少石头补充营养？
: l$ p+ h  ?- A2 u
, s8 c9 ~5 `! A: P) x$ Y
: i4 g6 `# S( g3 T! ZGoogle 没有反驳问题本身的不合理，一本正经地胡说八道，根据加州大学伯克利分校地质学家的说法，应该一天至少吃一块小石头，以便摄入维生素和矿物质。
5 I$ E9 N& ]" \
$ \9 ]+ ^$ J; F6 u



答案的源头是 2021 年的一篇“报道”，出自以假新闻和讽刺文章闻名的洋葱新闻。


AI Overview 也不精通美国历史，掉进了阴谋论的陷阱，说奥巴马是第一位***总统。





7 e9 e( i# X' U, D0 N一时间，X 等社交媒体掀起了一股抽象的浪潮：晒截图，比拼谁的 Google AI 回答最荒谬。

1 S1 W* S( N  {8 s4 N
  z, u( p+ [7 G4 |2 u+ Y7 b/ P" ]竞争异常激烈，在 AI 的世界里，前总统从威斯康星大学毕业了 21 次，一只狗曾在 NBA、NFL 和 NHL 打过球，蝙蝠侠是一名警察。

& s0 z: a0 ]1 |! v
1 M) u& ]0 D! \. ]( C乐子扎堆的地方，浑水摸鱼和颠倒是非的也不会少。

. E+ N3 N0 `$ s
4 m: h2 B9 I( I, x" a7 U+ X8 u& a1 dGoogle 回应，大部分 AI Overview 的信息是高质量的，也提供了有用的链接供用户深入了解，很多“翻车”例子，问题是不常见的，结果无法重现甚至被篡改过。

1 @9 b; K% C9 q7 N) m
7 \# p3 D) C$ G) i% K; ^, Q比如，一张流传甚广的截图显示，治疗抑郁症的方法是跳下金门大桥一了百了。事关人命，Google 特意解释了，这个结果是伪造的。
" M7 ?) C* R" a- i; |5 T) [


被 Google 辟谣的截图
+ l6 T+ I1 T# |: o1 M  K


与此同时，Google 没有辟谣其他例子，而是把它们作为改进 AI 的养料。怎么不算一次人类反馈的强化学习（RLHF）呢？
3 @& r9 R% l4 Y' E0 \9 ]

火眼金睛的网友还发现，之前 Google I/O 精挑细选的演示里其实也出现了事实错误，只不过更加隐蔽。


& x$ X; Z7 \. v( r# w被问到如何修复卡住的胶片相机，Google 建议打开后门并轻轻地取下胶片，但这样操作会毁掉照片。
. k$ p- V) `) f$ w' y& M# ^6 H1 G+ T7 i



! G+ a4 u1 \8 N* W- |, N
流年不利的 Google，不是第一次在万众瞩目的公共场合犯错误。
# Y  q8 ^2 N! e& J

2023 年 2 月，Google Bard 在演示时说，詹姆斯·韦伯太空望远镜是第一个拍摄太阳系外行星的望远镜。事实上，第一张系外行星图像是在 2004 年拍摄的。一个错误，付出市值缩水 1000 亿美元的代价。

( P* M7 A. Z3 v6 ]% [  p
这次，除了 AI Overview 本身犯错，还有一个槽点：这个功能，它不好关。一些热心的开发者，赶制了扩展程序，强制只显示传统的搜索结果。

& m3 _  S- ]) y8 }; o5 K
没有方便的退出机制是 Google 的不对，AI Overview 基于传统搜索页面，用户量极大，万一有不熟悉 AI 的用户，盲目信任它的结果并被误导，后果就不好说了。
( [5 p( a1 q5 V1 K; `* @% ]3 t: h

“Google 怎么会错 30%？”
& P2 E6 i& p6 @$ y0 O& `3 B
, s+ H/ Q4 @* q. b; L9 s
其实，AI Overview 被曝光的问题并不新鲜。AI 会犯错，早就是公开的秘密。

0 Q1 N) A& h: p
如同起到造型作用的“吸烟有害健康”，AI Overview 下方标注着：“生成式 AI 是实验性的。”ChatGPT 也小字提醒：“可能会犯错。请核查重要信息。”


大语言模型的基础原理是，通过预测下一个单词或者短语生成概率最大的文本，有时可能会选择不正确但看似合理的词语，也就导致了虚假信息或者说“幻觉”。

5 i. O  D$ `( p2 ?; r
AI Overview 的胡言乱语也是幻觉的表现，它结合了大语言模型生成的语句和互联网的链接，可以引用信源，但不保证信源的准确。


: s& ~' H3 Y" m2 D& ?1 R- K" R哪怕用到了 RAG（检索增强生成）等技术，将检索系统与生成模型相结合，限制回答问题的范围，也只能抑制幻觉，而非根治幻觉。


并且，信源本身的可信度存疑。“美版贴吧”Reddit，由网友贡献内容，而非权威媒体。
! w7 E# v/ x/ n: }) {6 R
/ t" s. _" l4 Y/ _
今年 2 月，Google 与 Reddit 达成协议，将其内容用于训练 AI 模型。当时就有人怀疑，会否导致“garbage in， garbage out”（垃圾进，垃圾出）的尴尬情况。
4 N) [7 y9 g6 {, f4 ^% J$ w

, z( }; h: e- ?* D& `( Z" c8 y被“幻觉”困扰的不只 Google。去年 5 月，一位网友提问微软的 New Bing 时，答案明显错误，他点开参考链接时发现，作为引用源的知乎回答，居然也是 AI 生成的，遣词造句尽显 AI 风味，速度人力所不可及。
4 o2 S  p) u6 c- j

# ]& J, \7 n8 ]+ j/ j& J# V3 ]
8 \# d8 V/ P: |, Q

AI 搜索们是如何引用信源的，也是个让人费解的问题。当我用中文搜索“怎么给柴犬洗澡”，Perplexity 的信源是搜狐、YouTube、豆瓣日记、B 站，天工是知乎、百度文库，一时也不知道哪个更为权威，不敢轻信。

+ |5 A! W+ q3 g7 T- F
既然 AI 搜索都有幻觉，为什么总是 Google 被架在火上烤？

. z* O% d6 b# R& n
4 L- q- O# n! C0 g. l* L0 v) F创立于 1998 年的 Google，成为搜索代名词的 Google，身为 AI 巨擘的 Google，拉高了外界的期待，也必须承担犯错的后果。
2 l6 u! F/ T+ O' A
  h$ n8 ~4 E/ k



相反，Perplexity 的 CEO Aravind Srinivas 表示，轻装上阵就是他们的优势，字里行间还有些骄傲。
& b& X) j7 ?2 A+ _# J

如果你使用我们的产品，80% 表现不错，你可能觉得印象深刻，但如果你使用 Google 的产品，只有 70% 正确，你可能会不解，Google 怎么会错 30%？

7 n7 V6 E+ l) U' h3 C+ P: t, S$ r另外，AI 搜索也导致了用户认知上的转变。

, R, ^; A. J8 I3 l! |
我们以前说“用 Google 搜索”，而介绍搜索的生成式 AI 功能时，Google 自己给博客起的标题是“让 Google 为您进行搜索”，主次微妙地倒转了。


过去，Google 展现哪些链接可以回答你的问题。现在，Google 自己用 AI 回答你的问题。
" A+ L& i/ Y9 L( o4 ?$ d1 t' h
7 h) m4 g+ |5 n: i3 ?: B0 [+ P
传播错误信息的矛头，从信源本身，转移到了引用信源的 Google 身上。这口锅，Google 不得不背。
' |4 c, I8 }5 P9 O
# c; P9 m4 `. I# K  w$ g, j3 V
1 D7 S- \7 Z, q$ l# S& YAI 搜索在提供事实之外，还有哪些可能性
: @# d2 @- m' Z9 ~7 E! K* j" m
. v+ N: Y+ E9 N; @* V, g) R
6 |5 N8 [0 H2 G- Q* ^/ z既然幻觉已然是前提，我们应该换个角度看待 AI 搜索，问自己一个问题：是不是我们的预期出了错误？

/ J. B2 Z7 y! x( K
其实在 AI Overview 被批评前，Google CEO 皮查伊就在近日 The Verge 的采访中提到过，“幻觉”问题仍未解决，甚至可以说是大语言模型固有的特征。
6 s" J. l. t1 Q" K: {  Q" `

他认为，大语言模型不一定是了解事实的最佳渠道，但这不代表大语言模型是个废柴，非黑即白的思维不可取，比如它可以创造诗歌、引入搜索。


CEO 接受采访也好，I/O 大会也罢，都是在向用户传递一个理念：不要只把 AI 搜索当作对现有网页的简单总结，AI 发光发热的地方还有很多。
9 L+ A4 ~+ Q: u- B1 g5 t& W

* l+ s8 h6 G) B. j0 S% j' {2 O7 F6 V但 AI Overview 没能让人满意，怪不到用户头上，相比演示，现在的 AI Overview 并非完全形态，很多功能还没有上线。
6 m. Z7 Y% _" d: \1 ~3 M  R
0 O: P1 E) o6 H' d! B2 E- A" I
+ R' H2 x/ ]8 D7 \# X2 U4 N9 ]Google 搜索主管 Liz Reid 在 I/O 展示了一个“多步推理”的例子，输入“找到波士顿最好的瑜伽馆，展现优惠信息，以及从灯塔山出发的步行时间”，AI 一步到位，以前要搜索三次的，现在一次就够了。

6 `/ K& ^9 n) T* j3 b2 T4 V  c


; D9 k* [' f5 \% K/ X* b
同时，AI Overview 未来还将有“规划”能力，比如要求 AI 策划三天的晚餐，用户可以直接拿到一份食谱，并在中途进行细化，加上“素食”等需求，然后导出到文档。
+ j7 N, J7 h! i6 T% W$ m' x


9 W# N/ K5 N9 [; n

# Z1 }' f  b5 u2 }Google 的思路，和其他 AI 搜索产品殊途同归——让搜索更加可视化、交互性和个性化，用人话而非关键词沟通，节省查找信息的时间，回答更加复杂和具体的问题。
3 x) ~! J/ _( [/ m8 N2 `2 v

1 t# h$ C* g6 G* a% }9 X7 g秘塔、天工提供从简洁到深入的不同搜索模式，甚至可以给出大纲和图谱。


Perplexity 可以控制搜索范围，既能覆盖整个互联网，也能按照搜索需求，缩小到学术论文、YouTube、Reddit。

5 z: D9 t1 A$ v6 D9 p8 H
+ q8 M* q- Z# D1 c但相对复杂的场景，AI搜索被寄予了厚望，毕竟它比起 ChatGPT 等多了信源，更加方便查证，比起传统搜索，又能进行更多的研究、创作、规划、头脑风暴。与其说是比传统搜索更好的百科全书，不如说更有 agent 的形状。
+ z- y" K. K( Z

当然，饼画得再多，AI 搜索的幻觉还是让人膈应。为此有人建议，安全起见，用生成式 AI，别只看摘要，再用传统的 Google 搜索检查一下。所谓风水轮流转，但大哥还是大哥。
. e# p0 u) m6 z% t; h& R5 C  X


本文来自微信公众号：爱范儿（ID：ifanr），作者：张成晨

, m! }7 e" h8 c. O『本文转载自网络,版权归原作者所有,如有侵权请联系删除』