让人吃石头、给披萨涂胶水，Google AI搜索疯了吗？

snowing303

福无双至，祸不单行，Google 又又又“翻车”了。


2023 年 2 月，追赶 ChatGPT 的 Bard，公开犯了事实错误；2023 年 12 月，Gemini 侃侃而谈如同贾维斯，然而视频经过后期处理；2024 年 2 月，Gemini 生成多种肤色的历史人物，被批评歧视白人。

! S+ N7 F& U' r. V! j6 K  d
这回，厄运降临到 Google 的看家本领——搜索。海外网友看热闹不嫌事大，甚至上演了一波斗图狂欢。
4 Z1 b3 }$ l' M1 @, Y0 P4 K% G- S

被群嘲的 Google AI 搜索，有种清澈的愚蠢

* U& m8 N! L/ s. [& c# C
* r7 B, H1 N! Z8 P( i# z过去不久的 Google I/O 大会，推出的其中一项功能是 AI Overview（AI 概述）。

9 }5 Q5 P1 y4 ?* J  [2 W8 ~7 o
1 m* v( n, I9 y" T- ~4 d顾名思义，AI Overview 在网页顶部生成综合多个信源的摘要，同时附有链接。

+ i6 o0 ?; ~/ q$ K



当时，Google 对 AI Overview 很有信心，宣布当即向所有美国用户推出，很快也会推广到更多国家，预计年底覆盖超过 10 亿人。
3 ?2 O% b* r% G) i

然而没过几天，AI Overview 先在美国用户这里翻车了。

3 Y3 {2 |5 N5 v9 O2 f" ?$ E2 r# G0 v
自制披萨的奶酪容易掉下来怎么办？


Google 建议您，亲，往酱汁里添加约 1/8 杯的胶水即可。特意强调是无毒的，背后原因令人暖心。
+ \  A( L6 V2 N& z
3 w4 v' l0 G5 N

- ?$ ^2 _# ~' v  W& Z& y- W

2 D% j. ~% n* I$ R; e3 aGoogle 并非现编，而是从“美版贴吧”Reddit 一位用户 11 年前的评论照搬了答案，可惜它读不懂人类的幽默。
( g4 f) s/ \  L$ [7 g* l, O


% Q( T$ i5 h- F% ?9 B

) ~* x& P3 X4 Q6 h( X2 G; D人一天里应该吃多少石头补充营养？


& p' ^4 r2 P2 }; w/ M' UGoogle 没有反驳问题本身的不合理，一本正经地胡说八道，根据加州大学伯克利分校地质学家的说法，应该一天至少吃一块小石头，以便摄入维生素和矿物质。


) Q: [: ^- r; {7 U

! i8 t( W- z# L- S
8 L# O, m! C5 U! M, c0 Z. z( Q1 u答案的源头是 2021 年的一篇“报道”，出自以假新闻和讽刺文章闻名的洋葱新闻。


AI Overview 也不精通美国历史，掉进了阴谋论的陷阱，说奥巴马是第一位***总统。




  O9 v9 r5 f; }/ N4 y1 Z) q
一时间，X 等社交媒体掀起了一股抽象的浪潮：晒截图，比拼谁的 Google AI 回答最荒谬。

6 K+ D3 {+ e: U5 {. v& l
竞争异常激烈，在 AI 的世界里，前总统从威斯康星大学毕业了 21 次，一只狗曾在 NBA、NFL 和 NHL 打过球，蝙蝠侠是一名警察。


乐子扎堆的地方，浑水摸鱼和颠倒是非的也不会少。

" D( Z: w# w5 c% F* p! y9 G3 D
6 S" S+ a  c; x' LGoogle 回应，大部分 AI Overview 的信息是高质量的，也提供了有用的链接供用户深入了解，很多“翻车”例子，问题是不常见的，结果无法重现甚至被篡改过。
+ V9 D7 H( ]6 [6 ]) _" n' \, A3 x

比如，一张流传甚广的截图显示，治疗抑郁症的方法是跳下金门大桥一了百了。事关人命，Google 特意解释了，这个结果是伪造的。
$ q* i; Q2 V" ^

+ N9 L/ s/ m' F+ U! C
被 Google 辟谣的截图

9 n) H$ b, N) M
8 y" C( g- K" S: y8 b; y: \1 w
( K/ e: z5 R  ]% G' T( }7 i与此同时，Google 没有辟谣其他例子，而是把它们作为改进 AI 的养料。怎么不算一次人类反馈的强化学习（RLHF）呢？


3 x/ @; r5 m0 }8 m' G; Y火眼金睛的网友还发现，之前 Google I/O 精挑细选的演示里其实也出现了事实错误，只不过更加隐蔽。
, O0 S! x5 L- H2 @/ L
9 R" {6 f& G0 ]
被问到如何修复卡住的胶片相机，Google 建议打开后门并轻轻地取下胶片，但这样操作会毁掉照片。
9 Q6 P9 t$ q7 A; A9 ~
: O5 o: c9 \+ I1 F1 v4 i


, J. s) u$ P' {* F" t  B# h2 ^
" d' r5 b" p5 H( {流年不利的 Google，不是第一次在万众瞩目的公共场合犯错误。
% n) N) N% W; ^% k3 N( l
3 D/ Q5 M9 U' {: ?6 k5 ]% G
0 r; b: x* f' i- i1 W  k7 g' T2023 年 2 月，Google Bard 在演示时说，詹姆斯·韦伯太空望远镜是第一个拍摄太阳系外行星的望远镜。事实上，第一张系外行星图像是在 2004 年拍摄的。一个错误，付出市值缩水 1000 亿美元的代价。
% \1 v! z1 g3 D0 \" O5 Q

( {9 p7 G5 |. U% x/ c# \' ^' j这次，除了 AI Overview 本身犯错，还有一个槽点：这个功能，它不好关。一些热心的开发者，赶制了扩展程序，强制只显示传统的搜索结果。

: X8 k% M( `2 s* Z( e
: o  X. o, P% \: r没有方便的退出机制是 Google 的不对，AI Overview 基于传统搜索页面，用户量极大，万一有不熟悉 AI 的用户，盲目信任它的结果并被误导，后果就不好说了。
9 l* _* Z5 e% T* r" S# B
( s8 B6 w7 r7 R
“Google 怎么会错 30%？”
. a: }" q( R/ s/ [1 d

) ]% ?0 N! s& M" Z0 l其实，AI Overview 被曝光的问题并不新鲜。AI 会犯错，早就是公开的秘密。


  H% b1 E3 @2 s6 L% X如同起到造型作用的“吸烟有害健康”，AI Overview 下方标注着：“生成式 AI 是实验性的。”ChatGPT 也小字提醒：“可能会犯错。请核查重要信息。”

" p1 `5 ^2 x: X! h, K% M4 ^
0 H7 N$ n  b# g2 F# P大语言模型的基础原理是，通过预测下一个单词或者短语生成概率最大的文本，有时可能会选择不正确但看似合理的词语，也就导致了虚假信息或者说“幻觉”。

' a7 C; ?4 u2 h: Z  A$ A
AI Overview 的胡言乱语也是幻觉的表现，它结合了大语言模型生成的语句和互联网的链接，可以引用信源，但不保证信源的准确。
* Y; C/ J. `% P0 x8 L% A( G

* y! Y2 L# F- |/ {; G哪怕用到了 RAG（检索增强生成）等技术，将检索系统与生成模型相结合，限制回答问题的范围，也只能抑制幻觉，而非根治幻觉。


4 ^8 U& r0 A' \7 Y- X+ `' `并且，信源本身的可信度存疑。“美版贴吧”Reddit，由网友贡献内容，而非权威媒体。

" G5 v* s8 R4 ]  s: q3 I3 ?3 o) M
8 b  y, ]" p% b3 o8 ~今年 2 月，Google 与 Reddit 达成协议，将其内容用于训练 AI 模型。当时就有人怀疑，会否导致“garbage in， garbage out”（垃圾进，垃圾出）的尴尬情况。


被“幻觉”困扰的不只 Google。去年 5 月，一位网友提问微软的 New Bing 时，答案明显错误，他点开参考链接时发现，作为引用源的知乎回答，居然也是 AI 生成的，遣词造句尽显 AI 风味，速度人力所不可及。
5 _) w& z$ q5 R: Q* d' d

6 W. ^. x; L2 h7 K1 M3 X7 [

8 {& F1 ~! p2 Z
2 ~: i9 Q2 x9 J& z& A3 Q& q9 pAI 搜索们是如何引用信源的，也是个让人费解的问题。当我用中文搜索“怎么给柴犬洗澡”，Perplexity 的信源是搜狐、YouTube、豆瓣日记、B 站，天工是知乎、百度文库，一时也不知道哪个更为权威，不敢轻信。
7 m, p4 q& g% x; @+ p8 X" n/ b# ~9 n
  s3 e. a& X% m, l" M
- y. c$ }, O2 {/ t& u( z) b$ Q既然 AI 搜索都有幻觉，为什么总是 Google 被架在火上烤？
) O6 _6 Q# W1 B6 Y8 U; a

* Q# o  C* b7 S9 H: Z" _8 O+ j创立于 1998 年的 Google，成为搜索代名词的 Google，身为 AI 巨擘的 Google，拉高了外界的期待，也必须承担犯错的后果。



1 X3 I5 \$ ~: L
' b/ X1 H  d! @% a8 f* `* }- _* H" g
4 C9 }% @$ o$ K相反，Perplexity 的 CEO Aravind Srinivas 表示，轻装上阵就是他们的优势，字里行间还有些骄傲。

" ^$ v, S- X& c; f& q
- j; w# {+ a7 K' |

如果你使用我们的产品，80% 表现不错，你可能觉得印象深刻，但如果你使用 Google 的产品，只有 70% 正确，你可能会不解，Google 怎么会错 30%？

( D( @+ }3 n* \3 z6 Z  o6 E% h
另外，AI 搜索也导致了用户认知上的转变。
; m" D5 b) \' G0 T+ X
; `7 P4 z$ k; Y0 F
( D1 \' c: I* c$ R  o我们以前说“用 Google 搜索”，而介绍搜索的生成式 AI 功能时，Google 自己给博客起的标题是“让 Google 为您进行搜索”，主次微妙地倒转了。

" t# k# H: K; l% O0 P
过去，Google 展现哪些链接可以回答你的问题。现在，Google 自己用 AI 回答你的问题。
% j- c8 p7 O' |$ L( b8 K

传播错误信息的矛头，从信源本身，转移到了引用信源的 Google 身上。这口锅，Google 不得不背。
. W  e2 `9 q% e' [0 h

AI 搜索在提供事实之外，还有哪些可能性


既然幻觉已然是前提，我们应该换个角度看待 AI 搜索，问自己一个问题：是不是我们的预期出了错误？
6 q/ N0 k* F1 F7 M+ b

' M$ Q. L6 V" q0 l( \/ l: g% V其实在 AI Overview 被批评前，Google CEO 皮查伊就在近日 The Verge 的采访中提到过，“幻觉”问题仍未解决，甚至可以说是大语言模型固有的特征。


他认为，大语言模型不一定是了解事实的最佳渠道，但这不代表大语言模型是个废柴，非黑即白的思维不可取，比如它可以创造诗歌、引入搜索。

/ |; O0 _7 a0 ?
* }1 h) S6 I- v6 T7 V+ p" nCEO 接受采访也好，I/O 大会也罢，都是在向用户传递一个理念：不要只把 AI 搜索当作对现有网页的简单总结，AI 发光发热的地方还有很多。

  N! L2 @# c2 l" `) G/ i
但 AI Overview 没能让人满意，怪不到用户头上，相比演示，现在的 AI Overview 并非完全形态，很多功能还没有上线。
* b0 f) Q. q" S) i+ a
' \. t9 \  r4 G6 U3 d- N" `5 D
Google 搜索主管 Liz Reid 在 I/O 展示了一个“多步推理”的例子，输入“找到波士顿最好的瑜伽馆，展现优惠信息，以及从灯塔山出发的步行时间”，AI 一步到位，以前要搜索三次的，现在一次就够了。

% n2 I% f6 ~3 t/ ^" a# A

: o( r, W  C6 e0 n, C! C8 o

同时，AI Overview 未来还将有“规划”能力，比如要求 AI 策划三天的晚餐，用户可以直接拿到一份食谱，并在中途进行细化，加上“素食”等需求，然后导出到文档。

% x) U* c% M- Q" C% ]& H

" C: [0 L. g$ R' F8 K1 D$ S

; a9 @/ B2 Z, t5 [6 D! mGoogle 的思路，和其他 AI 搜索产品殊途同归——让搜索更加可视化、交互性和个性化，用人话而非关键词沟通，节省查找信息的时间，回答更加复杂和具体的问题。
- H4 U* \# P7 q
5 U/ o3 R1 p8 a# b" I0 |8 p: N' h" @
& ?' U5 L7 R0 ]0 |8 S4 `* H秘塔、天工提供从简洁到深入的不同搜索模式，甚至可以给出大纲和图谱。
- w5 b' D  X$ t' A+ I. \0 f0 _# P5 s
6 y( w3 D9 k3 v
Perplexity 可以控制搜索范围，既能覆盖整个互联网，也能按照搜索需求，缩小到学术论文、YouTube、Reddit。


但相对复杂的场景，AI搜索被寄予了厚望，毕竟它比起 ChatGPT 等多了信源，更加方便查证，比起传统搜索，又能进行更多的研究、创作、规划、头脑风暴。与其说是比传统搜索更好的百科全书，不如说更有 agent 的形状。

. Q+ Q% ?2 x/ Y
当然，饼画得再多，AI 搜索的幻觉还是让人膈应。为此有人建议，安全起见，用生成式 AI，别只看摘要，再用传统的 Google 搜索检查一下。所谓风水轮流转，但大哥还是大哥。

0 D1 m# C2 Y, t6 ?/ w" }4 [5 W" R' Z, Q

本文来自微信公众号：爱范儿（ID：ifanr），作者：张成晨

『本文转载自网络,版权归原作者所有,如有侵权请联系删除』