让人吃石头、给披萨涂胶水，Google AI搜索疯了吗？

snowing303

福无双至，祸不单行，Google 又又又“翻车”了。
1 Z7 E4 U# E) q, R5 @( ^
+ s% t: s9 P6 P$ d2 g/ f' u' M: r
. r3 p* R4 O' r2 f2023 年 2 月，追赶 ChatGPT 的 Bard，公开犯了事实错误；2023 年 12 月，Gemini 侃侃而谈如同贾维斯，然而视频经过后期处理；2024 年 2 月，Gemini 生成多种肤色的历史人物，被批评歧视白人。


9 I/ y- c4 s, T( m7 B: ~这回，厄运降临到 Google 的看家本领——搜索。海外网友看热闹不嫌事大，甚至上演了一波斗图狂欢。

6 r% g! f- ?8 m" C3 l) S
* K7 J6 I* y; J5 K/ n被群嘲的 Google AI 搜索，有种清澈的愚蠢


过去不久的 Google I/O 大会，推出的其中一项功能是 AI Overview（AI 概述）。
) T7 v% t* |' M/ m+ M" D

顾名思义，AI Overview 在网页顶部生成综合多个信源的摘要，同时附有链接。
- S4 _9 W/ T& M: R2 v0 x

7 t8 z$ H9 u2 A4 j% t0 |0 ~1 g! a


+ n1 q* z- D6 m. @( z6 ?5 f当时，Google 对 AI Overview 很有信心，宣布当即向所有美国用户推出，很快也会推广到更多国家，预计年底覆盖超过 10 亿人。
3 \+ Z" G9 M, u% ^

6 a( E# a1 d, [/ l然而没过几天，AI Overview 先在美国用户这里翻车了。
) N3 I) C  w0 V: T

自制披萨的奶酪容易掉下来怎么办？


3 F+ w  q: f/ E9 nGoogle 建议您，亲，往酱汁里添加约 1/8 杯的胶水即可。特意强调是无毒的，背后原因令人暖心。
% ~' m/ Y$ C* F0 @


  p' w3 ^9 y) O8 y' C2 f

Google 并非现编，而是从“美版贴吧”Reddit 一位用户 11 年前的评论照搬了答案，可惜它读不懂人类的幽默。


: S) E, o# y7 P4 p4 J; @


人一天里应该吃多少石头补充营养？


Google 没有反驳问题本身的不合理，一本正经地胡说八道，根据加州大学伯克利分校地质学家的说法，应该一天至少吃一块小石头，以便摄入维生素和矿物质。


4 Z- C4 a" x: Z* O9 A

# F% w- ]8 W: P; r
) \5 x2 M. ]2 u9 C3 `3 X答案的源头是 2021 年的一篇“报道”，出自以假新闻和讽刺文章闻名的洋葱新闻。

- a1 G- G: O4 |2 |6 k/ O
5 u" U# ?& C3 e0 ~, Z( ?AI Overview 也不精通美国历史，掉进了阴谋论的陷阱，说奥巴马是第一位***总统。
  T3 {2 X1 W# \  R1 Z! @, ~4 E
, z- ]0 E$ y0 a( U: R: X

$ o8 A; X: Q# B6 S4 R* u
: \( x' P5 u5 |5 F
, [3 n' s! q0 C: T0 {- x一时间，X 等社交媒体掀起了一股抽象的浪潮：晒截图，比拼谁的 Google AI 回答最荒谬。

9 A' f. i8 N$ v- M: V
( R( {3 q: x5 ^6 S) V/ D竞争异常激烈，在 AI 的世界里，前总统从威斯康星大学毕业了 21 次，一只狗曾在 NBA、NFL 和 NHL 打过球，蝙蝠侠是一名警察。


乐子扎堆的地方，浑水摸鱼和颠倒是非的也不会少。

- f: V! {$ O3 G7 P! ?
  z# F4 v1 H0 W* R- }! H; @$ oGoogle 回应，大部分 AI Overview 的信息是高质量的，也提供了有用的链接供用户深入了解，很多“翻车”例子，问题是不常见的，结果无法重现甚至被篡改过。

- m; Z% h8 b! V; g! N& R5 ?
) _( Z- q  {' h) B" Y) M* `比如，一张流传甚广的截图显示，治疗抑郁症的方法是跳下金门大桥一了百了。事关人命，Google 特意解释了，这个结果是伪造的。
  O6 @7 i9 d$ A/ K( l: ~
+ T/ \1 M7 V! s; Q' I

4 Y2 D; w& V9 h+ A3 Q4 S; w被 Google 辟谣的截图
/ O/ Q: f/ d* u; n
0 [! h# o9 H0 j; \4 q7 X, J  a
% m" [7 V; r2 y% e4 T
与此同时，Google 没有辟谣其他例子，而是把它们作为改进 AI 的养料。怎么不算一次人类反馈的强化学习（RLHF）呢？
5 g3 ]% L7 D: z% K# T+ G9 x

7 m/ {( \/ h+ d! S4 k火眼金睛的网友还发现，之前 Google I/O 精挑细选的演示里其实也出现了事实错误，只不过更加隐蔽。

( W+ N  z* b6 Y+ x
被问到如何修复卡住的胶片相机，Google 建议打开后门并轻轻地取下胶片，但这样操作会毁掉照片。
$ T' c5 L/ Q% Z, A

& m4 U4 l. U! d

/ d6 Y1 ~% b9 o. d  Q4 \( K
流年不利的 Google，不是第一次在万众瞩目的公共场合犯错误。

3 d  A5 w  d' Q( W4 X* c6 b
2023 年 2 月，Google Bard 在演示时说，詹姆斯·韦伯太空望远镜是第一个拍摄太阳系外行星的望远镜。事实上，第一张系外行星图像是在 2004 年拍摄的。一个错误，付出市值缩水 1000 亿美元的代价。


这次，除了 AI Overview 本身犯错，还有一个槽点：这个功能，它不好关。一些热心的开发者，赶制了扩展程序，强制只显示传统的搜索结果。
# I6 b# p& x$ ^( ^/ x

% T( r& C5 r4 I( G没有方便的退出机制是 Google 的不对，AI Overview 基于传统搜索页面，用户量极大，万一有不熟悉 AI 的用户，盲目信任它的结果并被误导，后果就不好说了。
) \- v) u4 P) o! z

* M( G2 ?5 S+ P6 V, G“Google 怎么会错 30%？”
4 y- _. e# I+ T$ J& T1 [+ F/ x
$ t6 U( a7 G7 t7 T
& |# H: }: Y* X9 C/ {2 g其实，AI Overview 被曝光的问题并不新鲜。AI 会犯错，早就是公开的秘密。

! r" u  H( {: j
如同起到造型作用的“吸烟有害健康”，AI Overview 下方标注着：“生成式 AI 是实验性的。”ChatGPT 也小字提醒：“可能会犯错。请核查重要信息。”
2 k4 ^1 K% H) S! p

大语言模型的基础原理是，通过预测下一个单词或者短语生成概率最大的文本，有时可能会选择不正确但看似合理的词语，也就导致了虚假信息或者说“幻觉”。


AI Overview 的胡言乱语也是幻觉的表现，它结合了大语言模型生成的语句和互联网的链接，可以引用信源，但不保证信源的准确。


, Z6 A! P% ]! E) N哪怕用到了 RAG（检索增强生成）等技术，将检索系统与生成模型相结合，限制回答问题的范围，也只能抑制幻觉，而非根治幻觉。

  G; c( M9 n" x% u2 W% E3 C
* {! ]* X$ a* s并且，信源本身的可信度存疑。“美版贴吧”Reddit，由网友贡献内容，而非权威媒体。
/ a' {' @- H5 d: u3 W! @

! i" ]0 X) {( U/ a! @今年 2 月，Google 与 Reddit 达成协议，将其内容用于训练 AI 模型。当时就有人怀疑，会否导致“garbage in， garbage out”（垃圾进，垃圾出）的尴尬情况。

0 J8 T# a' {) \5 i2 |9 Y) ]( Q
& Q1 q/ n$ o- N. m) o7 y' K被“幻觉”困扰的不只 Google。去年 5 月，一位网友提问微软的 New Bing 时，答案明显错误，他点开参考链接时发现，作为引用源的知乎回答，居然也是 AI 生成的，遣词造句尽显 AI 风味，速度人力所不可及。
1 a. ]  i1 E( w) D



& o. D0 w/ ]# S8 P
6 t3 J" ^3 \. N7 IAI 搜索们是如何引用信源的，也是个让人费解的问题。当我用中文搜索“怎么给柴犬洗澡”，Perplexity 的信源是搜狐、YouTube、豆瓣日记、B 站，天工是知乎、百度文库，一时也不知道哪个更为权威，不敢轻信。
$ L6 q8 B  {6 X1 ]! q; P6 h0 i

6 i, H0 h; x: L, W# l既然 AI 搜索都有幻觉，为什么总是 Google 被架在火上烤？
: S" x& G5 h+ x8 o3 t

+ X% k/ t. e5 D5 z. ~. w* _! r) a/ g创立于 1998 年的 Google，成为搜索代名词的 Google，身为 AI 巨擘的 Google，拉高了外界的期待，也必须承担犯错的后果。

) Q4 j: I; O3 N- R" u! S' \
+ b+ m1 i/ e4 u( W1 ^
! L( G. Z6 p  `5 B* s

8 n9 _4 N: T! A2 g8 B* ^相反，Perplexity 的 CEO Aravind Srinivas 表示，轻装上阵就是他们的优势，字里行间还有些骄傲。
; G' G- _8 j# [. U/ q) m. y

. `* U: s& d& ]

如果你使用我们的产品，80% 表现不错，你可能觉得印象深刻，但如果你使用 Google 的产品，只有 70% 正确，你可能会不解，Google 怎么会错 30%？
7 ~& ^7 c1 q7 l5 e

+ W+ x' `8 ~$ F4 |7 H$ v
) P" q  p* t1 x4 g) t' b% N1 ~另外，AI 搜索也导致了用户认知上的转变。
9 s6 _* e. l, R* Z" G
9 n6 p/ h& ^# R/ g4 O0 }
% A! N) Z- C& u+ w3 B, h我们以前说“用 Google 搜索”，而介绍搜索的生成式 AI 功能时，Google 自己给博客起的标题是“让 Google 为您进行搜索”，主次微妙地倒转了。
) }: O) T2 R, h7 \* Q

过去，Google 展现哪些链接可以回答你的问题。现在，Google 自己用 AI 回答你的问题。
! M7 R$ i# d, `
- {* p; t% T% u# y8 r4 Z- f* B! J* p
传播错误信息的矛头，从信源本身，转移到了引用信源的 Google 身上。这口锅，Google 不得不背。


AI 搜索在提供事实之外，还有哪些可能性


既然幻觉已然是前提，我们应该换个角度看待 AI 搜索，问自己一个问题：是不是我们的预期出了错误？
3 e( J' j( R5 N$ a  S4 E
5 g. i  N' y8 @- X# h
其实在 AI Overview 被批评前，Google CEO 皮查伊就在近日 The Verge 的采访中提到过，“幻觉”问题仍未解决，甚至可以说是大语言模型固有的特征。

9 ~3 F) X7 Q# E# L2 m2 p
他认为，大语言模型不一定是了解事实的最佳渠道，但这不代表大语言模型是个废柴，非黑即白的思维不可取，比如它可以创造诗歌、引入搜索。


' X: M& Z: F$ d% P) @CEO 接受采访也好，I/O 大会也罢，都是在向用户传递一个理念：不要只把 AI 搜索当作对现有网页的简单总结，AI 发光发热的地方还有很多。
) V* l" s9 T* j% g/ f0 T
6 r+ Q$ K. I: H- B
: j- V4 C1 {% E但 AI Overview 没能让人满意，怪不到用户头上，相比演示，现在的 AI Overview 并非完全形态，很多功能还没有上线。


Google 搜索主管 Liz Reid 在 I/O 展示了一个“多步推理”的例子，输入“找到波士顿最好的瑜伽馆，展现优惠信息，以及从灯塔山出发的步行时间”，AI 一步到位，以前要搜索三次的，现在一次就够了。
! v8 {8 S' u) ~+ G% {
1 E+ H$ \3 D+ t4 `- U( \% v) H
4 Q/ H# I2 j2 v) O# Y( P3 a6 U; `


同时，AI Overview 未来还将有“规划”能力，比如要求 AI 策划三天的晚餐，用户可以直接拿到一份食谱，并在中途进行细化，加上“素食”等需求，然后导出到文档。

" d: U' @5 J9 U, o7 M5 l2 o+ d% @

8 a/ ^/ X! J3 [; `& b/ S$ ]% l; z
  ~: g! L0 Z) o+ D  }
Google 的思路，和其他 AI 搜索产品殊途同归——让搜索更加可视化、交互性和个性化，用人话而非关键词沟通，节省查找信息的时间，回答更加复杂和具体的问题。


秘塔、天工提供从简洁到深入的不同搜索模式，甚至可以给出大纲和图谱。

7 F6 x. I  E4 {5 \& Q( f
8 h9 z4 f/ z. _/ b; ZPerplexity 可以控制搜索范围，既能覆盖整个互联网，也能按照搜索需求，缩小到学术论文、YouTube、Reddit。


* Z! F! b/ c7 I- }但相对复杂的场景，AI搜索被寄予了厚望，毕竟它比起 ChatGPT 等多了信源，更加方便查证，比起传统搜索，又能进行更多的研究、创作、规划、头脑风暴。与其说是比传统搜索更好的百科全书，不如说更有 agent 的形状。
. G2 W: W" E5 r4 M" ]* i

. u' F- r! }% f当然，饼画得再多，AI 搜索的幻觉还是让人膈应。为此有人建议，安全起见，用生成式 AI，别只看摘要，再用传统的 Google 搜索检查一下。所谓风水轮流转，但大哥还是大哥。
! e" C' i0 X5 G$ i5 X: E$ ^+ [6 V  @


1 W- B, ?$ p7 S, x7 T, O本文来自微信公众号：爱范儿（ID：ifanr），作者：张成晨
  w5 Z3 i" ~, I+ R, N3 y: |! y% ^
# X% X8 [: q: ~. a  o『本文转载自网络,版权归原作者所有,如有侵权请联系删除』