一個(gè)價(jià)值1200億美元的錯(cuò)誤！谷歌Bard暴露了“類ChatGPT應(yīng)用”最大軟肋？

激石Pepperstone(http://qintiejiang.com/)報(bào)道：

谷歌為了應(yīng)對(duì)ChatGPT而自信推出的Bard，迅速被指出犯了低級(jí)錯(cuò)誤，這暴露了類似的人工智能系統(tǒng)實(shí)際上并不具備“理解能力”。

華爾街見(jiàn)聞稍早時(shí)候曾介紹，有專家指出Bard在該產(chǎn)品的第一個(gè)演示視頻中犯了一個(gè)“事實(shí)錯(cuò)誤”。

在視頻中，Bard回答了一個(gè)關(guān)于通過(guò)詹姆斯韋伯太空望遠(yuǎn)鏡獲得的新發(fā)現(xiàn)的問(wèn)題，稱它“拍攝了我們太陽(yáng)系外行星的第一張照片”。然而天文學(xué)家們指出，第一張系外行星照片是由歐洲南方天文臺(tái)的甚大望遠(yuǎn)鏡（VLT）在2004年拍攝的。

天文學(xué)家們認(rèn)為，這一問(wèn)題可能源于人工智能誤解了“模棱兩可的NASA新聞稿，低估了過(guò)去的歷史”。

這個(gè)故障凸顯了Bard等所謂的生成人工智能系統(tǒng)的一個(gè)常見(jiàn)缺陷：這些系統(tǒng)不能“理解”它們反芻的信息，只能根據(jù)概率進(jìn)行猜測(cè)。而微軟也承認(rèn)了它的聊天機(jī)器人也面臨類似的挑戰(zhàn)。

盡管語(yǔ)言模型可以生成連貫且語(yǔ)法正確的文本，但它們也會(huì)表達(dá)虛假信息。

離奇的是，上述錯(cuò)誤通過(guò)了谷歌的各個(gè)工程、法律、公關(guān)和營(yíng)銷部門，并在出現(xiàn)在了Bard最重要的演示中。

Bard的“出師不利”，無(wú)疑對(duì)本就急需這一戰(zhàn)“扳回一城”的谷歌造成打擊。周三，谷歌一度跌去近10%市值，損失高達(dá)1200億美元。

除此之外，谷歌的利潤(rùn)下降可能也在所難免。去年四季度，谷歌營(yíng)收和EPS均遜于預(yù)期，連續(xù)第三個(gè)季度盈利同比下滑，廣告收入下降了4%，是其歷史上第二個(gè)季度萎縮。

行動(dòng)太倉(cāng)促

Bard出現(xiàn)重大錯(cuò)誤，可能反映出谷歌為了應(yīng)對(duì)微軟，在推行這一項(xiàng)目時(shí)過(guò)于匆忙。

有媒體指出，ChatGPT在去年推出時(shí)，也被人們發(fā)現(xiàn)了會(huì)提供錯(cuò)誤信息。盡管OpenAI沒(méi)有提供錯(cuò)誤信息頻率的統(tǒng)計(jì)數(shù)據(jù)，但這家公司表示，會(huì)通過(guò)定期更新使該工具變得更好。

相比之下，谷歌似乎在使用這項(xiàng)新技術(shù)方面更加大膽。

在微軟發(fā)布的必應(yīng)的例子中，聊天機(jī)器人的答案將被降級(jí)到頁(yè)面的一側(cè)，而不是通常搜索結(jié)果將保留的前面和中心。機(jī)器人的回答還包括腳注和來(lái)源材料的鏈接，這在ChatGPT當(dāng)中是沒(méi)有的，但這使得微軟的工具看起來(lái)更值得信賴。

反觀谷歌的Bard，回答放在頁(yè)面中間、搜索結(jié)果上方顯示了單一的摘要答案，并且沒(méi)有腳注，這意味著用戶不可能識(shí)別來(lái)源。

這也許是因?yàn)楣雀杳媾R著迅速行動(dòng)的壓力。

OpenAI等公司試圖通過(guò)增加數(shù)十億個(gè)參數(shù)來(lái)提高語(yǔ)言模型的準(zhǔn)確性，但一些研究人員懷疑，隨著模型的增長(zhǎng)，準(zhǔn)確性的回報(bào)會(huì)遞減。

對(duì)微軟和谷歌來(lái)說(shuō)，消除這些持續(xù)存在的少數(shù)謊言可能成為一項(xiàng)長(zhǎng)期挑戰(zhàn)。?????????