ChatGPT全面吊打文心一言？看看網(wǎng)友實測情況：
發(fā)布日期：2023-12-07 訪問次數(shù)：
今天，咱們就開門見山啊。這一回要測一測，昨天才發(fā)布的文心一言大模型 4.0。
之所以要測它，是因為李彥宏昨天在會上說的那句：文心大模型 4.0 綜合水平與 GPT-4 相比已經(jīng)毫不遜色。
這話一出，很多人就沸騰了。
據(jù)李彥宏這邊的說法，文心 4.0 在記憶、理解、邏輯和生成四塊，進步神速。
盡管他也在現(xiàn)場親自演示了很多案例，但很多用戶是壓根不買賬的。
不少人調(diào)侃說： “ 騙騙兄弟就可以了，別把自己也騙了啊。 ”
那到底是毫不遜色，還是吹牛扯淡呢，咱們直接親自試試就知道了。
這回，憑借世超的人脈，也是很幸運地拿到了搶先內(nèi)測的資格。
既然他吹自己和 GPT-4 比毫不遜色，那我們就讓這倆互掐一下，比比斤兩。
從拿到資格開始，世超試了一整天。這次也不跟大家賣關(guān)子了，直接說測試結(jié)論：
總體來說， GPT-4 穩(wěn)定勝利，但文心一言 4.0 居然意外地某些方面壓過 GPT-4 一頭。
那么世超這次測試，還是從比較常見的幾個測評角度入手，這樣體現(xiàn)的更全面、真實。但是，測試難度我們是和之前的 GPT-4 測評難度對齊的。
這比賽的第一輪，先測點大家喜聞樂見的吧。
先從比較輕松的弱智吧和語義陷阱題入手，也正好可以考察一下邏輯和理解能力。
不過，這塊很多大模型都有專門訓(xùn)練，問了很多題都沒把它們考倒。但是，經(jīng)過不懈努力，還是被世超抓到了漏洞。
我問了一個非常經(jīng)典的弱智吧問題：世界上真的有 “ 龍 ” ，那我就在某地被 “ 一條龍 ” 服務(wù)過。
沒想到，這題兩個 AI 沒一個能做對的。。。
先看 GPT-4 這邊，由于不知道這倆 “ 龍 ” 到底嘛意思，就開始亂編一些歷史典故。
文心這邊，也沒有聰明到哪去，也是亂編了一種 “ 幽默 ” 的說法。
甚至，世超后面又給了它一次機會，追問它：兩個龍是同一個龍嗎？
文心依然極其堅定地給了我一個完全錯誤的答案。
不過，到了第二題， GPT-4 就站起來了。
當(dāng)我問：公司是個溫暖的大家庭，怪不得我總是當(dāng)孫子。
文心這邊還在那 “ 溫暖的公司 ” 、 “ 沒有等級差別 ” 。
但再看人家 GPT-4 這個外國 AI ，早就讀懂了中國人的話里有話，表面溫暖，實則冰冷。
不過，當(dāng)世超又追加了一道領(lǐng)導(dǎo)題。事態(tài)卻突然徹底反轉(zhuǎn)，反而是文心贏得很徹底。
世超問了幾個流行的段子： “ 領(lǐng)導(dǎo)夾菜你轉(zhuǎn)桌，領(lǐng)導(dǎo)喝水你剎車 ” ，讓它們給仿寫幾個。
其實這題要想做對，并不容易。不僅僅需要精準(zhǔn)地理解提問，并且要能夠推理出句子的規(guī)律和情感色彩。
兩邊 AI 給我的句子，對仗都蠻工整的，就是 GPT-4 語義徹底理解反了。領(lǐng)導(dǎo)的馬屁拍的非常完美，可惜就是答案全錯。
文心這邊給的這些答案，才真的符合當(dāng)代青年的領(lǐng)導(dǎo)文化。
不過溫馨提示，實操的時候建議開始以 GPT-4 為準(zhǔn)。
這第一輪比拼結(jié)束，文心 VS GPT-4 不分高下， 1 比 1 打了平手。
看來，文心一言說自己進步神速，不是完全在吹牛啊。
第二輪比賽，世超還想繼續(xù)玩點有意思的，試試 AI 解讀梗的能力。
當(dāng)年， GPT-4 上線時能解梗圖，那是叱詫風(fēng)云了好長一段時間。
這一次，世超不僅僅讓它們讀梗圖，還要加碼測試一下，看他們聯(lián)網(wǎng)能力能不能應(yīng)對各種網(wǎng)絡(luò)上的新梗。
因為前面都是測中文語義，世超覺得對 GPT-4 有點不公平，所以特地選了個中英注解都有的梗圖。
就像我的人生一樣
不知道在忙些什么
先來看 GPT-4 老大哥，依然是穩(wěn)定發(fā)揮。大概幾十秒，就做出一個完整的、可以玩的貪吃蛇游戲。包括蛇的移動、點的隨機出現(xiàn)、吃完后體積增大這些效果。
GPT-4
反倒是文心這一邊理解的很準(zhǔn)確，它回答的成本高、夸大宣傳、不如導(dǎo)盲設(shè)備前景好等等，這些才是關(guān)鍵信息。
雖然文心一言也發(fā)現(xiàn)了智齒阻生的問題，也指出了可能存在的其他問題。但還是 GPT-4 的答案更準(zhǔn)確，更貼切。
不知道是不是有英文輔助，這一次GPT-4 梗圖解讀能力強的不是一星半點。
不光能看懂 “ 狗狗 ” 是這張梗圖的關(guān)鍵角色，而且讀懂了笑點在于 “ 認(rèn)真幫忙 ” 和 “ 毫無效果 ” 的對比。
但是，文心這邊卻還在一板一眼地把梗圖，當(dāng)閱讀理解題來做。。。
而且嘴還蠻硬，你說這張圖好笑，它堅持：這沒啥讓人發(fā)笑的，搞不懂你在樂什么。
不過，文心雖然不擅長解釋梗圖。但到了中文互聯(lián)網(wǎng)梗，又馬上扳回了一城。
世超問了個關(guān)于最近互聯(lián)網(wǎng)上的新晉網(wǎng)紅完顏慧德老師的 lonely 梗。
這如果不是十級沖浪選手，一看到這個句子，估計是一臉蒙圈的。
結(jié)果，文心不光點出了梗來源，而且正確解釋了這是個諧音梗。
雖然最后很可惜，把 “ 倫理 ” 錯誤理解成了 “ 理論 ” ，就差這臨門一腳，沒踢進去。
但如果文心這邊是沒滿分，那 GPT-4 這邊恐怕屬于不及格了。。
不光沒讀懂梗，連出處都找錯了，讓你去大型紀(jì)錄片《 完顏慧德傳奇 》里面找一找答案。
這第二輪比賽的兩道小測試下來，雙方各有千秋，不分高下吧。文心的熱梗更新很快， GPT-4 圖片解讀更強。
兩輪比賽下來，目前還沒分出個高低來，焦灼在了 2 比 2 。
接下來，為了拉開比分的差距，咱們得上點狠貨了。
前面兩輪語義理解都更偏基礎(chǔ)，我們再測試一下專業(yè)能力。第三輪直接頂上 GPT-4 的超級強項——代碼題。
不知道還有沒有人記得，當(dāng)年 GPT-4 花了 60 秒，做出一個完整的貪吃蛇小游戲，震撼了整個江湖。
現(xiàn)在我們用同樣的測試，讓文心來試一下。
因為代碼比較長，所以這里就不完全展示了。咱們可以直接劃到下面，看最后的效果。
先來看 GPT-4 老大哥，依然是穩(wěn)定發(fā)揮。大概幾十秒，就做出一個完整的、可以玩的貪吃蛇游戲。包括蛇的移動、點的隨機出現(xiàn)、吃完后體積增大這些效果。
但是，來到文心這一邊，就是徹底不及格了。
不說別的，這貪吃蛇根本就沒動起來，而且后面試著讓文心自己修正代碼，結(jié)果也是越改越錯。
這不是動圖沒動，是文心就沒做出動的效果來
不過，也不代表文心就很拉，這樣懸殊的實力差距，其實是因為 GPT-4 的代碼能力太變態(tài)了。
如果我們稍微降低一點難度，讓它們根據(jù)草圖，來做網(wǎng)站，那文心也是能自如應(yīng)對的。
但是，盡管這樣，從下面兩個網(wǎng)站的效果比較來看， GPT-4 還是更精美、更完整。
文心一言
GPT-4
這第三輪的比賽， GPT-4 是毫無疑問地全面吊打了?，F(xiàn)在比分也被拉開了，文心 VS GPT-4 = 2:3 。
為了避免不公平，既然前面試了一個 GPT-4 的強項，那接下倆也測一個文心說自己比較厲害的能力——記憶。
世超找了一份曾經(jīng)采訪導(dǎo)盲犬相關(guān)人士的采訪文件，全采訪資料總共有一萬三千多個字。
把這一大份文件丟給這倆 AI 之后，我問了一個最簡單的問題：
為什么說導(dǎo)盲犬是騙局？
讓人有點意外的是， GPT-4 雖然答案是對的，可是分析得牛頭不對馬嘴。
我問騙局的原因，他和我說訓(xùn)練難度和導(dǎo)盲犬的導(dǎo)盲能力。
反倒是文心這一邊理解的很準(zhǔn)確，它回答的成本高、夸大宣傳、不如導(dǎo)盲設(shè)備前景好等等，這些才是關(guān)鍵信息。
文心在記憶和理解方面，確實挺扎實。算是成功扳回一城，把比分重新拉回到平局 3 ：3 。
既然事態(tài)這么膠著，那這最后一輪，我們就再試一個比較有意思的題。
之前 GPT-4 Vision 版提過，這一代的 GPT-4 圖片識別能力很強，可以給合照里的單人進行標(biāo)注、給圖片排序等等。
前面好幾道試題，已經(jīng)證明了文心的圖片識別能力也完全不弱。所以，這最后一題，咱們就用圖片來一決高下。
世超丟了一張牙齒的 X 光片進去，讓雙方給我當(dāng)醫(yī)生，診斷診斷病情。
倆 AI 都診斷出了存在的智齒阻生問題，而且 GPT-4 甚至看出了上排牙齒存在不整齊的問題，有三顆牙齒是重疊狀態(tài)。
雖然文心一言也發(fā)現(xiàn)了智齒阻生的問題，也指出了可能存在的其他問題。但還是 GPT-4 的答案更準(zhǔn)確，更貼切。
這五輪比賽結(jié)束，文心一言還是 3：4 輸給了 GPT-4 ，在代碼這方面，更是被狠狠吊打了。。但在中文語義理解和記憶這些方面，也確實如百度所說，提升了不少。
除了上面我們這些基礎(chǔ)測試，這次文心一言還上線了好幾個插件功能。
比如一鏡流影（ 視頻生成 ）、說圖解畫（ 圖片解讀 ）、 E 言易圖（ 可視化數(shù)據(jù)分析 ）
比如說一句話做一個金毛爬樓梯的視頻，幾分鐘之后一條配好音的視頻就做好了。
不過，目前也不是非常完善，經(jīng)常出現(xiàn)素材不夠，無法生成視頻的情況。
作為一個玩具體驗一下，還是挺有意思的，真當(dāng)生產(chǎn)力工具，多少有點夠嗆。
雖然如此，但文心 4.0 的表現(xiàn)已經(jīng)讓我眼前一亮了。
說實話，原本世超并不對文心抱有太大的希望。因為 GPT-4 的強悍，大家都有目共睹。
在這么強的對手面前，很容易顯得你的努力都白費了。。。
這回盡管還是輸了，但起碼你能感受到進步的地方，更擅長的領(lǐng)域。
不過，最后還是要強調(diào)一下，世超的測試只能從常規(guī)的角度來簡單對比兩個大模型。只能算帶大家嘗個鮮，搶先體驗一下，并沒有辦法，完全代表大模型的實力情況。
到底幾斤幾兩，還需要等徹底開放之后。大家親自上手體驗，才會有更深的感受。
掃描添加好友
免費提供：網(wǎng)站建設(shè)、網(wǎng)絡(luò)推廣解決方案
已幫助
人
人
您的鼓勵是站長的最大動力
標(biāo)簽：ChatGPT，文心一言
轉(zhuǎn)載請注明來自：http://www.nbwmg.com/news/3189.html
1 次
11 次
