[梵花2080]警惕AI幻覺 不能以AI產生文字為權威判斷依據

 
彙報一件事情，希望引起喜歡使用AI的朋友重視，在使用AI的過程中，一定要警惕AI幻覺。

前兩天出門，FX這邊因為颱風停運了一些列車，新聞提醒中說明了經過某些相應路段的車次都是停運的。於是，弟子就請教〝萬能〞的AI，我乘坐的這一車次有沒有經過相應路段，AI回答有經過，同時有看起來邏輯清晰的分析說明。所以我馬上想著要退票了，改變行程計劃！

但是弟子也挺奇怪為什麼沒收到任何通知，於是很久以後我把相關疑點告訴AI，又重新問了一次同樣的問題，結果，沒想到AI 180度拐彎，居然回答我沒有經過......

所以，拼命用各種方法去查詢......

包括電話諮詢12306，客服非常熱情地跟弟子說：目前沒有接到停運通知，但是我們在北京，FX的信息可能比較滯後，請時刻關注。

最後還是朋友跟弟子分析，因為這個車次原來的始發點是SX，現在改成了FX，所以AI第一次說的停運路段實際上是FX出發到SX這個路段的最起始段，但是AI沒有辨別能力，反正就把所有能查到的對的錯的網路信息全部歸攏來作為回覆。

所以另外一個幫我查信息的朋友就說了：AI關鍵時候派不上用場。

我最終到第二天，踏上火車才徹底安心！

前面弟子想要叫豆包做張圖，發個朋友圈〝控訴〞一下被AI幻覺折騰的事情，沒想到AI還非常有自我保護意識，表示無法產生弟子要求的圖片，所以只好換了一種委婉的說法！幸好，AI無法辨別弟子的問法不過是換湯不換藥......

弟子之前也有很多此類經驗，比如弟子問王羲之的一些情況，AI回答弟子是這樣，弟子因為多少還是有點知道的，所以指出了其中的錯誤，AI馬上換了一個完全不同的說法，此類事情不一而足......但過去查資料弟子還能多少辨別出一些錯誤，所以不至於上當，邏輯清晰的AI就換一套說法，但此次查車次，弟子完全沒有任何前提知識，真正是被害苦了！

所以，遇事一定不能以AI的產生文字為權威判斷依據。

 
《藍天淨雲》：網頁連結