AI幻覺「Hallucinate」膺劍橋詞典年度字

2023年11月17日 - 信報

英國劍橋詞典公布Hallucinate（產生幻覺）為本年度代表字，這個動詞因ChatGPT等人工智能（AI）工具的出現被賦予新含義，新增註解是當人工智能「產生幻覺」時，將產生錯誤內容。

Hallucinate原義為「似乎看到、聽到、感受到或聞到一些不存在的東西」，通常是因為人類出現健康狀況或服用藥物。如今Hallucinate多了一個與人工智能有關的含義，新增註解是當AI製造幻覺時，會產生錯誤內容。專家一般把聊天機械人的說謊現象稱為「AI幻覺」，指ChatGPT等大型語言模型（LLM）在生成內容時，可能增刪或篡改原文內容，最終產生一些看似正確的虛假資訊。

劍橋詞典解釋，Hallucinate的新含義觸及人們為何談論AI的核心，又指生成式AI雖然強大，但並非完美，人類仍在學習如何安全有效地與AI互動，意味要注意其潛在優點和弱點。