IXThinker·2026-07-06 11:50

香農妻子猜字母實驗 堪稱最早語言模型

資訊論奠基者香農在上世紀五十年代曾與妻子貝蒂在家中做實驗：他依書本文本逐字母提問，貝蒂憑語感預測下一個字母。有文章指出，這種基於上下文概率預測符號的做法，與現代大語言模型的核心機制一脈相承。

客廳裏的語言實驗

實驗規則簡單：香農從書中某段開始逐字母推進，每到一處先不揭曉答案，而是問貝蒂下一個字母是什麼。貝蒂猜對，他就畫一個短橫；猜錯，便記下正確字母，一段英文由此被拆成可預測與不可預測兩部分。