前OpenAI研究員：神經網絡內部結構早已有序可循

從黑箱到「乾淨」

神經網絡向來被視作黑箱：億萬參數糾纏成死結，沒有人能說清內部究竟發生了什麼。Nick Cammarata與Goodfire團隊在長文《神經網絡早已「乾淨」》中提出相反判斷——這座黑箱深處，其實是一座有街區、有分工、能夠沿路探索的城市。

作為可解釋性研究的先驅，Cammarata坦言自己此前的判斷有誤。他認為，讀懂AI這道難關，可能會在人類最需要的時候被攻克，甚至來得比預期更快。