AI 可獨立完成的任務時長已逾 16 小時

增長速度加快

METR 早年報告曾指出該指標約每七個月翻一番；2026 年 5 月報告發現，只計 2024 年以來發布的前沿模型，翻倍周期已縮短至約 105 日。人類方面，二十世紀智商測試成績平均每十年上升約 3 分，此現象以研究者弗林命名。

挪威研究者分析了約 73 萬份徵兵智商測試，發現 1975 年以後出生者成績開始下滑，降幅相當於每代約少 7 分；弗林本人亦曾在英國青少年身上觀察到類似下滑。兩邊尺度的差距令「人類能否看懂、核查並管住 AI」的問題更為迫切。

兩類風險並存

奧特曼指出，進入遞歸自我改進過程需同時防範兩類風險：一是人類失去對 AI 的控制，二是權力過度集中於某個人、某家公司或某個國家。他認為若只有 OpenAI 一家掌握相關技術亦非好事，應讓多家 AI 機構同台競爭。他亦坦言，打造超級智能令生活被精確排滿，隨性而為已成奢侈。

OpenAI 曾於 9 月 21 日強調，完全自主的遞歸自我改進尚未發生，在能確保安全之前不應強行推進；對齊研究須走在能力增長之前。10 月，奧特曼在另一訪談中表示，推進速度需要某種「限速」。衡量 AI 進步不能只算能力漲幅，還須計算人類能否及時插手。

AI 監察 AI

OpenAI 於 10 月 29 日公布前沿模型分層監測機制：第一層以輕量探針實時掃描模型內部激活信號；第二層由模型審閱智能體的對話、思維鏈與工具調用，識別說謊與越權；第三層由調查智能體回溯上下文，必要時在隔離沙箱取證；高危區域另設哨兵核對網絡日誌與系統記錄。

由於誤報無法做到全天候召喚人工，OpenAI 讓部分關鍵警報直接熔斷暫停任務，並推進 30 分鐘兜底機制：警報響起 30 分鐘內無人排除，相關活動即強制停機。當 AI 提出方案的速度快過人類理解與驗證的速度，風險便可能在時間差中累積。

驗證時間差

OpenAI 披露，AI 產出 Navier-Stokes 方程相關成果僅耗時約 88 小時，人類頂尖數學家核對至今近兩個月仍未有定論。未經驗證的突破在科學上等於零，若模型直接把未經消化的成果餵給下一代，循環便可能偏差，與 2024 年《自然》論文描述的模型崩潰現象相似。

該論文由牛津、劍橋等機構研究者發表，指出不加篩選地用 AI 生成內容訓練下一代模型，會留下不可逆缺陷，數據中的長尾部分最先消失；實驗中，一段中世紀建築文字訓練到第九代，輸出已變成長耳野兔名單。未來 AI 或承擔更多探索工作，但人類必須能看到證據、驗證結果並決定方向。