為什麼我仍然不認為真正的遞歸自我改進(RSI)已經來臨
AI 溫和派對前沿模型發展軌跡與遞歸自我改進的深度觀點。
• 舊金山 AI 圈與頂尖實驗室的競爭文化放大了從業人員對 AI 進展的焦慮,導致許多人過度高估技術奇異點的到來時程。 • 作者認為,目前的 AI 發展更符合「有損自我改進(lossy self-improvement)」,而非真正能帶來指數級加速的 RSI。 • 由於自動化研究範圍狹隘、平行代理人的效益遞減,以及建構大模型的資源瓶頸和政治因素,純粹的推理規模化無法輕易突破上限。
「智慧的崎嶇性意味著我們需要討論具體、可衡量任務的閾值,而非將 AI 視為能直接跨越人類職位的單一個體。」 • 雖然大規模的 推理時擴展(inference-time scaling) 能在短期內透過代理人蜂群解決可驗證的明確問題,但科學研究中的假設生成與直覺建立仍受限於人類的溝通與理解瓶頸。 • 專家對於白領工作自動化與通用人工智慧(ASI)的時程預測分歧,顯示 AI 能力的普及將是一個緩慢且存在長尾效應的擴散過程,而非瞬間爆發。
來源:Interconnects
閱讀原文 ↗