superposition

影片 · YouTube

MIT 團隊用特徵重疊解釋 LLM 加寬模型為什麼有效又會在哪裡碰到上限

MIT 團隊用特徵重疊解釋 LLM 的寬度擴展定律：模型加寬能減少表示干擾，但改善速度與最終上限都不等於「LLM 不會再進步」。