把人类看成具身LLM智能体,就清楚为什么要睡觉了。 人的上下文窗口也有限,不能无限增长。 清醒时,不断接收感官 token、语言 token、情绪 token,工作记忆和注意力被事件占满。如果不定期压缩、摘要、丢弃无用信息,上下文会爆掉,注意力会被噪声淹没,推理变慢、幻觉变多。 睡眠就是一次上下文压
把人类看成具身LLM智能体,就清楚为什么要睡觉了。
人的上下文窗口也有限,不能无限增长。
清醒时,不断接收感官 token、语言 token、情绪 token,工作记忆和注意力被事件占满。如果不定期压缩、摘要、丢弃无用信息,上下文会爆掉,注意力会被噪声淹没,推理变慢、幻觉变多。
睡眠就是一次上下文压