创业公司探索LLM新架构
MIT Tech Review梳理多家创业公司押注Transformer之后的大模型架构方向。报道认为，随着上下文规模扩大，密集注意力机制在成本和长程信息跟踪上成为瓶颈，状态空间模型、混合架构等新思路可能提升LLM效率与可扩展性。
事件进展（1 篇报道）
-
2026-08-11 20:10
MIT Tech Review梳理多家创业公司押注Transformer之后的大模型架构方向。报道认为，随着上下文规模扩大，密集注意力机制在成本和长程信息跟踪上成为瓶颈，状态空间模型、混合架构等新思路可能提升LLM效率与可扩展性。