清华姚班校友等揭Transformer致命缺陷，OpenAI科学家紧急回应：学术界节奏太慢

新智元报道指出，近期关于Transformer架构的论文再次引发热议，研究表明Transformer在处理组合性任务时存在根本性限制，如GPT-4在四位数乘法运算中的正确率仅为4%。尽管OpenAI和DeepMind的研究人员对此进行了回应，但研究结果表明现有LLM在复杂推理任务中表现不佳，可能存在难以逾越的计算瓶颈。