LLM-agents是基于大型语言模型的智能体系统，能够自主理解环境、制定计划并执行复杂任务的人工智能系统。随着2023年大语言模型的爆发式发展，LLM-agents作为连接通用人工智能与实际应用的关键桥梁，正成为学术界和工业界共同关注的热点领域。
LLM-agents 近期进展
2023年9月，arXiv上发布了多篇关于LLM-agents的前沿研究。程序图：LLM智能体的自进化执行结构提出了一个创新的框架，使智能体能够通过自我反思和迭代不断优化执行策略。MeClear：基于合作博弈归因的LLM智能体记忆清理则解决了智能体长期使用中记忆膨胀的问题，通过合作博弈理论优化了记忆管理机制。PlannerForge展示了LLM-agents在自动驾驶领域的应用潜力，该框架能够智能规划运动测试路径，提高了自动驾驶系统的安全性和可靠性。
当前焦点与观察点
LLM-agents领域目前面临的主要挑战是如何平衡自主性与可控性。研究表明，LLM-agents可能因虚假证据而产生过度自信的问题，这引发了关于智能体决策可靠性的讨论。同时，人格-执行分离架构模式被提出，通过将人格特征与执行功能分离，提高了智能体的可审计性和安全性。随着评估基准如KC-Bench和TraceBench的出现，LLM-agents的能力评估正在变得更加系统和全面，为该领域的健康发展提供了重要支撑。