"Large"在科技领域通常指代大规模系统或模型,特别是近年来快速发展的大型语言模型(LLMs)和大规模数据处理系统。这些系统凭借其处理海量数据和执行复杂任务的能力,正在重塑人工智能和通信技术格局。
Large 近期进展
当前焦点与观察点
大型语言模型正面临可靠性挑战。图灵奖得主Gary Marcus指出,当前LLMs可能无法真正进行科学发现,这引发了关于大规模AI系统认知能力的深度讨论。MIT与哈佛新论文:LLM无法真正进行科学发现
多模态大型语言模型的视觉空间规划也取得进展,研究人员提出了符合规则的视觉空间规划方法,这将增强大规模AI系统对物理世界的理解。Rule-Compliant Visual Spatial Planning for Multimodal Large Language Models
为优化大规模模型训练,MIT团队开发了MALT轻量级曲率感知Muon优化器,该技术在保持高性能的同时显著降低了计算资源需求。MALT:轻量级曲率感知Muon优化器
在低资源语言处理方面,OpenAI团队推出了KinyaEmbed模型,专门针对基尼亚万达语的对比句嵌入,展示了大型语言模型在语言多样性保护方面的潜力。KinyaEmbed:基尼亚万达语对比句嵌入模型