AITOPAI热报
今日全部早读
地区
东盟中国趋势
外观
登录 / 注册
AITOPAI热报

多语语料库

共 1 条相关 AI 资讯
8月13日
17:43
17:43官方账号arXiv cs.AI@Avijit Roy, Proma Roy
论文以孟加拉语为例,分析AI教育工具在低连接环境中的结构性障碍。孟加拉语占全球人口近4%,但全球网页内容占比不足0.5%。主要多语语料库中,英语与孟加拉语的训练token比例达67:1。孟加拉语的元音附标文字还带来额外的token化惩罚,加剧数据短缺。农村地区个人互联网普及率为36.5%,城市为71.4%,形成连接排斥。
论文孟加拉语低资源语言tokenization

推荐理由:这篇论文讲孟加拉语在AI基建里的吃亏,67:1的token差距和36.5%的农村联网率是硬数据。
原文
今日全部早读东盟登录