Cost-Aware Stopping for Freeze-Thaw 贝叶斯优化:一步前瞻何时足够
做超参搜索老是被预算卡住的可以看看:这篇论文给出一个基于期望改进的停止规则,还教你用两步前瞻证书判断是不是停早了。
做超参搜索老是被预算卡住的可以看看:这篇论文给出一个基于期望改进的停止规则,还教你用两步前瞻证书判断是不是停早了。
训练 DPO 的朋友可以看看:学习率要按模型大小重新调,验证损失也不靠谱,文章还给了一套省算力的调参方法。
想用Ax调超参数?这篇手把手教你配搜索空间、跑自适应实验,比随机搜索省事。
做生物信息学或组学数据降维的团队,终于有了一个标准化的 HPO 测试场——BBOmix 帮你省去从头调参的试错成本,做自编码器研究的可以直接用它验证方法。