it之家的小伙伴们可能都有设想过,如果用 ai 生成的结果来训练 ai,进行“套娃式训练”,能得到什么样的结果?目前还真有研究团队对此进行了观察记录,一句话总结 —— “在训练中使用模型生成的内容,将导致后续生成的模型出现不可逆转的缺陷”,说人话就是研究人员发现“用 ai 生成的结果训练 ai,只会让模型变得越来越差”。
deepmind、普林斯顿大学和斯坦福大学的研究人员近日提出了一项名为latm(llms as tool makers)的创新框架,该框架可以让模型自己生成软件工具来处理新任务。并将具备高强度算力才能实现的工具制造过程分配给功能强大、资源密集型的模型;而将相对简单的使用工具过程分配给轻量级、经济高效的模型,以最大程度提升框架效率。