BERT 不能做什么？
Posted: Sun Jun 15, 2025 5:40 am
周五查看这块白板，了解有关无监督模型的更多背景信息。
Alison Ettinger 写了一篇非常棒的研究论文，名为《BERT 不能做什么》。他的研究中最令人惊讶的方面之一就是否定评估这个领域，这意味着 BERT 不太擅长理解否定或不存在的事物。
例如，当插入知更鸟时……它预测会有一只鸟，这是正确的，这很好。但是当输 阿塞拜疆 WhatsApp 号码数据库 入知更鸟时，它却没有……他还预测了鸟。所以，即使 BERT 没有遇到否定的情况或语境，它仍然很难理解。Alison 的研究有很多更有趣的结论，强烈推荐你去看看。
如何针对 BERT 进行优化？（你不能！）
最后，如何针对 BERT 进行优化？同样，你无法做到。通过此更新改进网站的唯一方法是为你的客户编写真正优质的内容，并满足他们的需求。
帮助您更好地理解和撰写 NLP 的优秀资源是 Brigsby 的 NLP 页面 SEO 文章。
谷歌理解自然查询的能力不断增强
我唯一要提一下的，因为我真的忘不掉，是谷歌 Jeff Dean 的这个主题演讲。他先讲了 BERT，然后讲解了自然主义问题以及如何理解自然主义问题。对我来说，最大的收获是这个例子：假设有人问：“飞行模式下可以拨打和接听电话吗？”
Alison Ettinger 写了一篇非常棒的研究论文，名为《BERT 不能做什么》。他的研究中最令人惊讶的方面之一就是否定评估这个领域，这意味着 BERT 不太擅长理解否定或不存在的事物。
例如，当插入知更鸟时……它预测会有一只鸟，这是正确的，这很好。但是当输 阿塞拜疆 WhatsApp 号码数据库 入知更鸟时，它却没有……他还预测了鸟。所以，即使 BERT 没有遇到否定的情况或语境，它仍然很难理解。Alison 的研究有很多更有趣的结论，强烈推荐你去看看。
如何针对 BERT 进行优化？（你不能！）
最后，如何针对 BERT 进行优化？同样，你无法做到。通过此更新改进网站的唯一方法是为你的客户编写真正优质的内容，并满足他们的需求。
帮助您更好地理解和撰写 NLP 的优秀资源是 Brigsby 的 NLP 页面 SEO 文章。
谷歌理解自然查询的能力不断增强
我唯一要提一下的，因为我真的忘不掉，是谷歌 Jeff Dean 的这个主题演讲。他先讲了 BERT，然后讲解了自然主义问题以及如何理解自然主义问题。对我来说，最大的收获是这个例子：假设有人问：“飞行模式下可以拨打和接听电话吗？”