代码之家 › 专栏 › 技术社区 › Olexander Korenyuk

如何找到一个段落的上下文,借助于BERT?

nlp

Olexander Korenyuk · 技术社区 · 7 年前

我正在寻找一种方法来运行一个简单的例子。如何使用google BERT分析上下文? https://github.com/google-research/bert 例如,我有一段维基百科文本,还有来自谷歌的预先训练过的伯特模型。如何将段落传递给BERT并获得主要上下文的文本表示? 谢谢

我们有一段

https://github.com/google-research/bert 例如,我有一段维基百科文本,还有来自谷歌的预先训练过的伯特模型。如何将段落传递给BERT并获得主要上下文的文本表示?谢谢"

对我来说,问题是如何教模型从其他句子中提取主句^上面的例子。

另一个问题:如何处理大于512个令牌的文档?

谢谢

1 回复 | 直到 7 年前

Razzaghnoori 7 年前

他们已经在团队数据集上训练了它,用于问答任务,这是一个序列到序列的任务,就像你的任务一样。因此,您可以使用适当的数据集(可能是文本摘要)对其进行微调。

推荐文章

thenightmarechild92 · 使用正则表达式拆分具有唯一标题的子节

2 年前

lucasa.lisboa · 无法从“huggingface_hub”导入名称“split_torch_state_dict_into_shards”

2 年前

Zoltan Hernyak · C#中的英文文本标记化不是python是可能的吗?

2 年前

Toothpick Anemone · 字母“i”本身的正则表达式是什么?

2 年前

me0076 · 使用LLM提取多个实体

2 年前

Franck Dernoncourt · 当测试字符串100%包含查询字符串时,为什么fuzzywuzzy的process.extractBests不能给出100%的分数?

2 年前

jstark523 · 试图为我的应用程序找出最佳LLM选项

2 年前

lyanna · 检测同词句子的语义相异性

2 年前

Yash Babel · Microsoft Copilot-与Excel集成

3 年前

chetan sharma · 从每一行和a)、b)、c)、d)中删除,列类型为pandas.core.series。系列

3 年前