在文本中查找语义相关的命名实体

如何解决在文本中查找语义相关的命名实体

我有一组带有标记命名实体的文本文档，例如“人”、“组织”、“位置”、“产品”、“金额”、“价格”等。我已经对 BERT 进行了微调模型来识别这些命名实体。但是我还需要解决在文本中查找相关命名实体的问题。例如，假设我们有一段这样的文本：

嘿，杰克！有工作适合你。 大公司的Thomas Smith今天早上打来电话，以十五美元的价格订购了四块披萨 > 和 28 街的安迪点了寿司。

BERT 将在本文中找到以下命名实体及其位置：

• 杰克 - 人
• 托马斯·史密斯 - 人
• 大公司 - 组织
• 四 - 数量
• 披萨 - 产品
• 十五美元 - 价格
• 安迪 - 人
• 第 28 街 - 位置
• 寿司 - 产品

我需要一个模型，可以将这些实体分成组，其中包含语义相关的实体，如下所示：

• {杰克}
• {Thomas Smith，大公司，四个，披萨，十五美元}
• {安迪，第 28 街，寿司}

如果我有一个包含实体之间链接的训练数据集，是否有可能解决这样的问题？有没有可以在 BERT 模型嵌入之上使用的神经网络架构来解决这个问题？也许是图模型？

解决方法

在您的示例中，所有相关实体都在同一个句子中（但并非同一句子中的所有实体都相关）。

如果是这种情况，那么我建议将一个句子拆分为多个组件，并将属于同一组件的实体标记为相关。

要构建组件，您可以构建句子的语法依赖树，然后通过删除一些依赖边来切割树。例如，如果句子的主语不同，您可以将它们拆分为子句。

我使用 spacy 来查找实体并构建语法树（但 spacy 不会将产品名称识别为实体，因此您应该使用自己的 NER 模型）。此外，您可能想发明自己的规则来将句子分成几部分。

from collections import defaultdict
import spacy
nlp = spacy.load("en_core_web_sm")

text = "Hey,Jack! There is work for you. Thomas Smith of the Big Corporation called this morning and ordered four pizzas for fifteen dollars,and Andy on 28th Street ordered sushi."
doc = nlp(text)

def find_cluster(token):
    # this token is a head of a sentence
    if token.dep_ == 'ROOT' or token.head == token:
        return token.idx
    # this token is a head of autonomous sub-sentence
    if token.dep_ == 'conj' and any(child.dep_ == 'nsubj' for child in token.children):
        return token.idx
    return find_cluster(token.head)

clusters = defaultdict(list)
for e in doc.ents:
    clusters[find_cluster(e[0])].append(e)

for c in clusters.values():
    print(c)

预期输出为：

# [Jack]
# [Thomas Smith,the Big Corporation,this morning,four,fifteen dollars]
# [Andy,28th Street]