建设工程网站资质人员查询,宜昌seo,自己做手机版网站制作,做网站就是做app模型介绍
在实体识别中#xff1a;使用了Bert模型#xff0c;CRF模型
在关系识别中#xff1a;使用了Bert模型的输出与实体掩码#xff0c;进行一系列变化#xff0c;得到关系
Bert模型介绍可以查看这篇文章#xff1a;nlp系列#xff08;2#xff09;文本分类…模型介绍
在实体识别中使用了Bert模型CRF模型
在关系识别中使用了Bert模型的输出与实体掩码进行一系列变化得到关系
Bert模型介绍可以查看这篇文章nlp系列2文本分类Bertpytorch_bert文本分类_牧子川的博客-CSDN博客
CRF模型介绍可以查看这篇文章
nlp系列6文本实体识别Bi-LSTMCRFpytorch_牧子川的博客-CSDN博客
模型结构
画了一个简易图 数据介绍
数据网址https://github.com/buppt//raw/master/data/people-relation/train.txthttps://github.com/buppt//raw/master/data/people-relation/train.txt 实体1 实体2 关系 文本 模型准备
将处理的数据通过bert模型计算得到两个实体的权重然后送入到CRF模型计算两个实体损失然后借鉴Bert模型的掩码将bert的输出与实体掩码及其计算得到关系的损失将两个损失相加得到模型的总损失。 def compute_loss(self, input_ids, attention_mask, tag_ids, sub_mask, obj_mask, labels, real_lengths):hidden_output, pooled_output self.get_features(input_ids, attention_mask)feats self.hidden2tag(hidden_output)total_scores self.get_total_scores(feats, real_lengths)gold_score self.get_golden_scores(feats, tag_ids, real_lengths)ner_loss torch.mean(total_scores - gold_score)relation_logits self.get_relation_logit(pooled_output, hidden_output, sub_mask, obj_mask)relation_loss self.criterion(relation_logits, labels)return ner_loss relation_loss
模型预测 文本
除演艺事业外李冰冰热心公益发起并亲自参与多项环保慈善活动积极投身其中身体力行担起了回馈社会的责任于02年出演《少年包青天》进入大家视线
预测结果
少年包青天 - 主演 - 李冰冰文本
马志舟1907年出生陕西三原人汉族中国共产党任红四团第一连连长1933年逝世
预测结果
马志舟 - 国籍 - 中国
马志舟 - 出生日期 - 1907年
马志舟 - 民族 - 汉族
马志舟 - 出生地 - 陕西三原 源码获取
BertCRF 三元组识别https://github.com/mzc421/Pytorch-NLP/tree/master/11-Bert%2BCRF%20%E4%B8%89%E5%85%83%E7%BB%84%E8%AF%86%E5%88%AB硬性的标准其实限制不了无限可能的我们所以啊少年们加油吧
