会员服务
语言模型化 · entity · MoDELS · 命名实体识别 · 集成 ·
2022 年 12 月 14 日
VTCC-NLP at NL4Opt competition subtask 1: An Ensemble Pre-trained language models for Named Entity Recognition
翻译：NL4Opt竞争竞争子任务1:为名称实体的识别而合并的预先培训语言模型
Xuan-Dung Doan
Xuan-Dung Doan

We propose a combined three pre-trained language models (XLM-R, BART, and DeBERTa-V3) as an empower of contextualized embedding for named entity recognition. Our model achieves a 92.9% F1 score on the test set and ranks 5th on the leaderboard at NL4Opt competition subtask 1.


翻译：我们建议合并三种经过培训的语言模式(XLM-R、BART和DBERTA-V3),作为用于确定名称实体识别的背景化嵌入功能。 我们的模式在测试组中获得了92.9%的F1分,并在NL4Opt竞争分数1的领先板上排名第五。
0
下载
关闭预览

相关内容

NeurlPS 2022 | 自然语言处理相关论文分类整理
NeurlPS 2022 | 自然语言处理相关论文分类整理
专知会员服务
48+阅读 · 2022年10月2日
零样本文本分类，Zero-Shot Learning for Text Classification
零样本文本分类，Zero-Shot Learning for Text Classification
专知会员服务
95+阅读 · 2020年5月31日
【ACL2020】命名实体识别即依存解析，Named Entity Recognition as Dependency Parsing
【ACL2020】命名实体识别即依存解析，Named Entity Recognition as Dependency Parsing
专知会员服务
60+阅读 · 2020年5月15日
【2020新书】自然语言处理Python与spaCy实践，216页pdf，NLP with Python
【2020新书】自然语言处理Python与spaCy实践，216页pdf，NLP with Python
专知会员服务
105+阅读 · 2020年5月1日
【知识图谱嵌入补全综述论文】embedding models for knowledge base completion
【知识图谱嵌入补全综述论文】embedding models for knowledge base completion
专知会员服务
100+阅读 · 2020年4月25日
20篇「ACL2020」最新论文抢先看！看自然语言处理2020在研究什么？
20篇「ACL2020」最新论文抢先看！看自然语言处理2020在研究什么？
专知会员服务
96+阅读 · 2020年4月10日
【微软研究院】IMAGEBERT: CROSS-MODAL PRE-TRAINING WITH LARGE-SCALE WEAK-SUPERVISED IMAGE-TEXT DATA
【微软研究院】IMAGEBERT: CROSS-MODAL PRE-TRAINING WITH LARGE-SCALE WEAK-SUPERVISED IMAGE-TEXT DATA
专知会员服务
42+阅读 · 2020年1月28日
【论文】使用编码器进行命名实体识别（TENER: Adapting Transformer Encoder for Named Entity Recognition）
【论文】使用编码器进行命名实体识别（TENER: Adapting Transformer Encoder for Named Entity Recognition）
专知会员服务
51+阅读 · 2019年12月28日
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
专知会员服务
56+阅读 · 2019年10月17日
[综述]深度学习下的场景文本检测与识别
[综述]深度学习下的场景文本检测与识别
专知会员服务
77+阅读 · 2019年10月10日
VCIP 2022 Call for Demos
VCIP 2022 Call for Demos
CCF多媒体专委会
1+阅读 · 2022年6月6日
VCIP 2022 Call for Special Session Proposals
VCIP 2022 Call for Special Session Proposals
CCF多媒体专委会
1+阅读 · 2022年4月1日
IEEE ICKG 2022: Call for Papers
IEEE ICKG 2022: Call for Papers
机器学习与推荐算法
3+阅读 · 2022年3月30日
NLP的“第四范式”之Prompt Learning总结：44篇论文逐一梳理
NLP的“第四范式”之Prompt Learning总结：44篇论文逐一梳理
PaperWeekly
2+阅读 · 2021年10月24日
RoBERTa for Chinese：大规模中文预训练RoBERTa模型
RoBERTa for Chinese：大规模中文预训练RoBERTa模型
AINLP
30+阅读 · 2019年9月8日
Hierarchically Structured Meta-learning
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
NLP - 基于 BERT 的中文命名实体识别（NER)
NLP - 基于 BERT 的中文命名实体识别（NER)
AINLP
466+阅读 · 2019年2月10日
Unsupervised Learning via Meta-Learning
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
【论文推荐】最新六篇知识图谱相关论文—Zero-shot识别、卷积二维知识图谱、变分知识图谱推理、张量分解、推荐
【论文推荐】最新六篇知识图谱相关论文—Zero-shot识别、卷积二维知识图谱、变分知识图谱推理、张量分解、推荐
专知
50+阅读 · 2018年4月25日
过渡金属催化的硼化，分子内环化，硼官能团迁移串联反应研究
国家自然科学基金
0+阅读 · 2015年12月31日
基于神经网络的跨语言实体链指研究
国家自然科学基金
4+阅读 · 2015年12月31日
基于神经网络的新疆棉花秸秆高效酶解糖化研究
国家自然科学基金
0+阅读 · 2014年12月31日
管束结构流固耦合振动及失稳机理研究
国家自然科学基金
0+阅读 · 2013年12月31日
基于天然产物Drimenal的新型杀菌剂分子设计、合成及构效关系研究
国家自然科学基金
0+阅读 · 2013年12月31日
基于耳蜗音频分布特性的声调语言提取方案对人工耳蜗使用者汉语识别和音乐感知能力影响的研究
国家自然科学基金
0+阅读 · 2012年12月31日
虾青素/环糊精超分子体系的主客体识别机理研究
国家自然科学基金
0+阅读 · 2012年12月31日
TWIST在胃癌多药耐药中的作用及分子机制
国家自然科学基金
0+阅读 · 2012年12月31日
锂原子低激发态精细结构的精密计算
国家自然科学基金
0+阅读 · 2012年12月31日
嘌呤类核苷新化合物的合成和方法学研究
国家自然科学基金
0+阅读 · 2008年12月31日
Dictionary-based Phrase-level Prompting of Large Language Models for Machine Translation
Arxiv
0+阅读 · 2023年2月15日
Stabilized In-Context Learning with Pre-trained Language Models for Few Shot Dialogue State Tracking
Arxiv
0+阅读 · 2023年2月12日
Span-based Named Entity Recognition by Generating and Compressing Information
Arxiv
0+阅读 · 2023年2月10日
ViDeBERTa: A powerful pre-trained language model for Vietnamese
Arxiv
0+阅读 · 2023年2月10日
Watermarking Pre-trained Language Models with Backdooring
Arxiv
0+阅读 · 2023年2月10日
Text recognition on images using pre-trained CNN
Arxiv
0+阅读 · 2023年2月10日
Conditional Prompt Learning for Vision-Language Models
Conditional Prompt Learning for Vision-Language Models
Arxiv
13+阅读 · 2022年3月10日
K-AID: Enhancing Pre-trained Language Models with Domain Knowledge for Question Answering
Arxiv
15+阅读 · 2021年9月22日
Making Pre-trained Language Models Better Few-shot Learners
Arxiv
14+阅读 · 2020年12月31日
Improving Knowledge-aware Dialogue Generation via Knowledge Base Question Answering
Arxiv
16+阅读 · 2019年12月16日
VIP会员
文章信息
前往arXiv
下载PDF
相关主题
语言模型化
entity
MoDELS
命名实体识别
集成
相关VIP内容
NeurlPS 2022 | 自然语言处理相关论文分类整理
NeurlPS 2022 | 自然语言处理相关论文分类整理
专知会员服务
48+阅读 · 2022年10月2日
零样本文本分类，Zero-Shot Learning for Text Classification
零样本文本分类，Zero-Shot Learning for Text Classification
专知会员服务
95+阅读 · 2020年5月31日
【ACL2020】命名实体识别即依存解析，Named Entity Recognition as Dependency Parsing
【ACL2020】命名实体识别即依存解析，Named Entity Recognition as Dependency Parsing
专知会员服务
60+阅读 · 2020年5月15日
【2020新书】自然语言处理Python与spaCy实践，216页pdf，NLP with Python
【2020新书】自然语言处理Python与spaCy实践，216页pdf，NLP with Python
专知会员服务
105+阅读 · 2020年5月1日
【知识图谱嵌入补全综述论文】embedding models for knowledge base completion
【知识图谱嵌入补全综述论文】embedding models for knowledge base completion
专知会员服务
100+阅读 · 2020年4月25日
20篇「ACL2020」最新论文抢先看！看自然语言处理2020在研究什么？
20篇「ACL2020」最新论文抢先看！看自然语言处理2020在研究什么？
专知会员服务
96+阅读 · 2020年4月10日
【微软研究院】IMAGEBERT: CROSS-MODAL PRE-TRAINING WITH LARGE-SCALE WEAK-SUPERVISED IMAGE-TEXT DATA
【微软研究院】IMAGEBERT: CROSS-MODAL PRE-TRAINING WITH LARGE-SCALE WEAK-SUPERVISED IMAGE-TEXT DATA
专知会员服务
42+阅读 · 2020年1月28日
【论文】使用编码器进行命名实体识别（TENER: Adapting Transformer Encoder for Named Entity Recognition）
【论文】使用编码器进行命名实体识别（TENER: Adapting Transformer Encoder for Named Entity Recognition）
专知会员服务
51+阅读 · 2019年12月28日
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
专知会员服务
56+阅读 · 2019年10月17日
[综述]深度学习下的场景文本检测与识别
[综述]深度学习下的场景文本检测与识别
专知会员服务
77+阅读 · 2019年10月10日
热门VIP内容
相关资讯
VCIP 2022 Call for Demos
VCIP 2022 Call for Demos
CCF多媒体专委会
1+阅读 · 2022年6月6日
VCIP 2022 Call for Special Session Proposals
VCIP 2022 Call for Special Session Proposals
CCF多媒体专委会
1+阅读 · 2022年4月1日
IEEE ICKG 2022: Call for Papers
IEEE ICKG 2022: Call for Papers
机器学习与推荐算法
3+阅读 · 2022年3月30日
NLP的“第四范式”之Prompt Learning总结：44篇论文逐一梳理
NLP的“第四范式”之Prompt Learning总结：44篇论文逐一梳理
PaperWeekly
2+阅读 · 2021年10月24日
RoBERTa for Chinese：大规模中文预训练RoBERTa模型
RoBERTa for Chinese：大规模中文预训练RoBERTa模型
AINLP
30+阅读 · 2019年9月8日
Hierarchically Structured Meta-learning
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
NLP - 基于 BERT 的中文命名实体识别（NER)
NLP - 基于 BERT 的中文命名实体识别（NER)
AINLP
466+阅读 · 2019年2月10日
Unsupervised Learning via Meta-Learning
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
【论文推荐】最新六篇知识图谱相关论文—Zero-shot识别、卷积二维知识图谱、变分知识图谱推理、张量分解、推荐
【论文推荐】最新六篇知识图谱相关论文—Zero-shot识别、卷积二维知识图谱、变分知识图谱推理、张量分解、推荐
专知
50+阅读 · 2018年4月25日
相关论文
Dictionary-based Phrase-level Prompting of Large Language Models for Machine Translation
Arxiv
0+阅读 · 2023年2月15日
Stabilized In-Context Learning with Pre-trained Language Models for Few Shot Dialogue State Tracking
Arxiv
0+阅读 · 2023年2月12日
Span-based Named Entity Recognition by Generating and Compressing Information
Arxiv
0+阅读 · 2023年2月10日
ViDeBERTa: A powerful pre-trained language model for Vietnamese
Arxiv
0+阅读 · 2023年2月10日
Watermarking Pre-trained Language Models with Backdooring
Arxiv
0+阅读 · 2023年2月10日
Text recognition on images using pre-trained CNN
Arxiv
0+阅读 · 2023年2月10日
Conditional Prompt Learning for Vision-Language Models
Conditional Prompt Learning for Vision-Language Models
Arxiv
13+阅读 · 2022年3月10日
K-AID: Enhancing Pre-trained Language Models with Domain Knowledge for Question Answering
Arxiv
15+阅读 · 2021年9月22日
Making Pre-trained Language Models Better Few-shot Learners
Arxiv
14+阅读 · 2020年12月31日
Improving Knowledge-aware Dialogue Generation via Knowledge Base Question Answering
Arxiv
16+阅读 · 2019年12月16日
相关基金
过渡金属催化的硼化，分子内环化，硼官能团迁移串联反应研究
国家自然科学基金
0+阅读 · 2015年12月31日
基于神经网络的跨语言实体链指研究
国家自然科学基金
4+阅读 · 2015年12月31日
基于神经网络的新疆棉花秸秆高效酶解糖化研究
国家自然科学基金
0+阅读 · 2014年12月31日
管束结构流固耦合振动及失稳机理研究
国家自然科学基金
0+阅读 · 2013年12月31日
基于天然产物Drimenal的新型杀菌剂分子设计、合成及构效关系研究
国家自然科学基金
0+阅读 · 2013年12月31日
基于耳蜗音频分布特性的声调语言提取方案对人工耳蜗使用者汉语识别和音乐感知能力影响的研究
国家自然科学基金
0+阅读 · 2012年12月31日
虾青素/环糊精超分子体系的主客体识别机理研究
国家自然科学基金
0+阅读 · 2012年12月31日
TWIST在胃癌多药耐药中的作用及分子机制
国家自然科学基金
0+阅读 · 2012年12月31日
锂原子低激发态精细结构的精密计算
国家自然科学基金
0+阅读 · 2012年12月31日
嘌呤类核苷新化合物的合成和方法学研究
国家自然科学基金
0+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员
Top