会员服务
分散式表示即将语言表示为稠密、低维、连续的向量。 研究者最早发现学习得到词嵌入之间存在类比关系。比如apple−apples ≈ car−cars， man−woman ≈ king – queen 等。这些方法都可以直接在大规模无标注语料上进行训练。词嵌入的质量也非常依赖于上下文窗口大小的选择。通常大的上下文窗口学到的词嵌入更反映主题信息，而小的上下文窗口学到的词嵌入更反映词的功能和上下文语义信息。
ChatGPT大模型全栈技术讲解！霍普金斯最新《NLP：自监督模型》2023课程全面讲解预训练指令学习和RLHF等技术，附讲义
ChatGPT大模型全栈技术讲解！霍普金斯最新《NLP：自监督模型》2023课程全面讲解预训练指令学习和RLHF等技术，附讲义
专知
2+阅读 · 2023年4月8日
不拆分单词也可以做NLP，哈工大最新模型在多项任务中打败BERT，还能直接训练中文
不拆分单词也可以做NLP，哈工大最新模型在多项任务中打败BERT，还能直接训练中文
量子位
0+阅读 · 2022年2月28日
Embedding技术在商业搜索与推荐场景的实践
Embedding技术在商业搜索与推荐场景的实践
机器学习与推荐算法
0+阅读 · 2022年2月15日
选择大于努力：NLP工程师，凭什么一毕业就能拿30-50万年薪？
选择大于努力：NLP工程师，凭什么一毕业就能拿30-50万年薪？
PaperWeekly
1+阅读 · 2021年12月26日
3W字梳理! 推荐系统中的Embedding
3W字梳理! 推荐系统中的Embedding
图与推荐
0+阅读 · 2021年11月28日
【干货书】面向机器学习和数据分析的特征工程，附新书419页pdf
【干货书】面向机器学习和数据分析的特征工程，附新书419页pdf
专知
7+阅读 · 2021年11月28日
算法工程师养成记
算法工程师养成记
极市平台
0+阅读 · 2021年11月11日
可以写进简历的10个项目，网申通过率提升50%
可以写进简历的10个项目，网申通过率提升50%
图与推荐
2+阅读 · 2021年11月4日
强烈推荐十大NLP主流经典项目：预训练BERT、知识图谱、智能问答、机器翻译、文本自动生成等
强烈推荐十大NLP主流经典项目：预训练BERT、知识图谱、智能问答、机器翻译、文本自动生成等
PaperWeekly
0+阅读 · 2021年11月1日
谁说发 paper 一定要追快打新？2021年，研究 word2vec 也能中顶会！
谁说发 paper 一定要追快打新？2021年，研究 word2vec 也能中顶会！
夕小瑶的卖萌屋
0+阅读 · 2021年10月10日
引用次数在 19000 次+的，都是什么神仙论文？
引用次数在 19000 次+的，都是什么神仙论文？
夕小瑶的卖萌屋
0+阅读 · 2021年9月22日
NLP重铸篇之Word2vec
NLP重铸篇之Word2vec
AINLP
0+阅读 · 2020年12月8日
NLP.TM | 再看word2vector
NLP.TM | 再看word2vector
AINLP
0+阅读 · 2020年12月7日
参考链接
父主题
语言表示
微信扫码咨询专知VIP会员
Top