神经网络应用于IR相比于传统方法有了很好的提升，但是目前的方案都认为所有的query应该公用一个match function。如DSSM，先分别对query和doc做深层表示，然后两个表示的相似度作为match function，再如MatchPyramid和ARC-II，先对query和doc计算相似度矩阵，然后做深层卷积、pooling，最后接全连接输出做match function。
本文认为，实际上用户的query有时需要结合不同层次的匹配信息，有时候需要底层的word级别的match，有时更需要上层概念级别的匹配。因此提出多层抽象化的卷积模型（(MACM）来做文本匹配，主要贡献：
2018-08-28
之前调研过几天的nlp的关系提取任务，任务可以简单描述为给定一个一句话，包含两个或多个实体，希望输出两个或多个实体之间的关系。前些日子读到一篇利用强化学习解决相应问题的论文，很有意思，打算简单梳理一下其动机和方法。附上论文链接：Reinforcement Learning for Relation Classification from Noisy Data。
2018-06-15
承上，首先是Policy Based经典算法，基础的Policy Gradient以及它的进化版PPO等，下面内容主要参考李宏毅老湿的讲义与口述：
2018-05-30
偶然遇到一篇论文, 使用强化学习搞实体关系抽尝试取解决远程监督带来的数据噪声问题,由于之前调研过关系抽取相关的技术方法,瞬间感叹RL还可以这样用！虽然之前也了解过强化学习用在NLP上的一些方式，但一直是知道个思路，对RL具体技术方法仍然不甚了解。因此，工作之余，茶语饭后，刷了一些课程，读了一些书籍资料，并打算整理一波。
2018-05-20
很多时候使用seq2seq来解决序列生成问题，但seq2seq模型往往需要预先定义好输出集合的大小，即输出序列可能的取值范围。由此带来一个问题，如果期望生成的序列大小不确定，比如NLP中文本摘要任务，期望提取的摘要中可能包含“人名”和“地名”，而这种类型的词汇往往很可能不在训练语料的词表中出现，这种情况，seq2seq往往无法满足生成要求。Pointer Networks模型则是为了解决此类问题提出：
2018-04-01