最近深度学习两巨头 Bengio 和 LeCun 在 ICLR 2020 上点名 Self-Supervised Learning（SSL，自监督学习） 是 AI 的未来，而其的代表的 Framework 便是 Contrastive Learning（CL，对比学习）。 另一巨头 Hinton 和 ...
分类：
其他好文 时间：
2021-06-02 20:26:20
阅读次数：
0
03:47ptz camera 13504-3 00:54tracking ball 8494-2 01:53perceptual_camera 4324-2 00:33eye_tracking 4094-2 01:16whiteborad testing 2254-2 00:45pose demo ...
分类：
其他好文 时间：
2020-11-07 17:05:08
阅读次数：
20
Google：inline Forward Caffe 作者:jiongnima 这个作者很懒，什么都没留下… 原创 干货！caffe源码深入学习9：caffe框架神经网络反传代码解析（三）之contrastive_loss_layer源码解析 本篇博客是Caffe深度学习梯度反传代码解析的第3篇。 ...
分类：
其他好文 时间：
2020-10-07 21:44:58
阅读次数：
42
Bai T., Chen J., Zhao J., Wen B., Jiang X., Kot A. Feature Distillation With Guided Adversarial Contrastive Learning. arXiv preprint arXiv 2009.09922, ...
分类：
其他好文 时间：
2020-10-06 20:26:39
阅读次数：
36
今天读到一篇KDD2020的论文，感觉很有启发，BERT的预训练在NLP领域已经很成功了，但在图嵌入领域还没有成功的预训练，这篇文章就解决了这个问题。 GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training 代码：htt ...
分类：
其他好文 时间：
2020-06-26 18:35:04
阅读次数：
114
Contrastive self supervised learning techniques are a promising class of methods that build representations by learning to encode what makes two thing ...
分类：
其他好文 时间：
2020-01-30 17:18:10
阅读次数：
1352
Notes on Noise Contrastive Estimation and Negative Sampling ## 生成负样本 在常见的关系抽取应用中，我们经常需要生成负样本来训练一个好的系统。如果没有负样本，系统会趋向于把所有的变量分类成正类。但是，在关系抽取中，并不容易找到足够的高质量 ...
分类：
其他好文 时间：
2018-04-04 18:09:27
阅读次数：
737
欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。
技术交流QQ群：433250724，欢迎对算法、技术、应用感兴趣的同学加入。
上篇讲到，如果用Gibbs Sampling方法来训练rbm会非常慢，本篇中介绍一下对比散度contrastive divergence， CD算法。
我们希望得到P(v)P(\textbf{v})分布下的样本，而我们有训...
分类：
其他好文 时间：
2015-04-26 00:04:25
阅读次数：
375
欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。
技术交流QQ群：433250724，欢迎对算法、技术、应用感兴趣的同学加入。
本篇重点讲一下RBM模型求解方法，其实用的依然是梯度上升方法，但是求解的方法需要用到随机采样的方法，常见的有：Gibbs Sampling和对比散度(contrastive divergence, CD)算法。
RBM...
分类：
其他好文 时间：
2015-04-23 00:04:29
阅读次数：
665
Restricted Boltzmann Machine 作为Deep Learning的一个基础模型，本文对模型构建方法、求解方法和评估方法进行简要介绍。...
分类：
系统相关 时间：
2014-12-24 21:32:22
阅读次数：
325
