Info NCE
发布于 2022-12-05
概述 其中\tau是温度超参数。总数是一个正样本和K个负样本的总和。直观地说，这个损失是基于(K+1) softmax的分类器的对数损失，它试图将q分类为k_{+}。 设...
Posts
《Swin Transformer Hierarchical Vision Transformer using Shifted Windows》翻译
发布于 2022-11-30
摘要 本文提出了一个新的vision Transformer模型，称为Swin Transformer，它可以作为计算机视觉的一个通用骨干。将Transformer从自然语言处理运用到视觉的挑...
《Sampling-Bias-Corrected Neural Modeling for Large Corpus Item Recommendations》翻译
发布于 2022-11-24
摘要 许多推荐系统从一个非常大的语料库中召回和评分项目。处理数据稀疏和幂律项目分布（长尾分布）的一个常见方法是，从其内容特征中学习项目表征。除了许多...
《Deep Neural Networks for YouTube Recommendations》翻译
发布于 2022-11-24
摘要 YouTube代表了现有的规模最大、最复杂的工业推荐系统之一。在本文中，我们对该系统进行了高水平的描述，并重点介绍了深度学习带来的巨大性能改进。本文...
《Sentence-BERT Sentence Embeddings using Siamese BERT-Networks》翻译
发布于 2022-10-21
摘要 BERT（Devlin等人，2018）和RoBERTa（Liu等人，2019）在语义文本相似性（STS）等句对回归任务上创造了新的最先进性能。然而，它需要将两个句子都送入网...
《Self-Supervised Learning for Recommender Systems A Survey》翻译
发布于 2022-10-20
摘要 近年来，基于神经结构的推荐系统已经取得了巨大的成功。然而，在处理高度稀疏的数据时，它们仍然没有达到预期的效果。自监督学习（SSL），作为一种新兴...
《Deep Interest Evolution Network for Click-Through Rate Prediction》翻译
发布于 2022-09-28
摘要 点击率（CTR）的预测，其目标是估计用户点击项目的概率，已经成为广告系统的核心任务之一。 对于点击率预测模型，有必要捕捉用户行为数据背后的潜在用户...
《End-to-End Multi-Task Learning with Attention》翻译
发布于 2022-09-25
摘要 我们提出了一种新的多任务学习架构，它允许学习特定任务的特征级注意力。我们的设计，即多任务注意力网络（MTAN），由一个包含全局特征库的单一共享网络...
xDeepFm Tensorflow2.0实现
发布于 2022-08-31
import tensorflow as tf from keras import layers input_config = { 'category': [ # {'feature': 'hour', ...
