第三代半导体 node.js package Spring Cloud session orm vue状态管理 查看nodejs版本 css选择器有几种 matlab不等于怎么表示 单片机开发板工作原理 kafka启动命令 python基础知识 python写入文件 java案例 java中scanner java接口类 java基本数据结构 linux系统如何安装 手机电脑模拟器 ansys安装教程 暴力猴插件 linux系统下载 例外被抛出且未被接住 中文微信小程序API 手机刷机助手 flash引导层动画 cad怎么拉伸 拼多多推广软件 ppt分节 acpi是什么 移动硬盘检测工具 资源管理器在哪 存档转换器 stylist 影音盒子 机箱散热风扇安装方向 excel怎么移动行 ps工作区不见了 word图片背景透明
当前位置: 首页 > 学习教程  > 编程语言

全连接网络的设计--- 具有注意力机制的多层感知机(Deep Interest Network)

2020/10/16 18:26:09 文章标签:

这是一篇阿里做点击率预估的文章。点击率预估用的数据通常是一些特征数据,包括一些历史行为数据、属性数据等。 这里主要讲网络的设计,所以直接看网络结构: 网络 先看图片的左边的网络,这是一个非常普通的结构,没有…

这是一篇阿里做点击率预估的文章。点击率预估用的数据通常是一些特征数据,包括一些历史行为数据、属性数据等。

这里主要讲网络的设计,所以直接看网络结构
在这里插入图片描述

网络

先看图片的左边的网络,这是一个非常普通的结构,没有加注意力(attention)结构。可以看到这个网络包括这些东西:

  1. group wise,即特征分组,然后分组提取特征,最后做concat;
  2. 这里看不到的,将系数向量转换为embedding 向量。
  3. 通过pooling来讲长度不固定的向量,转换到固定长度的向量。

右边的网络增加了注意力模块。

  • 通过候选广告和历史行为,对历史行为进行加权;
  • 这个注意力是一个分支一个权重,并且不需要权重相加为1,每个权重独立。
  • DIN通过引入本地激活单元,通过软搜索历史行为的相关部分来关注用户的相关兴趣,并采用加权和池的方法得到用户对候选广告的兴趣表示。与候选广告相关性高的行为会得到更高的激活权重,并主导用户兴趣的表现。
  • 因为有些分支和结果可能忘全无关。但是如果不加注意力,那么权重就已经固定了。

本文链接: http://www.dtmao.cc/news_show_300428.shtml

附件下载

上一篇:QT配置使用C++11

下一篇:python程序打包

相关教程

    暂无相关的数据...

共有条评论 网友评论

验证码: 看不清楚?