2022年2月


撰写于    浏览:436 次  分类: 默认分类
nn.LayerNorm 简介在Transformer中一般采用LayerNorm,LayerNorm也是归一化的一种方法,与BatchNorm不同的是它是对每单个batch进行的归一化,而BatchNorm是对所有batch一起进行归一化的,如下所示:nn.LayerNorm 参数介绍nn.LayerNorm(normalized_shape, [...]

撰写于    浏览:481 次  分类: 默认分类
在推荐系统的实现中,几乎总会遇到从较多候选集中为用户选取特定的少数几个物品进行推荐,这本质上是一个Ranking问题。BPR Loss是用得比较多的一种Raking Loss,它是基于Bayesian Personalized Ranking。BPR Loss 的思想很简单,就是让正样本和负样本的得分之差尽可能达到最大。具体公式如下:

撰写于    浏览:199 次  分类: Transformer 系列
Seq2Seq模型可以用于处理输入序列和输出序列长度不相同的问题。常用的场景有:机器翻译、语音识别和文字识别三个领域为例。1、机器翻译领域比如将“ABC”输入序列翻译成“WXYZ”输出序列。Seq2Seq模型可以处理输入序列和输出序列长度不同问题。2、语音识别在attention-based的Seq2Seq基础上,引入了混合attention机制,[...]

撰写于    浏览:174 次  分类: Transformer 系列
什么是Seq2Seq?所谓Seq2Seq(Sequence to Sequence),就是一种能够根据给定的序列,通过特定的方法生成另一个序列的方法。它被提出于2014年,最早由两篇文章独立地阐述了它主要思想,分别是Google Brain团队的《Sequence to Sequence Learning with Neural Networks》[...]

撰写于    浏览:248 次  分类: Transformer 系列
《Attention Is All You Need》是一篇Google提出的将Attention思想发挥到极致的论文。这篇论文中提出一个全新的模型,叫 Transformer,抛弃了以往深度学习任务里面使用到的CNN和RNN,这个模型广泛应用于NLP领域,例如机器翻译,问答系统,文本摘要和语音识别等等方向。《Attention Is All Yo[...]

撰写于    浏览:434 次  分类: 默认分类
1、封面介绍2、出版时间2021年11月3、推荐理由人工智能(Artificial Intelligence,AI)是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能的研究领域包括机器人、语音识别、图像识别、自然语言处理和专家系统等。机器学习就是用算法解析数据,不断学习,对世界中发生的事做出判断和预测的[...]

撰写于    浏览:449 次  分类: 默认分类
1、封面介绍2、出版时间2022年2月3、推荐理由认知的高度决定了你创造价值的高度,包括你对世界的认知及世界对你的认知。知识图谱与认知智能技术的发展,既孕育了圈层变更的机会,也带来了人、机器、企业如何协同与博弈的难题。本书总计12章,从理论到产业应用对知识图谱与认知智能进行了介绍。第1~7章围绕知识图谱与认知智能的需求,以用户、设备、企业为中心,讲[...]

撰写于    浏览:147 次  分类: 默认分类
1、封面介绍2、出版时间2021年10月3、推荐理由本书通俗地介绍人工智能(AI)和机器学习(ML):它们是如何工作的,能做什么,不能做什么,如何借助它们获利。这本书为非技术高管和非专业人士撰写。罗斯基于多年的教学和咨询经验,以直观的类比和解释揭开了AI/ML技术的神秘面纱,解释了从早期的“专家系统”到先进的深度学习网络的发展。首先,罗斯解释了人工[...]

撰写于    浏览:215 次  分类: 数据结构与算法电子书
1、封面介绍2、出版时间2021年11月3、推荐理由适读人群 :机器学习算法入门人员、高等院校机器学习和人工智能专业的学生、人工智能等领域机器学习研究者和应用人员湖南省普通高等学校教学改革研究项目的成果。提供11个微课配套教学视频,可以扫码在线观看。89个示例+6个综合案例+156个示意图+131道习题。提供大量习题、源代码、教学PPT、习题参考答[...]

撰写于    浏览:135 次  分类: 默认分类
1、封面介绍2、出版时间2021年11月3、推荐理由当前业界与学界流行的热词是人工智能、区块链、云计算、数据科学与大数据、物联网、虚拟现实,而人工智能则包含了机器学习与深度学习。三位深度学习之父Yoshua Bengio、Yann LeCun、Geoffrey Hinton因他们在神经计算领域的突出贡献而获得了2019年度计算机科学界的最高奖——图[...]

飞燕网
人工智能,资源分享

    友情链接