迁移学习(中科院计算所).pdf

发布时间：2022-06-19 发布人：admin 分类：说明书资料大小：3.59M 资料格式：pdf 举报版权申诉

177ffda9-bf26-4c99-a731-9d5e103e61b4.pdf-第1页.png

第1页 / 共51页

177ffda9-bf26-4c99-a731-9d5e103e61b4.pdf-第2页.png

第2页 / 共51页

177ffda9-bf26-4c99-a731-9d5e103e61b4.pdf-第3页.png

第3页 / 共51页

177ffda9-bf26-4c99-a731-9d5e103e61b4.pdf-第4页.png

第4页 / 共51页

177ffda9-bf26-4c99-a731-9d5e103e61b4.pdf-第5页.png

第5页 / 共51页

177ffda9-bf26-4c99-a731-9d5e103e61b4.pdf-第6页.png

第6页 / 共51页

177ffda9-bf26-4c99-a731-9d5e103e61b4.pdf-第7页.png

第7页 / 共51页

177ffda9-bf26-4c99-a731-9d5e103e61b4.pdf-第8页.png

第8页 / 共51页

文本预览

一二三四五迁移学习简介迁移学习的分类方法代表性研究工作问题与展望迁移学习资源

一迁移学习简介 • 定义与概念 • 迁移学习 vs 传统机器学习 • 与其他概念的对比

迁移学习将会是引领下一次机器学习热潮的驱动力。——吴恩达,NIPS 2016

• 什么是迁移学习？ – 心理学角度：人们利用之前的经验和知识进行推理和学习的能力。 – 机器学习角度：一个系统将别的相关领域中的知识应用到本应用中的学习模式。[DARPA] – 举例：C++Java；骑自行车骑摩托车 – 关键词：举一反三 • 迁移学习要解决的问题： – 给定一个研究领域和任务，如何利用相似领域进行知识的迁移，从而达成目标？

• 为什么要进行迁移学习？ – 数据的标签很难获取 – 从头建立模型是复杂和耗时的对已有知识的重用是必要的

• 迁移学习 vs 传统机器学习传统机器学习迁移学习数据分布训练和测试数据同分布数据标签足够的数据标注建模每个任务分别建模训练和测试数据不需要同分布不需要足够的数据标注可以重用之前的模型传统机器学习迁移学习

• 与其他概念的对比 – Life-long learning (终身学习) :连续不断地在一个域上学习 – Multi-task learning (多任务学习)：两个任务同时完成 – Domain adaptation (域适配)：迁移学习的子类 – Incremental learning (增量学习)：一个域上的不断学习 – Self-taught learning (自我学习)：从自身数据中学习 – Covariance shift (协方差漂移)：迁移学习的子类 – …… • 迁移学习与其他已有概念相比，着重强调学习任务之间的相关性，并利用这种相关性完成知识之间的迁移。

分享到：

赞收藏

资料库

迁移学习(中科院计算所).pdf

相关推荐

人工智能

热门标签

最新资料