乐胖代购免代理版

欢迎

再介绍一篇最新的Contrastive Self-supervised Learning综述论文

作者 | 对白对白的算法屋自监督学习（Self-supervised learning）最近获得了很多关注，因为其可以避免对数据集进行大量的标签标注。它可以把自己定义的伪标签当作训练的信号，然后把学习到的表示（representation）用作下游任务里。最近，对比学习被当作自监督学习中一个非常重要的一部分，被广泛运用在计算机视觉、自然语言处理等领域。它的目标是：将一个样本的不同的、增强过的新样本

面试

职场和发展

java

数据

监督学习

原创 2022-04-20 17:50:28 194 阅读

2021最新对比学习（Contrastive Learning）在各大顶会上的经典必读论文解读

作者|对白公众号：对白的算法屋我为大家整理了对比学习在最新各大顶会上的论文合集及相应代码，所列举的论文涉及领域包括但不限于CV, NLP, Audio, Video, Multimodal, Graph, Language model等，GitHub地址：https://github.com/coder-duibai/Contrastive-Learning-Papers-Codes（请大家多多点

面试

职场和发展

java

数据

数据集

原创 2022-04-20 17:50:00 201 阅读

对比学习（Contrastive Learning）在CV与NLP领域中的研究进展

对比学习方法（CV）对比学习要做什么？有监督训练的典型问题，就是标注数据是有限的。目前NLP领域的经验，自监督预训练使用的数据量越大，模型越复杂，那么模型能够吸收的知识越多，对下游任务效果来说越好。这可能是自从Bert出现以来，一再被反复证明。所以对比学习的出现，是图像领域为了解决“在没有更大标注数据集的情况下，如何采用自监督预训练模式，来从中吸取图像本身的先验知识分布，得到一个预训练的模型”。对

面试

职场和发展

java

数据

正例

原创 2022-04-20 17:48:25 922 阅读

ICLR2021对比学习（Contrastive Learning）NLP领域论文进展梳理

|对白公众号：对白的算法屋大家好，我是对白。本次我挑选了ICLR2021中NLP领域下的六篇文章进行解读，包含了文本生成、自然语言理解、预训练语言模型训练和去偏、以及文本匹配和文本检索。从这些论文的思想中借鉴了一些idea用于公司自身的业务中，最终起到了一个不错的效果。Contrastive Learning with Adversarial Perturbations for Conditi

职场和发展

语言模型

数据

文本检索

原创 2022-04-20 17:47:48 1033 阅读

深度学习Loss合集：一文详解Contrastive Loss/Ranking Loss/Triplet Loss等区别与联系

| Raúl Gómez整理 | 对白的算法屋编者寄语：看完，相信你会掌握它们的区别与。大家好，我是对白。Ranking Loss被用于很多领域和神经网络任务中（如孪生网络Siamese Nets 或 Triplet Nets），这也是它为什么拥有 Contrastive Loss、Margin Loss、Hinge Loss 或 Triplet Loss 等这么多名字的原因。下面

面试

职场和发展

java

边距

数据

原创 2022-04-20 17:47:23 2839 阅读

百余署名AI论文被爆抄袭智源现已致歉

2022年4月初，一起AI界的学术不端事件可谓是「引爆」了整个学术圈。涉及到的100位，无一不是业内大佬。知乎讨论也从第一天最初的几万浏览量，飞涨到了现在的600多万。对此，我们可以引用知乎用户、伦敦玛丽皇后大学学子「谢圜不是真名」的一句话来进行总结：「学术声誉的建立是一辈子的事情，然而要推倒只需要一瞬间。」智源官方宣布道歉=================2022年4月13日晚，智源研究院作

职场和发展

java

面试

复制粘贴

数据集

原创 2022-04-20 15:21:06 6550 阅读

获奖了11

分享一点喜悦和获奖心得~大家好，我是对白。前段时间，公司内部举办了2021年度美团荣誉盛典，旨在表彰那些在过去一年时间里，为公司以及部门创造巨大价值，带来较高收益的项目。参与评选的项目，首先需要通过自主提报、经过各级leader层层评审后，还需要经过几轮项目答辩，才能决定是否入围。因此整个评选颇为严格，最终获奖的项目也是屈指可数。我本来没打算参加的，因为能入围公司荣誉盛典里的项目，不仅要做得好，能

面试

java

职场和发展

无人机

微信

原创 2022-04-19 17:09:37 133 阅读

真的无语，MSRA连国防七子及北邮学生都不招了

杨净 | 编辑：Jack Cui微软亚洲研究院——MSRA，被曝停招国防七子高校及北邮的学生！直白说，北京理工大学，北京航空航天大学，南京理工大学，南京航空航天大学，哈尔滨工业大学，哈尔滨工程大学、西北工业大学，以及北京邮电大学的学生，之后将难以进入MSRA实习，至于校招和就业是否也会受影响，尚未可知。随着更多的网友爆料显示，此次MSRA停招不仅包括上述学生，还包含所有实体清单上的大学。比如：西

面试

职场和发展

java

知乎

无人机

原创 2022-04-19 17:09:12 305 阅读

整个部门就一个研发？

大家好，我是对白。今天给大家分享一位百度应届生从刚进公司遭遇leader跑路，再到整个部门只有他一个研发，最后独揽重任并做出成绩的故事，对于初入职场迷茫的同学会很有帮助，以下为原文。1. 从池子里爬出来的最开始让我去百度，其实我是拒绝的。当我得知被百度录用的部门是XX部的时候，我内心忐忑不安。这部门的产品放到十年前横行互联网，没一个能打的。但放到今天，随便挨打。你说我有扶大厦将倾,挽狂澜于既倒的能

面试

职场和发展

java

c++

百度

原创 2022-04-19 16:09:15 194 阅读

作为校招loser，我如何在一年半后的社招中咸鱼翻身

大家好，我是对白。今天给大家分享一位朋友上个月从算法岗转工程岗的血泪史，当你做的算法方向非常小众，且不能带来较大的业务收益时，不妨换个组或转岗试试，以下为原文。一、背景本人目前开发经验两年（其实是一年多）在第一次跳槽（2022年3月）中收获阿里、腾讯、滴滴等公司的offer，从跳槽动机、准备、面试等角度去复盘这次跳槽，希望对自己和读者（尤其是校招和短经验社招背景的读者）都能有所收获。1.1 校招入

职场和发展

面试

计算机视觉

redis

mysql

原创 2022-04-11 18:22:15 202 阅读

读博心得分享

大家好，我是对白。今天给大家分享一位清华计算机系庞天宇师兄的读博心得，他本科毕业于清华，之后直博计算机系并师从朱军教授，博士期间共发表****20多篇顶会和顶刊，包含CVPR、ICCV、NIPS、ICLR和TPAMI等，还获得了百度、微软等奖学金，科研能力在我认识的清华同学里，也是数一数二的。他将自己的经验分享了出来，相信一定会对很多人有所启发，以下为原文。马上要结束五年的直博生涯了，在这个过程中

面试

职场和发展

java

ide

读研

原创 2022-04-11 18:21:51 246 阅读

从华为跳槽来腾讯的体验...

大家好，我是对白。最近又有几家互联网大厂正在裁员，比如腾讯和美团，裁员势头越发猛烈。最近有小伙伴向我询问offer选择，华为与腾讯该选择哪家，我个人认为：华为企业文化偏国企，所以有很多条条框框，看似时长多，但是想苟住很容易。腾讯虽然看似比较自由，但是在产出方面还是很残酷的。华为这边看部门，硬件如数通无线这些普遍加班多，消费者这些软开工作时长少很多，然后年终奖还很香。腾讯同样，CSIG和PCG相对微

面试

职场和发展

java

微信

发邮件

原创 2022-04-11 13:38:02 787 阅读

推荐算法工程师需要掌握哪些核心技能点？

面试

职场和发展

java

机器学习

深度学习

原创精选 2022-04-11 13:37:54 853 阅读

清明节后第一天，就被腾讯优化了...

大家好，我是对白。今天给大家分享一位腾讯朋友清明节后的第一天就被公司优化的真实案例，昨天也登上了脉脉热榜。如果员工拼死拼活为公司卖命，最终还被公司所优化，这样真的值吗？以下为原文。作者：洋葱在写文档 | 编辑：对白的算法屋一、会议邀请2022年4月6日，清明节放假归来第一天，一大早在群里面看见有人在说HR约了一个名曰**“****沟通会”的腾讯会议，让上午集中去会议室“沟通”**。看看会议预约通知

面试

职场和发展

java

内网

写文档

原创 2022-04-11 10:36:52 275 阅读

面试

职场和发展

java

服务器

机器学习

原创 2022-03-30 16:38:57 474 阅读

李纪为：初入NLP领域的一些小建议

刚开始做算法的朋友会有遇到很多误区，比如沉迷新的模型，忽视基础等等。我强烈建议大家沉下心来读一下香侬科技李纪为博士的这个文章，对你会很有帮助。以下是原文。ACL2019投稿刚刚落幕，投稿数超过了2800篇，可以说是历史以来最盛大的一届ACL。在深度学习的推动下，自然语言处理这个子领域也逐渐被推上人工智能大舞台的最前列。最近在跟同学的邮件、或者知乎留言中的交流中，不少同学尤其是刚入（jin）门（ke

面试

职场和发展

java

神经网络

语言模型

原创 2022-03-30 16:38:30 84 阅读

西湖大学全是“天坑”专业？

大家好，我是对白。近日有网友们质疑西湖大学全是“天坑”专业，面对这类问题，校长施一公坐不住了。在本科招生宣讲直播上，他公开为“生化环材”站台：我相信，任何一个西湖大学的学生从进入之日开始，就不会再想生化环材是“四大天坑”这句话。这是即将招生的西湖大学第一次直播答疑，回答了外界各方面的关注和质疑。然而施一公回应之后，网友们争论声音却更大了，知乎相关热度已达上百万。不少网友表示，看了后感觉 “

面试

java

数据挖掘

人工智能

知乎

原创 2022-03-30 16:37:20 241 阅读

京东大规模裁员？

大家好，我是对白。今早打开朋友圈，发现一些朋友正在讨论京东裁员的消息，很快这则消息便上了脉脉热榜第一，并且还流出了一份腾讯文档，里面详细记录了京东裁员所属的一级部门、二级部门、裁员比例以及有无21届校招生等等：很快这个文档便被封了，里面的裁员比例尚不可轻信，但有一点可以确认的是，京东确实在降本增效。联想起前不久阿里、腾讯的裁员，也包含了部分20届和21届校招生，加上今年所有互联网公司股价接近腰斩，

计算机视觉

人工智能

深度学习

无人机

互联网公司

原创 2022-03-30 10:58:05 304 阅读

未想到，我也成为了一名up主

大家好，我是对白。就在刚刚，我在B站上传了自己制作的第一个短视频，终于我也成为了一名UP主，视频还是最新鲜的视频内容主要是给一位在华为实习的学妹答疑，她本人目前研二在读，在华为一个算法组全职实习，但因为不是Research组，没有发paper的机会，于是向我求助，如何在秋招能拿到更好的offer。早在去年我就有成为一名UP主的想法了，但奈何工作实在太忙，加上自己又在搞内推、写书，于是便耽搁

面试

java

数据挖掘

无人机

搜索推荐

原创 2022-03-30 10:58:02 94 阅读

大专学历造假，拿到了抖音 Offer

大家好，我是对白。最近脉脉上有一个很热的帖子，一个“大牛”因为有“技术”但是没有“学历”，拿到抖音 2-2 Offer 以后选择造假，包括学历、工作经历，具体如下图所示：那么你觉得这波骚操作如何呢？先让我们看看大家的风向吧：其实大家普遍认为这个 Offer 还是拒了吧，每个公司对诚信啊、价值观等认定不一样，重视程度也不一样，所以类似题主面的这家公司态度决绝的也是有的。背调公司在这其中只是把客观信息

职场和发展

面试

计算机视觉

商业

无人机

原创 2022-03-30 10:57:20 579 阅读

训练CV模型新思路来了：用NLP大火的Prompt替代微调，性能全面提升

大家好，我是对白。Prompt tuning，作为NLP领域中的一个“新宠”，甚至曾被学者誉为NLP预训练新范式。那么，它能否借鉴到CV领域并产生同样的成绩呢？现在，来自康奈尔大学和Meta AI等机构，通过Prompt来调整基于Transformer的视觉模型，结果发现：完全可以！比起全面微调，Prompt性能提升显著。无论模型的规模和训练数据怎么变，24种情况中有20种都完全胜出。

面试

职场和发展

java

编码器

细粒度

原创 2022-03-30 10:57:16 91 阅读

Google提出用对比学习解决推荐系统长尾问题

关注 ▲对白▲ 和百万AI爱好者，一起向上生长这是对白的第 87 期分享作者 l @吴家丫头1990 大家好，我是对白。本文主要分享一下Google今年提出的《Self-supervised Learning for Large-scale Item Recommendations》如何采用对比学习解决推荐长尾问题。一、定义长尾效应：20%的热门item占据了80%的曝光量，剩下80%的小

计算机视觉

人工智能

深度学习

数据

5e

原创 2022-03-23 14:15:49 1498 阅读

永远退出机器学习界

随着人工智能技术的不断发展，可应用领域也越来越广，国内外AI人才的薪酬也是水涨船高。动辄年薪10万美元，年薪30万人民币的白菜价，互联网也到处充斥着造富神话，为了财富自由，不止各个领域的程序员，各行各业的人几乎都转行伴着浪潮涌入AI行业。但如果你不喜欢机器学习，又舍不掉如此高薪，你会舍得换一份工作吗？大部分人的选择可能都是选择向生活妥协，毕竟他们给的实在是太多了。最近，Reddit论坛上就有一个小

人工智能

transformer

自然语言处理

机器学习

数据

原创 2022-03-23 14:15:03 174 阅读

2021年后一个算法工程师的门槛有多高?

大家好，我是对白。昨天与一位清华博士同学在一起吃饭，刚好聊起了目前大厂招算法工程师会有哪些条件。以我个人经验判断，从2022年开始，算法岗只会越来越卷，因为研究生近几年扩招了，明年又刚好是第一批扩招的研究生找工作的时候，而大部分读研的同学都希望从事算法岗，因此这个岗位会卷上天，建议大家要有心里准备，提前做好职业选择与规划，算法与开发只能坚定地选择一条路。下面就给大家谈一谈如何才能走上算法工程师

职场和发展

面试

计算机视觉

读研

数据结构

原创 2022-03-23 14:15:03 157 阅读

发了一篇小红书，阅读量破了20W...

大家好，我是对白。周五的时候，我发了一篇小红书笔记，没想到当天就破了10W阅读量，且有很多小伙伴的女朋友都在小红书上刷到了我，也让我很是惊讶，不得不感叹现在推荐系统的强大。而这篇笔记浏览量如此之高，我分析了一下原因，主要是有很多女生评论，一位网友总结了小红书定律：男生不配得到夸奖。其中一位女生评论道：所以做了程序员果然会变丑。这条评论我还留着，结果有255个人点了赞。看到这个数据，我开始怀疑现

面试

java

数据挖掘

无人机

微信

原创 2022-03-23 14:14:12 1439 阅读

ACL2021 | 对比学习8篇论文一句话总结

关注 ▲对白▲ 和百万AI爱好者，一起向上生长这是对白的第 88 期分享作者 l 不是大叔大家好，我是对白。今天给大家总结了ACL2021中关于对比学习的论文，一共8篇，每篇都通过一句话进行了核心思想的介绍，希望对大家有所帮助。 1. CLINE: Contrastive Learning with Semantic Negative Examples for Natural Lan

面试

职场和发展

java

正例

相似度

原创 2022-03-23 14:13:46 362 阅读

才20多，就中年危机了...

大家好，我是对白。有些去了互联网的小伙伴，和我闲聊时，会担心35岁年龄危机。甚至有的刚上大一，就开始焦虑，危机感十足。有人还会后悔自己当初的选择，如果毕业时去考公务员或进高校当老师，现在的生活应该是“按时下班的夕阳格外美”了。那事实真的是如此吗？高校的教师和科研人员就没有年龄危机了吗？今天分享一位答主朋友的任教经历，大家可以自己体会，希望对于有过选择纠结的小伙伴，有所帮助～作者:且听风吟

深度学习

自然语言处理

人工智能

变现

知识结构

原创 2022-03-23 14:13:06 152 阅读

工作一年多，第一次换了算法组...

大家好，我是对白。今天跟大家说一件我个人的事情，就是我换组了，由之前的算法组换到了另一个算法组，具体来说就是由NLP转到了搜索推荐，业务更加有挑战，这也是本周四开周会的时候，几位leader在会上宣布的，属于组织架构调整。刚一听到这个消息时，我是懵的。毕竟从毕业入职到现在，我一直待在这个算法组，对整个大组充满了感情。职场中的勾心斗角，在我们组并不存在，周围的同事相处都非常融洽，工作中也是互相帮

计算机视觉

人工智能

深度学习

思维方式

无人机

原创 2022-03-23 14:12:46 54 阅读

何恺明的ResNet论文，被引量刚刚突破10万大关

这是一篇计算机视觉领域的经典论文。李沐曾经说过，假设你在使用卷积神经网络，有一半的可能性就是在使用 ResNet 或它的变种。前几天，人们发现 ResNet 论文被引用数量悄然突破了 10 万加，距离论文的提交刚过去六年。《Deep Residual Learning for Image Recognition》在 2016 年拿下了计算机视觉顶级会议 CVPR 的最佳论文奖，相比 NeurIPS

面试

职场和发展

java

计算机视觉

人工智能

原创 2022-03-23 14:12:31 471 阅读

官方博客	全部文章	热门标签	班级博客
了解我们	网站地图	意见反馈

鸿蒙开发者社区	51CTO学堂
51CTO	软考资讯

51CTO博客

对白的算法屋

欢迎

推荐系统中不得不学的对比学习（Contrastive Learning）方法

再介绍一篇最新的Contrastive Self-supervised Learning综述论文

2021最新对比学习（Contrastive Learning）在各大顶会上的经典必读论文解读

对比学习（Contrastive Learning）在CV与NLP领域中的研究进展

ICLR2021对比学习（Contrastive Learning）NLP领域论文进展梳理

深度学习Loss合集：一文详解Contrastive Loss/Ranking Loss/Triplet Loss等区别与联系

百余署名AI论文被爆抄袭智源现已致歉

获奖了11

真的无语，MSRA连国防七子及北邮学生都不招了

整个部门就一个研发？

作为校招loser，我如何在一年半后的社招中咸鱼翻身

读博心得分享

从华为跳槽来腾讯的体验...

推荐算法工程师需要掌握哪些核心技能点？

清明节后第一天，就被腾讯优化了...

手写了一个推荐系统，真香

李纪为：初入NLP领域的一些小建议

西湖大学全是“天坑”专业？

京东大规模裁员？

未想到，我也成为了一名up主

大专学历造假，拿到了抖音 Offer

训练CV模型新思路来了：用NLP大火的Prompt替代微调，性能全面提升

Google提出用对比学习解决推荐系统长尾问题

永远退出机器学习界

2021年后一个算法工程师的门槛有多高?

发了一篇小红书，阅读量破了20W...

ACL2021 | 对比学习8篇论文一句话总结

才20多，就中年危机了...

工作一年多，第一次换了算法组...

何恺明的ResNet论文，被引量刚刚突破10万大关