仔细记录一下Java的Map-Reduce job使用distributed cache的方法，毕竟以前一直都是copy paste ~
✓ 适用的Hadoop版本
CDH 5.8.0（Hadoop 2.6.0）
别的版本没有测试过，但后面相近的版本应该也能用。
✓ 准备工作：上传本地文件到HDFS
为了在Java代码中把一个文件加入 distributed cache，需要先把它上传到HDFS，之后应使用 HDFS 路径来加入 distributed cache。
假设要加入 distributed cache 的文件为 file.txt：
hadoop fs -put file.txt /your/hdfs/dir/
（莫慌，这图是拿出来撑场面的，我可能和你一样看不懂）
前言：这是一篇很不严肃的实验文章。每一个会修电脑的人，都可以很容易地照着本文的描述，自己去操作一遍。
大概一周前，百度不是发布了一个“取得重要进展”的对话生成网络 PLATO-2 吗？我当时一看到那消息，精神就来了，为什么？这得先从解释一下“这玩意是干什么用的”说起——毕竟，这篇文章要让每一个群众都能看得懂，大家好才是真的好。
近日，百度发布对话生成网络 PLATO-2，宣布在开放域对话生成模型上迎来重要进展。PLATO-2 承袭 PLATO 隐变量进行回复多样化生成特性，模型参数高达 16 亿，涵盖中英文版本，可就开放域话题深度畅聊。实验结果显示，PLATO-2 中英文对话效果已超越谷歌 Meena、微软小冰和 Facebook Blender 等先进模型。
咳咳，这些专业术语说的是什么鬼？
如果你完全看不明白这段话，只需要知道：它说的是和NLP（自然语言处理，一门机器学习的分支学科）相关的一些东西。
可能有的人只听说过这段话里提到的“微软小冰”——她的主要功能就是一个【聊天机器人】，和小米的“小爱同学”颇为相似。
“小爱同学，帮我把空调打开！” “好的，开啦！”
——相信这样的场景，早已飞入我国千千万万寻常百姓家。
所以，百度发布的这个 PLATO-2，它可以用来做“小爱同学”的大脑，也就是最核心的那一块功能。不过现实中的“小爱同学”远比这个复杂，在这里只是做一个比喻而已。
阅读更多
✔ 为什么要升级PHP版本
WordPress版本升级，已经不支持5.4了，必须要升到7.x，就这一条理由就不得不面对现实。再说了，PHP 5.4是多么老旧的上古化石版本啊！
以下步骤只适用于CentOS 7系统（具体子版本不确定能支持到什么范围）。
话不多说，直接进入主题。
✔ 判断能不能使用GPU
可能有多种原因会导致不能使用GPU，比如PyTorch安装的是CPU版的，显卡驱动没有正确安装等。下面的 if 语句在正常的情况下会返回 True：
if torch.cuda.is_available(): print('PyTorch can use GPU on current machine!')
文章来源：https://www.codelast.com/
✔ 设置模型使用GPU
model = MyModel(*args, **kwargs) model.load_state_dict(torch.load(your_model_file_path)) model.eval() # 设置成evaluation模式 if torch.cuda.is_available(): print('PyTorch can use GPU on current machine!') device = torch.device("cuda") model.to(device)
your_model_file_path 是模型文件的路径。
阅读更多
无论你身在上海，还是北京，无论你想踏实前行，还是心怀远大梦想，只要你是一个用键盘和代码改变世界的工程师，那么都希望你不要错过下面的“召集令”。
字节跳动（今日头条、抖音的母公司）现在正在招聘：前端/后端/算法 工程师/Leader，总有一款职位期待你！
等等，有奇怪的群众会跳出来说：你好像并不是在字节跳动工作的呀？为什么要帮它们发这个？
在这里我首先要做一个声明哈：我爱我所在的team，我爱我的公司——至少时至今日还是如此。
但是，人在江湖飘，哪能不要脸？这不，字节的朋友几次让我帮忙推荐急需的工程师，说了几次：难道我们的友情只值一毛钱？
我脸往哪放？我总得用我这羸弱的力量助推一下嘛，所以我就把职位信息放上来挂着啦。在字节跳动混得风生水起的专家直接帮你内推，应聘效率有保障！
阅读更多
尽管人类离[通用人工智能]的路还很远，但越来越多新技术的出现，让这条路得以不断加速。
What？强化学习设计芯片？
就这几天的事：Google已经开始用强化学习技术来设计芯片了！
如果说用强化学习来玩游戏、下围棋，甚至用来帮助提升互联网广告的点击率、收入，都不是什么新鲜事的话，那么用强化学习来设计芯片，就也太新鲜了吧？但Google就做到了[1]：
我们提出了一种基于学习的芯片布局方法，这是芯片设计过程中最复杂、最耗时的阶段之一。与之前的方法不同，我们的方法具有从过去的经验中学习并随着时间的推移而改进的能力。特别是随着我们对更多的芯片块进行训练，我们的方法在快速生成以前未见过的芯片块的优化布局方面变得更好。为了实现这些结果，我们将芯片布局作为一个强化学习（RL）问题，并训练一个Agent将芯片网表的节点放置到芯片画布上。为了使我们的RL策略能够泛化到未见过的芯片块，我们将表征学习置于预测布局质量的有监督任务中。通过设计一个能够准确预测各种网表及其布局质量的神经架构，我们能够生成丰富的输入网表的特征嵌入。然后，我们使用这个架构作为我们的策略和价值网络的编码器来实现转移学习。我们的目标是将PPA（功率、性能和面积）降到最低，我们表明，在6个小时内，我们的方法可以在现代加速器网表上生成超越人类或可与之相媲美的芯片布局，而现有的基线需要人类专家在循环中进行，并需要几周的时间。
硬件工程师为之虎躯一颤。
阅读更多
佛罗利达州（Florida）是美国本土最南端的一个州，旅游业是其经济收入的最大来源，温暖的天气和沙滩美景每年吸引1亿多游客。
如果说这个世界上有哪里的人最不怕新冠病毒的死亡威胁，那美国佛罗里达的海滩爱好者绝对能排得上号。
佛罗里达州的很多人对海滩有着近乎狂热的感情，COVID-19（新冠病毒）暴发完全无法影响他们亲近海滩的强烈意愿，在州政府最近重新开放了海滩之后，他们一堆人带着老婆孩子，不戴口罩到海滩上去散步，可谓是真的“勇士”(或脑残)、生死看淡！
伴随着这样的事实背景，Twitter的趋势榜也随之出现了一个很火的hashtag：#FloridaMorons（佛罗里达傻X），网友们无情发贴抨击、讽刺那些“不去海滩聚集就会憋死”的佛罗里达人。
阅读更多
查看关于 rlpyt 的更多文章请点击这里。
rlpyt 是BAIR(Berkeley Artificial Intelligence Research，伯克利人工智能研究所)开源的一个强化学习(RL)框架。我之前写了一篇它的简介。
当你使用 rlpyt 来实现自己的强化学习程序时，可能会遇到类似于下面这样的错误：
RuntimeError: size mismatch, m1: [1 x 365], m2: [461 x 32] at /tmp/pip-req-build-_357f2zr/aten/src/TH/generic/THTensorMath.cpp:752
本文分析错误原因及解决办法。
阅读更多
两天前的4月2日，在美国马萨诸塞州（也就是麻省理工学院MIT所在的那个州），有一个大新闻：在该州抗疫物资已经紧缺得十万火急，而又无法得到联邦政府援助的情况下，州长查理·贝克（Charlie Baker）打通各种关系，从中国订购了170万个N95口罩，经过相当复杂的一系列联络与协调，在中国驻纽约领事馆、中国企业的大力支持下，最后通过职业橄榄球队“新英格兰爱国者”老板罗伯特·卡夫（Robert Kraft）的一架私人波音767飞机，从中国深圳运回了首批120万个口罩。
州长和爱国者的老板一下子成了很多人心目中的英雄。
我浏览了和此新闻相关的很多Twitter信息流，总结出来几个现象：
（1）很多美国人使劲表扬州长和“爱国者队”，有很多路转粉；
（2）也有很多美国人骂美国联邦政府太没用，骂散装美国各自为政的混乱场面；
（3）永远少不了一部分美国人在一如既往地反华，说这是中国来的口罩，就算放到我面前我都不用！（然而N95是分发到抗疫前线的医务人员手里的，根本不会送给你们这些群众好吗！）
阅读更多
点开这篇文章的各位，你们一定会觉得很奇怪：这是什么奇怪的标题？你不是一般只发技术文章的吗？
并不是。和学习相关的文章我也会发。作为一个最近几年来都在顽强地每天坚持背英语单词，并且自掏腰包和老外练口语也坚持了一年多的人，我可以算是在英语学习上也没有退步，所以我想和大家分享一下英语口语学习中的一些事。
今天我要向大家推荐Cambly上的一个丹麦妹子，Leila老师。昨天已经是我第二次和她交流了。
等等，Cambly是什么奇怪的东西？
Cambly是一个和老外(native English speakers)视频聊天练习英语口语的平台——当然不是免费的，但是如果你用推荐码 DZZZ 注册一个账号，能免费得到15分钟的使用时间，反正不要钱，不妨尝试一下。
阅读更多