原创

[原创] 使用 fastText 做中文文本分类(2)

作者

查看本系列文章合集，请看这里。

做好文本预处理，才能输入fastText训练一个效果好的模型出来。

✓ 原文示例
有时我们拿到的源数据是很粗糙的，带有很多会影响模型效果的内容，例如下面这样：

<p>罗望子，是豆科酸豆属唯一的种，是热带乔木，原产于东部非洲，包括马达加斯加落叶森林，但已被引入热带亚洲、拉丁美洲和加勒比海。柽柳是中国海南省三亚的一种城市树木。罗望子最适合生长在温度高、日照长、气候干燥、干湿季节分明的地区。</p><p><img src="http://p0.qhimg.com/t014b83dc78c7cc5000.jpg?size=741x320"/><br /></p><p>罗望子富含糖、乙酸、酒石酸、甲酸、柠檬酸等成分，主要用于调味品、饮料、果酱等食品领域。吃一点罗望子有很多好处。当我们吃罗望子时，罗望子中含有的多糖是一种非常好的抗光物质。当我们吃这种物质时，它可以防止紫外线辐射伤害皮肤。通常吃一点罗望子，饭前吃一点罗望子可以增进食欲，改善我们的饮食质量。在炎热的夏日，吃一点罗望子可以生津止渴，清热解毒，降低中暑的风险。</p><p><img src="http://p1.qhimg.com/t01ecdbbc26c329a78b.jpg?size=533x409"/><br /></p><p>罗望子种子含有丰富的抗氧化物质。多吃罗望子籽可以延缓人体衰老，保持皮肤湿润有光泽。罗望子种子还含有一些清热解毒、消炎的物质，可以帮助我们的人体抵抗一些有害细菌，保护我们的健康。

这里面不仅带有URL、大量的HTML标签，而且还有标点符号等，这些都要清洗掉。

阅读更多

[原创] 使用 fastText 做中文文本分类(1)

作者

查看本系列文章合集，请看这里。

✓ 什么是“文本分类”

它是图书馆学， 信息学和计算机科学中的一个问题。其任务是将一个文档分配到一个或者多个类别中。

举例：

文本 类别
瑞幸咖啡今日发布声明称，瑞幸咖啡公司将于6月29日在纳斯达克停牌，并进行退市备案。声明表示，在国内消费市场方面，瑞幸咖啡全国4000多家门店将正常运营，近3万名员工仍将一如既往的为用户提供优质产品和服务。公司衷心感谢广大消费者的支持厚爱，并再次为事件造成的恶劣影响向社会各界诚挚道歉。 财经
明朝中后期西南沿海一个重要的问题就是倭寇的骚扰，这个问题本来是有希望被当时的浙江总督用和平的方法解决掉的，但是中途就出了个王本固这个插曲。 历史

其中，“类别”是事先定义好的。一段文本可以属于多个类别，例如，第2个例子可以同时属于“历史”和“明朝”这两个类别。

阅读更多

[原创] Hadoop 2.6.x 下Distributed Cache的用法

作者

仔细记录一下Java的Map-Reduce job使用distributed cache的方法，毕竟以前一直都是copy paste ~

✓ 适用的Hadoop版本
CDH 5.8.0（Hadoop 2.6.0）
别的版本没有测试过，但后面相近的版本应该也能用。

✓ 准备工作：上传本地文件到HDFS
为了在Java代码中把一个文件加入 distributed cache，需要先把它上传到HDFS，之后应使用 HDFS 路径来加入 distributed cache。
假设要加入 distributed cache 的文件为 file.txt：

hadoop fs -put file.txt /your/hdfs/dir/

阅读更多

[原创] 调戏了一番度娘"最先进"的PLATO-2预训练模型之后，我还是回到了和人类交谈...

作者

plato-2 network arch
（莫慌，这图是拿出来撑场面的，我可能和你一样看不懂）

前言：这是一篇很不严肃的实验文章。每一个会修电脑的人，都可以很容易地照着本文的描述，自己去操作一遍。

大概一周前，百度不是发布了一个“取得重要进展”的对话生成网络 PLATO-2 吗？我当时一看到那消息，精神就来了，为什么？这得先从解释一下“这玩意是干什么用的”说起——毕竟，这篇文章要让每一个群众都能看得懂，大家好才是真的好。

近日，百度发布对话生成网络 PLATO-2，宣布在开放域对话生成模型上迎来重要进展。PLATO-2 承袭 PLATO 隐变量进行回复多样化生成特性，模型参数高达 16 亿，涵盖中英文版本，可就开放域话题深度畅聊。实验结果显示，PLATO-2 中英文对话效果已超越谷歌 Meena、微软小冰和 Facebook Blender 等先进模型。

咳咳，这些专业术语说的是什么鬼？
如果你完全看不明白这段话，只需要知道：它说的是和NLP（自然语言处理，一门机器学习的分支学科）相关的一些东西。
可能有的人只听说过这段话里提到的“微软小冰”——她的主要功能就是一个【聊天机器人】，和小米的“小爱同学”颇为相似。
“小爱同学，帮我把空调打开！” “好的，开啦！”
——相信这样的场景，早已飞入我国千千万万寻常百姓家。
所以，百度发布的这个 PLATO-2，它可以用来做“小爱同学”的大脑，也就是最核心的那一块功能。不过现实中的“小爱同学”远比这个复杂，在这里只是做一个比喻而已。

阅读更多

[原创] PHP 7.0 升级到 7.3

作者
✔ 为什么要升级PHP版本
就是这么逗逼，从PHP 5.4升级到7.0之后，WordPress又升了几次版本，让PHP 7.0又成了明日黄花（不是“昨日黄花”啊同志们，成语要用对），虽然7.0还能用，但是每次进WordPress后台看到的“PHP版本太旧”的提示很碍眼，于是我下定决心要把它升级到当前最主流的 7.3 版——本文写作之时，是2020年7月。
以下步骤只适用于CentOS 7系统（具体子版本不确定能支持到什么范围）。
 
✔ 怎样升级PHP版本最方便
这回我就没有那么幸运了，虽然还是可以用yum来安装PHP相关的package，但是安装好之后有很多问题导致不能用，折腾了好些时间才搞定。作为一个平常工作中完全不用PHP的人，我太难了。

阅读更多

[原创] PHP 5.4 升级到 7.0

作者

✔ 为什么要升级PHP版本
WordPress版本升级，已经不支持5.4了，必须要升到7.x，就这一条理由就不得不面对现实。再说了，PHP 5.4是多么老旧的上古化石版本啊！
以下步骤只适用于CentOS 7系统（具体子版本不确定能支持到什么范围）。


✔ 怎样升级PHP版本最方便
对我来说，原来的PHP是通过yum install安装的，因此，如果能通过yum来把旧版升级到新版，是最方便的了。源码编译什么的，那得多烦啊！

阅读更多

[原创] PyTorch做inference/prediction的时候如何使用GPU

作者

话不多说，直接进入主题。

✔ 判断能不能使用GPU
可能有多种原因会导致不能使用GPU，比如PyTorch安装的是CPU版的，显卡驱动没有正确安装等。下面的 if 语句在正常的情况下会返回 True：

if torch.cuda.is_available():
    print('PyTorch can use GPU on current machine!')

文章来源：https://www.codelast.com/
✔ 设置模型使用GPU

model = MyModel(*args, **kwargs)
model.load_state_dict(torch.load(your_model_file_path))
model.eval()  # 设置成evaluation模式
if torch.cuda.is_available():
    print('PyTorch can use GPU on current machine!')
    device = torch.device("cuda")
    model.to(device)

your_model_file_path 是模型文件的路径。

阅读更多

[招聘] 前端/后端/算法 工程师/Leader，总有一款职位期待你！

作者

无论你身在上海，还是北京，无论你想踏实前行，还是心怀远大梦想，只要你是一个用键盘和代码改变世界的工程师，那么都希望你不要错过下面的“召集令”。
字节跳动（今日头条、抖音的母公司）现在正在招聘：前端/后端/算法 工程师/Leader，总有一款职位期待你！

等等，有奇怪的群众会跳出来说：你好像并不是在字节跳动工作的呀？为什么要帮它们发这个？
在这里我首先要做一个声明哈：我爱我所在的team，我爱我的公司——至少时至今日还是如此。

但是，人在江湖飘，哪能不要脸？这不，字节的朋友几次让我帮忙推荐急需的工程师，说了几次：难道我们的友情只值一毛钱？
我脸往哪放？我总得用我这羸弱的力量助推一下嘛，所以我就把职位信息放上来挂着啦。在字节跳动混得风生水起的专家直接帮你内推，应聘效率有保障！

阅读更多

[原创] 总有一天，失业不再遥远

作者

尽管人类离[通用人工智能]的路还很远，但越来越多新技术的出现，让这条路得以不断加速。

​What？强化学习设计芯片？

就这几天的事：Google已经开始用强化学习技术来设计芯片了！
如果说用强化学习来玩游戏、下围棋，甚至用来帮助提升互联网广告的点击率、收入，都不是什么新鲜事的话，那么用强化学习来设计芯片，就也太新鲜了吧？但Google就做到了[1]：

我们提出了一种基于学习的芯片布局方法，这是芯片设计过程中最复杂、最耗时的阶段之一。与之前的方法不同，我们的方法具有从过去的经验中学习并随着时间的推移而改进的能力。特别是随着我们对更多的芯片块进行训练，我们的方法在快速生成以前未见过的芯片块的优化布局方面变得更好。为了实现这些结果，我们将芯片布局作为一个强化学习（RL）问题，并训练一个Agent将芯片网表的节点放置到芯片画布上。为了使我们的RL策略能够泛化到未见过的芯片块，我们将表征学习置于预测布局质量的有监督任务中。通过设计一个能够准确预测各种网表及其布局质量的神经架构，我们能够生成丰富的输入网表的特征嵌入。然后，我们使用这个架构作为我们的策略和价值网络的编码器来实现转移学习。我们的目标是将PPA（功率、性能和面积）降到最低，我们表明，在6个小时内，我们的方法可以在现代加速器网表上生成超越人类或可与之相媲美的芯片布局，而现有的基线需要人类专家在循环中进行，并需要几周的时间。

硬件工程师为之虎躯一颤。

阅读更多

[原创] 美国佛罗里达的执念：海滩

作者

佛罗利达州（Florida）是美国本土最南端的一个州，旅游业是其经济收入的最大来源，温暖的天气和沙滩美景每年吸引1亿多游客。

如果说这个世界上有哪里的人最不怕新冠病毒的死亡威胁，那美国佛罗里达的海滩爱好者绝对能排得上号。
佛罗里达州的很多人对海滩有着近乎狂热的感情，COVID-19（新冠病毒）暴发完全无法影响他们亲近海滩的强烈意愿，在州政府最近重新开放了海滩之后，他们一堆人带着老婆孩子，不戴口罩到海滩上去散步，可谓是真的“勇士”(或脑残)、生死看淡！
伴随着这样的事实背景，Twitter的趋势榜也随之出现了一个很火的hashtag：#FloridaMorons（佛罗里达傻X），网友们无情发贴抨击、讽刺那些“不去海滩聚集就会憋死”的佛罗里达人。

阅读更多

[原创] 戴口罩也不是我们的文化

作者

首先我要讲一个真实的事情。上周末我在上海黄浦江边的一个开放式公园里看到很多人，大人小孩都很多，我看到的全部外国人（白人）一共有3个：1个大人+两个小孩，全部都不戴口罩。而我看到的几十个中国小孩全都戴了口罩。
不做杠精，我只是从长相上判断中国人和外国人，至于他们是不是换了国籍我不知道。
虽然样本量小，但是从最近从网络上得到的很多信息，以及我亲自观察到的现象上来看，我认为这不是偶然现象——欧美国家的大多数人，血液里流淌着抗拒口罩的基因。
这一周我和Cambly的两位外国友人谈了谈这个问题，更能印证“不戴口罩”是一种深深固化在欧美人民心中的一种思维模式。

阅读更多

[原创] 强化学习框架 rlpyt 的 size mismatch 错误原因及解决办法

作者

查看关于 rlpyt 的更多文章请点击这里。

rlpyt 是BAIR(Berkeley Artificial Intelligence Research，伯克利人工智能研究所)开源的一个强化学习(RL)框架。我之前写了一篇它的简介。 
当你使用 rlpyt 来实现自己的强化学习程序时，可能会遇到类似于下面这样的错误：

RuntimeError: size mismatch, m1: [1 x 365], m2: [461 x 32] at /tmp/pip-req-build-_357f2zr/aten/src/TH/generic/THTensorMath.cpp:752

本文分析错误原因及解决办法。

阅读更多

[原创] 当美国人听说我已经实现了口罩自由之后...

作者

两天前的4月2日，在美国马萨诸塞州（也就是麻省理工学院MIT所在的那个州），有一个大新闻：在该州抗疫物资已经紧缺得十万火急，而又无法得到联邦政府援助的情况下，州长查理·贝克（Charlie Baker）打通各种关系，从中国订购了170万个N95口罩，经过相当复杂的一系列联络与协调，在中国驻纽约领事馆、中国企业的大力支持下，最后通过职业橄榄球队“新英格兰爱国者”老板罗伯特·卡夫（Robert Kraft）的一架私人波音767飞机，从中国深圳运回了首批120万个口罩。
州长和爱国者的老板一下子成了很多人心目中的英雄。
我浏览了和此新闻相关的很多Twitter信息流，总结出来几个现象：
（1）很多美国人使劲表扬州长和“爱国者队”，有很多路转粉；
（2）也有很多美国人骂美国联邦政府太没用，骂散装美国各自为政的混乱场面；
（3）永远少不了一部分美国人在一如既往地反华，说这是中国来的口罩，就算放到我面前我都不用！（然而N95是分发到抗疫前线的医务人员手里的，根本不会送给你们这些群众好吗！）

阅读更多