爆肝100天,B站UP主开发会写高考作文的AI,内含17亿参数、2亿数据、1万行代码

2020 年 11 月 3 日 THU数据派


来源:学术头条

本文 1867 ,建议阅读 4分钟
本文介绍了会写作文的AI机器人EssayKiller,其由输入输出装置,识别网络,语言网络,判分网络四部分构成。

前段时间,浙江高考满分作文《生活在树上》因为晦涩难懂的内容,刷爆了各种社交媒体。外行人看热闹,内行人看门道,大神们透过现象看本质。

一般来说,高考作文可以通过批量化、模式化的训练达到一个令人满意的分数。实际上就是把学生当做一个写作机器进行训练,为学生输入大量范文,提供写作模式,然后进行长时间的学习。等等,这不是和人工智能的训练过程相同吗?

那么,如果给一个人工智能系统同样的数据,是否可以教会它写作文呢?

答案是,当然可以。B 站 UP 主 - 图灵的猫,秉承了心动不如行动的理念,一个人利用三个月,500 个小时,10000 行代码,200000000 条数据,1700000000 个参数,开发了一个会写作文的人工智能 - EssayKiller。


EssayKiller 的基本组成

一个 AI 不管外形和功能如何,其核心都是人工神经网络。EssayKiller 也是由四个不同的神经网络所组成。



第一部分是类似于人类的视觉处理系统的识别网络。它通过外接摄像头的实时 OCR 以及卷积神经网络及汉字的识别与提取并将结果输入到下一层的网络中。


第二部分是语言网络,旨在模范人类大脑的语言功能。在这里 UP 主将它分为两个子网络,相较于人类的颞叶区和额叶区等复杂构成,它更加简明扼要。一个子网络为读题网络,也就是对高考题目进行准确的阅读和主题摘要提取。

另一个子网络为写作网络,也就是根据主题摘要进行文章的写作。后者是整个 AI 的核心,基于这个神经网络,EssayKiller 才能获得理解并输出汉字的能力。


第三部分是判分网络。正常学生写完一篇八百字的高考作文通常需要 40 分钟,而 EssayKiller 只需要 0.1 分钟。显然,在同样的时间里,EssayKiller 可以利用其快速写作的能力,在它的大脑中同时生成多篇作文,然后选出最好的一篇来作答。


UP 主说,这个想法借鉴了 AlphaGo 的设计理念。他利用 API 调用单独的神经网络,对 100 篇作文进行通顺度打分,取分数最高的一篇作文输出。理论上,只要了解于出题人的偏好,并且让 AI 完美拟合阅卷人喜欢的作文,就可以轻而易举的拿到高分。

这和训练学生写高考作文的过程是如出一辙,这也是近年来很多满分作文的套路,比如《生活在树上》。


EssayKiller的学习过程


通过 UP 主说起来看似很简单,其实非大神一操作就跪拜的四大网络搭建过程后,EssayKiller 就算是出生了。此时的它还是一张白纸,需要投喂大量数据养成。俗话说,读万卷书 AI 才能写出好作文。


接下来就是 EssayKiller 不是很漫长的学习过程了。UP 给它投喂了大量的优质散文、议论文,比如近现代散文集、历年高考作文等,然后让它自我训练并进行写作能力的提升。出于 UP 主的个人喜好,还为它增加了林语堂、木心、鲁迅等散文作家,也加入了一些现代作家,比如王小波、史铁生、王硕等。


最后通过整理来的 360 万张图像数据、2 亿条中文预训练语料以及上千篇微调文章,EssayKiller 带着 UP 主满满的爱开始了它的“漫漫”求学之路。


事实证明,没有人能够随随便便成功。此时,出现了一个 “愉快” 的小插曲。OOM,全称 “Out of Memory”,翻译成中文就是“内存用完了。”

EssayKiller 的神经网络参数量已经达到了惊人的 17 亿,一般的显卡已经不能承受这么大的网络规模和计算量。在 UP 主多次尝试,均属失败告终后,他终于发现,EssayKiller 已经超越了目前市面上可见的任何一个单 GPU 的运算内存限制。最终,UP 主斥巨资选择 RTX8000,成功的让 EssayKiller 开始训练。果然,培养孩子都是得花钱的。


经过 137 个小时的不间断学习后,EssayKiller 终于成为一个合格的高中生。接下来就是激动人心的测试时间。UP 主选择了两个全国卷和两个地区高考卷。EssayKiller 用它骄傲和自豪的 17 亿神经网络参数的多模块异构深度神经网络,通过 UP 主编写的高考格式排版脚本,搭配改装后的外接装置,对文本进行实时输出,在规定时间内将作文誊写到答题卡上。最终贡献了四篇很不错的高考作文。(写作过程如开头眼花缭乱的动图。)

小编选择了浙江卷的作文成果,为大家展示一下 EssayKiller 的写作实力。

(为了方便阅读,对截图进行了裁减。文章以右侧为准。)

没错,是高考作文那熟悉的味道。别的先不说,感觉可能会扣一点卷面分。网友们普遍认为,差不多是 45 分的水平。首先语言是通顺的且能读懂的,但是缺少一些烟火气的灵魂。大概还是可以感觉到一丝不是人的气息。

但是小编认为,其实我们已经先入为主了这篇文章是 AI 写的,如果让大家盲选,结果如何还是很难判断的。

此外,也有热心网友提供了新的思路:写机关公文文件,难度会更小,且效果会更好。


还有热心网友提供了:AI 做视频,“我淘汰我自己”的绝妙思路。


既然如此,那就拭目以待各位大神的新产品了。当然,暂时并不希望出现一款写公众号的 AI,不然小编就要失业了。
最后指路:

B站视频链接:https://www.bilibili.com/video/BV1pr4y1w7uM
项目github传送门:https://github.com/EssayKillerBrain/EssayKiller_V2


—— END ——

登录查看更多
0

相关内容

【2020新书】懒人程序员专用书C++20,681页pdf
专知会员服务
46+阅读 · 2020年12月15日
【经典书】C++编程:从问题分析到程序设计,1491页pdf
专知会员服务
65+阅读 · 2020年8月11日
【2020新书】实战R语言4,323页pdf
专知会员服务
102+阅读 · 2020年7月1日
【干货书】机器学习Python实战教程,366页pdf
专知会员服务
344+阅读 · 2020年3月17日
【哈工大】基于抽取的高考作文生成
专知会员服务
37+阅读 · 2020年3月10日
《深度学习》圣经花书的数学推导、原理与Python代码实现
【经典书】Python计算机视觉编程,中文版,363页pdf
专知会员服务
143+阅读 · 2020年2月16日
Transformer文本分类代码
专知会员服务
118+阅读 · 2020年2月3日
【书籍】深度学习框架:PyTorch入门与实践(附代码)
专知会员服务
167+阅读 · 2019年10月28日
82个Python机器学习代码和实践案例让你受益终生!
算法与数据结构
21+阅读 · 2018年12月26日
教师解放新前沿:让机器给作文打分
雷锋网
5+阅读 · 2018年10月28日
独家 | 两个月上手AI的学习经验(附学习资源)
THU数据派
3+阅读 · 2017年10月26日
阿里云免费开放人脸识别 SDK
程序员观察
3+阅读 · 2017年9月27日
Arxiv
0+阅读 · 2021年2月3日
CTC-based Compression for Direct Speech Translation
Arxiv
0+阅读 · 2021年2月2日
Arxiv
6+阅读 · 2018年7月12日
Arxiv
8+阅读 · 2018年1月25日
Arxiv
8+阅读 · 2018年1月19日
VIP会员
相关VIP内容
【2020新书】懒人程序员专用书C++20,681页pdf
专知会员服务
46+阅读 · 2020年12月15日
【经典书】C++编程:从问题分析到程序设计,1491页pdf
专知会员服务
65+阅读 · 2020年8月11日
【2020新书】实战R语言4,323页pdf
专知会员服务
102+阅读 · 2020年7月1日
【干货书】机器学习Python实战教程,366页pdf
专知会员服务
344+阅读 · 2020年3月17日
【哈工大】基于抽取的高考作文生成
专知会员服务
37+阅读 · 2020年3月10日
《深度学习》圣经花书的数学推导、原理与Python代码实现
【经典书】Python计算机视觉编程,中文版,363页pdf
专知会员服务
143+阅读 · 2020年2月16日
Transformer文本分类代码
专知会员服务
118+阅读 · 2020年2月3日
【书籍】深度学习框架:PyTorch入门与实践(附代码)
专知会员服务
167+阅读 · 2019年10月28日
Top
微信扫码咨询专知VIP会员