以牛客网《剑指Offer》题目为准，共66道

随着服务器的入门门槛越来越低，使用自己的服务器搭建一个梯子或者放一些自己的网站（博客）也越来越简单。下面主要总结一下使用服务器搭建梯子的方法。

An ALBERT configuration similar to BERT-large has 18x fewer parameters and can be trained about 1.7x faster.

ALBERT (A Lite BERT) 采用与 BERT 相同的 Transformer 架构，对其作了三点改进，使得用比 BERT 极少的参数量却实现了比 BERT 更好的效果。
论文：ALBERT: A Lite BERT for Self-supervised Learning of Language Representations

论文分析了以 ELMo/GPT 为代表的自回归语言模型与以 BERT 为代表的去噪自编码语言模型的不足，提出了结合 AR 与 AE 各自优点的乱序自回归语言模型，在多项 NLP 任务上达到了 SOTA。
论文：XLNet: Generalized Autoregressive Pretraining for Language Understanding

ERNIE

ERNIE（Enhanced Representation through kNowledge IntEgration）是百度在 BERT 的基础上对模型进行了简单的改造，解决了 BERT 的一些弊端，达到了不错的效果。
论文：ERNIE: Enhanced Representation through Knowledge Integration

日志是对软件执行时所发生事件的一种追踪方式。Python 默认的 logging 模块提供了日志的记录方法。

在数据库中，事务处理用来维护数据库的完整性，它保证成批的 MySQL 操作要么完全执行，要么完全不执行。在事务中，误操作之后能够及时的恢复，并保证在不同的 session 间的一致性。
MySQL 中只有 InnoDB 引擎的表才支持事务。

MySQL 是最流行的关系型数据库管理系统，应用广泛。

数据库

• 查看所有数据库

  1	SHOW DATABASES;

BERT（Bidirectional Encoder Representations from Transformers）是一个使用了 Transformer Encoder 的双向语言模型，类似于 GPT，BERT 也是一个两阶段模型，通过上游的无监督预训练，对下游的监督任务进行简单改造以微调参数。
论文：BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

通过 crontab 命令，我们可以在固定的间隔时间执行指定的系统指令或 shell script 脚本。时间间隔的单位可以是分钟、小时、日、月、周及以上的任意组合。

crontab

1

crontab [-u user] [-l | -r | -e] [-i]

默认的 cron 服务存储在 /var/spool/cron/ 目录下，以用户名为文件名存储。