README.md

1.简介

albert-and-tinybert-zh-pytorch-transformers

Albert and TinyBert 预训练模型 从 tensorflow 转 pytorch

2.调用方式

可以参考如下

1.使用huggingface transformers transformers

2.使用brightmart albert_zh

3.模型下载

目前已经转换好可以直接使用的model

1. albert_small_zh_google albert_small_zh_google
2. alber_tiny_google albert_tiny_google
3. tiny_bert TinyBERT_4L_312D

4.自行转换方式

转换脚本参考

https://github.com/lonePatient/albert_pytorch