TGINSIGHT POST
@awesomeopensource
每日 AWESOME 观察
huggingface / tokenizers 快速英文文本标记化。文本标记化是 NLP(自然语言处理)的第一步,相当于中文的分词。