Token Counter
对比多种 Hugging Face 托管的大预言模型分词器的 token 数量,预载一些模型便于用户快速使用
应用介绍
在输入框粘贴文本,或上传一个/多个文本文件;在“内置模型分词器”中选择想对比的模型,或在“高级选项”的“自定义模型分词器”里填写额外模型 ID,然后点击“开始计数”查看各模型的 token 数量。 若远端微服无法联网,可展开“高级选项”,进入“自定义模型分词器”弹窗,通过“离线缓存预载”导入本机下载的 tokenizer 文件;或点击“回滚到资源包”恢复应用内置分词器。 也可以从懒猫网盘右键选择文本文件,用本应用直接打开并计数。
应用截图



移动端截图



应用信息
原创应用