AI Token 计数器
估算 GPT-4、GPT-3.5 和 Claude 的 token 数量和 API 费用。支持英文和 CJK 文本的精确 token 计数。LLM 提示工程和成本管理的必备工具。
参数
基于模型分词估算 token 数。
结果
基于字符分析的近似令牌计数
其他结果 (5)
Total characters (0 CJK, 0 non-CJK)
$10.00 per 1M input tokens
$0.50 per 1M input tokens
$3.00 per 1M input tokens
为什么选择 AI Token 计数器
AI 令牌计数器可估算文本中用于 GPT-4、GPT-3.5 Turbo 和 Claude Sonnet 等大型语言模型的令牌数量。它区分英文文本(每个标记约 4 个字符)和 CJK 字符(每个标记约 1.5 个字符)以提供更准确的估计,并计算每个模型的近似 API 成本。
- ✓通过 CJK 字符检测进行准确的标记估计
- ✓GPT-4、GPT-3.5 和 Claude Sonnet 的即时成本计算
- ✓字符和字数统计
- ✓支持混合语言文本分析
使用步骤
- 1将提示、文档或对话文本粘贴到输入区域。
- 2该工具自动检测 CJK 字符并应用不同的标记化比率。
- 3根据英语每个标记大约 4 个字符和 CJK 每个标记大约 1.5 个字符来检查估计的标记计数。
- 4检查每个受支持模型的估计 API 成本。
- 5使用结果来预算您的 API 使用情况或优化提示长度。
常见问题 (FAQ)
代币估算的准确度如何?
对于英文文本,估计使用每个标记大约 4 个字符;对于 CJK 文本,每个标记使用大约 1.5 个字符。来自特定模型标记器(例如 GPT 的 tiktoken)的实际标记数量可能会存在 5-15% 的差异,但这为预算目的提供了可靠的近似值。
为什么 CJK 字符的计数不同?
在大多数 LLM 分词器中,中文、日文和韩文字符通常需要每个字符更多的标记,因为它们被编码为多字节 UTF-8 序列,并且在用于构建标记词汇表的训练数据中不太常见。
这些价格是最新的吗?
使用的价格为 GPT-4,输入代币为 10/100 万美元,GPT-3.5 Turbo,输入代币为 0.50 美元/100 万美元,Claude Sonnet,输入代币为 3/100 万美元。请务必查看官方 OpenAI 和 Anthropic 定价页面,了解最新的价格。
这也计算输出令牌吗?
不可以。该工具仅估计输入(提示)标记。输出令牌通常更昂贵,并且取决于模型响应的长度,而模型响应的长度无法提前预测。
我可以将其用于任何语言模型吗?
虽然该工具显示了特定模型的成本,但对于大多数基于 Transformer 的语言模型(包括 Llama、Gemini 和 Mistral)来说,标记估计本身是合理的近似值,因为它们使用类似的标记化策略。
权威参考资料
相关工具
继续探索同一场景下的实用工具。
