| 程序包 | 说明 |
|---|---|
| <Unnamed> | |
| com.alibaba.dashscope.tokenizers |
| 限定符和类型 | 方法和说明 |
|---|---|
static void |
QwenLocalTokenizerUsage.testEncode() |
| 限定符和类型 | 方法和说明 |
|---|---|
List<Integer> |
QwenTokenizer.encode(String text,
String allowedSpecial)
Encode the input text, handles special tokens.
|
List<Integer> |
Tokenizer.encode(String text,
String allowedSpecial)
Encode the input text, handles special tokens.
|
Copyright © 2024. All rights reserved.