LLM 基础参数速查表
大模型调用基础采样与生成参数对照,点击复制参数名。
广告位(百度联盟文中广告位)
| 参数名称 | 取值范围 | 含义 | 推荐值 | 示例 |
|---|---|---|---|---|
| temperature | 0~2,默认 1 | 采样随机度,越高越发散/有创意 | 通用 0.7;代码 0.2 | 0.7 |
| top_p | 0~1,默认 1 | 核采样:累积概率阈值 | 与 temperature 二选一 | 0.9 |
| top_k | 整数,默认 0(关闭) | 仅从概率最高的 k 个候选采样 | 40(本地模型常用) | 40 |
| max_tokens | 正整数 | 单次生成最大 token 数 | 按任务 1024~4096 | 2048 |
| presence_penalty | -2~2,默认 0 | 鼓励引入新话题/降低重复 | 0.1 | 0.1 |
| frequency_penalty | -2~2,默认 0 | 降低已出现 token 的重复 | 0.1 | 0.1 |
| stop | 字符串 / 数组 | 遇到即停止生成 | ["\n\n"] | ["###"] |
| stream | true / false | 流式逐字返回 | true | true |
| n | 整数,默认 1 | 一次返回候选条数 | 1 | 1 |
| seed | 整数 | 固定后可复现输出 | 42 | 42 |
| response_format | {type:"json_object"} | 强制 JSON 输出 | json_object | {"type":"json_object"} |
| logit_bias | map | 偏置特定 token 概率 | {} | {} |
广告位(百度联盟信息流广告位)