前沿科技雷达

通用大模型做判断，要先像写文章一样逐个 token 生成一段文字，再由程序从文字里解析出答案。生成多长，等待和花费就跟多长，模型还可能编出预设选项之外的内容。Jev 跳过生成这一步，直接在预设选项上输出结构化结果和概率，官方把这种用法叫 Choice 模式，最多支持 255 个预定义选项。端到端延迟被压到 70 到 500 毫秒，输入每百万 token 收费 0.042 美元，输出完全免费。