快速登录
Special Note: Using vLLM versions below 0.9.2 may result in incompatibility or incorrect precision for the model: For details, see: vllm-project vllm#19592有改过这个问题吗，如果是 0.9.2 之前的版本会存在升级成为0.9.2依然有同样的问题，不知道是不是有可能是a100的问题或者expert quant int8的问题。 另外尝试打印log probs结果如下，每个字符都是-12.15510082244873，很奇怪，怀疑还是算子或者什么有问题。top_logprobs=[{ fauc : -12.15510082244873, bol : -12.15510082244873, meant : -12.15510082244873, familiar : -12.15510082244873, 答案 : -12.15510082244873, height : -12.15510082244873}, { Congregation : -12.15510082244873, bol : -12.15510082244873, meant : -12.15510082244873, familiar : -12.15510082244873, 答案 : -12.15510082244873, height : -12.15510082244873}, { 乖巧 : -12.15510082244873, bol : -12.15510082244873, meant : -12.15510082244873, familiar : -12.15510082244873, 答案 : -12.15510082244873, height : -12.15510082244873}, { بتر : -12.15510082244873, bol : -12.15510082244873, meant : -12.15510082244873, familiar : -12.15510082244873, 答案 : -12.15510082244873, height : -12.15510082244873} 请问你们之前有使用a100 gpu运行的成功经验吗？0714update:英文的请求能够正确输出了。但是中文的请求搭配英文的system定义依然乱码，请问这是符合预期的吗。请求输入如下 {"role": "system", "content": [{"type": "text", "text": "You are a helpful assistant."}]},{"role": "user", "content": [{"type": "text", "text": "告知我你叫什么名字？"}]} PS：中文system+中文user的提示词没有问题，正常返回
Special Note: Using vLLM versions below 0.9.2 may result in incompatibility or incorrect precision for the model: For details, see: vllm-project vllm#19592有改过这个问题吗，如果是 0.9.2 之前的版本会存在
升级成为0.9.2依然有同样的问题，不知道是不是有可能是a100的问题或者expert quant int8的问题。 另外尝试打印log probs结果如下，每个字符都是-12.15510082244873，很奇怪，怀疑还是算子或者什么有问题。top_logprobs=[{ fauc : -12.15510082244873, bol : -12.15510082244873, meant : -12.15510082244873, familiar : -12.15510082244873, 答案 : -12.15510082244873, height : -12.15510082244873}, { Congregation : -12.15510082244873, bol : -12.15510082244873, meant : -12.15510082244873, familiar : -12.15510082244873, 答案 : -12.15510082244873, height : -12.15510082244873}, { 乖巧 : -12.15510082244873, bol : -12.15510082244873, meant : -12.15510082244873, familiar : -12.15510082244873, 答案 : -12.15510082244873, height : -12.15510082244873}, { بتر : -12.15510082244873, bol : -12.15510082244873, meant : -12.15510082244873, familiar : -12.15510082244873, 答案 : -12.15510082244873, height : -12.15510082244873} 请问你们之前有使用a100 gpu运行的成功经验吗？0714update:英文的请求能够正确输出了。但是中文的请求搭配英文的system定义依然乱码，请问这是符合预期的吗。请求输入如下 {"role": "system", "content": [{"type": "text", "text": "You are a helpful assistant."}]},{"role": "user", "content": [{"type": "text", "text": "告知我你叫什么名字？"}]} PS：中文system+中文user的提示词没有问题，正常返回
升级成为0.9.2依然有同样的问题，不知道是不是有可能是a100的问题或者expert quant int8的问题。 另外尝试打印log probs结果如下，每个字符都是-12.15510082244873，很奇怪，怀疑还是算子或者什么有问题。
top_logprobs=[{ fauc : -12.15510082244873, bol : -12.15510082244873, meant : -12.15510082244873, familiar : -12.15510082244873, 答案 : -12.15510082244873, height : -12.15510082244873}, { Congregation : -12.15510082244873, bol : -12.15510082244873, meant : -12.15510082244873, familiar : -12.15510082244873, 答案 : -12.15510082244873, height : -12.15510082244873}, { 乖巧 : -12.15510082244873, bol : -12.15510082244873, meant : -12.15510082244873, familiar : -12.15510082244873, 答案 : -12.15510082244873, height : -12.15510082244873}, { بتر : -12.15510082244873, bol : -12.15510082244873, meant : -12.15510082244873, familiar : -12.15510082244873, 答案 : -12.15510082244873, height : -12.15510082244873} 请问你们之前有使用a100 gpu运行的成功经验吗？0714update:英文的请求能够正确输出了。但是中文的请求搭配英文的system定义依然乱码，请问这是符合预期的吗。请求输入如下 {"role": "system", "content": [{"type": "text", "text": "You are a helpful assistant."}]},{"role": "user", "content": [{"type": "text", "text": "告知我你叫什么名字？"}]} PS：中文system+中文user的提示词没有问题，正常返回
请问你们之前有使用a100 gpu运行的成功经验吗？0714update:英文的请求能够正确输出了。但是中文的请求搭配英文的system定义依然乱码，请问这是符合预期的吗。请求输入如下 {"role": "system", "content": [{"type": "text", "text": "You are a helpful assistant."}]},{"role": "user", "content": [{"type": "text", "text": "告知我你叫什么名字？"}]} PS：中文system+中文user的提示词没有问题，正常返回
请问你们之前有使用a100 gpu运行的成功经验吗？
0714update:英文的请求能够正确输出了。但是中文的请求搭配英文的system定义依然乱码，请问这是符合预期的吗。请求输入如下 {"role": "system", "content": [{"type": "text", "text": "You are a helpful assistant."}]},{"role": "user", "content": [{"type": "text", "text": "告知我你叫什么名字？"}]} PS：中文system+中文user的提示词没有问题，正常返回
0714update:英文的请求能够正确输出了。但是中文的请求搭配英文的system定义依然乱码，请问这是符合预期的吗。请求输入如下
{"role": "system", "content": [{"type": "text", "text": "You are a helpful assistant."}]},{"role": "user", "content": [{"type": "text", "text": "告知我你叫什么名字？"}]} PS：中文system+中文user的提示词没有问题，正常返回
PS：中文system+中文user的提示词没有问题，正常返回
苹果手机呼叫转移操作方法如下。呼叫转移是为了在手机无法接听或不在服务区等情况下，仍能让其他人与你取得联系。呼叫转移可以在设置中进行设定。详细方法如下：1. 打开“设置”，选择“电话”。2. 点击“呼叫转移”，打开呼叫转移页面。3. 输入需要呼叫转移的号码。4. 在呼叫转移页面中开启需要的呼叫转移选项。5. 设置好后，即可完成呼叫转移的操作。
京瓷6525的扫描设置可以通过以下步骤进行：
1. 打开京瓷6525的控制面板。
2. 在控制面板上找到 "扫描" 或 "扫描设置" 的选项。这一般位于主界面或设置菜单中。
3. 进入扫描设置菜单后，你可以设置以下参数：
- 扫描目标：选择扫描的目标文件类型，如PDF、JPEG等。
- 分辨率：选择扫描的图像分辨率，一般以dpi（每英寸点数）为单位。
- 扫描模式：选择扫描的模式，这可以是彩色、黑白或灰度。
- 框选区域：如需在文档中指定特定的扫描区域，请思考设置框选区域。一些扫描器支持手动设置扫描区域。
- 存储位置：选择扫描文件将保存的位置，可以是计算机上的文件夹、网络共享文件夹或外部设备。
4. 根据你的需求和偏好，调整相应的扫描设置。
5. 配置完成后，点击 "开始扫描" 或类似的按钮来启动扫描过程。
请注意，以上步骤仅提供了一般的操作指导，实际的扫描设置步骤可能会因京瓷6525的具体型号和配置而有所不同。提议参考设备的用户手册或联系生产厂商获取更详细的扫描设置指导。
1.鼠标右键单击工具栏空白处。
2.打开菜单选择任务管理器选项。
3.在任务管理器中，打开启动项目栏。
4.在启动项目栏中，找到我们需要启动的应用程序。
5.点击启用按钮，就可以开启应用软件的启动设置。
将TCL电视作为电脑的外接显示器，您可以按照以下步骤进行设置：
将TCL电视和电脑通过HDMI线连接起来。
打开TCL电视，选择HDMI输入源。
在电脑上，右键点击桌面空白处，选择“显示设置”。
在“显示设置”窗口中，找到“多个显示器”选项，选择“扩展这些显示器”。
确认TCL电视已被检测到，并将其设置为“扩展到此显示器”。
调整TCL电视的分辨率和刷新率，以确保其与电脑的分辨率和刷新率匹配。
点击“应用”按钮，保存设置。
那是你的转账信息出现漏填写了，或者是你的微信设置的缘由，你没有设置到账交易详情通知！
社交账号登录
![表情[tiaopi] - 宋马](https://bbs.songma.com/wp-content/themes/zibll/img/smilies/tiaopi.gif)
