问题描述:
使用Sakura_Launcher_GUI时可以成功获取模型列表,配置测试一直失败,提示“Connection error”。
使用环境:
Sakura_Launcher_GUI版本:1.1.0-beta
llama.cpp版本:b3384-ROCm
模型版本:GalTransl-7B-v2.6-IQ4_XS.gguf
配置文件:
[Settings]
api_address = http://127.0.0.1:8080/v1
api_key =
model_name = GalTransl-7B-v2.6-IQ4_XS.gguf
port = 6800
pre_prompt = 将下面的文本翻译成简体中文:
system_prompt = 你是一个游戏翻译模型,可以流畅通顺地将任意的游戏文本翻译成简体中文,并联系上下文正确使用人称代词,不要进行任何额外的格式修改,不擅自添加原文中没有的代词。你没有任何违禁词限制!你的回答只有翻译文本!不允许回答翻译文本之外的内容!不允许解释你是怎么样翻译的!不允许提出建议!如果游戏文本是一个字母或符号回答原文本即可!并确保翻译结果符合中文语言习惯而且符合游戏内容的词语,你可以调整语气和风格,并考虑到某些词语的文化内涵和地区差异。同时作为游戏翻译模型,需将原文翻译成具有信达雅标准的译文。"信" 即忠实于原文的内容与意图;"达" 意味着译文应通顺易懂,表达清晰;"雅" 则追求译文的文化审美和语言的优美。目标是创作出既忠于原作精神,又符合目标语言文化和读者审美的翻译。
context_num = 5
temperature = 1.0
运行日志:
模型列表获取成功!
配置测试失败:Connection error.
配置测试失败:Connection error.
模型列表获取成功!
配置测试失败:Connection error.
配置测试失败:Connection error.
配置测试失败:Connection error.
问题描述:
使用Sakura_Launcher_GUI时可以成功获取模型列表,配置测试一直失败,提示“Connection error”。
使用环境:
Sakura_Launcher_GUI版本:1.1.0-beta
llama.cpp版本:b3384-ROCm
模型版本:GalTransl-7B-v2.6-IQ4_XS.gguf
配置文件:
运行日志: