temperatureが高すぎて、途中で推論が爆発四散してる…？
りんごぱいカーギィ:kagi55x: (@kagi55x)国産LLMAIのPLaMoを試してみたんだが… (📎1)
デモサイトのデフォルト値がtop_p = 1 temp = 0.3だから、top_pのせいだなこりゃ…
ん～、temp=0.3 top_p=1でもふつうに回答出てきたなあ、なんだろう。
難しく考えないほうがいいか
tempが回答のばらつき、top_pが回答の幅広さで、どっちも上げまくると、こういうわけのわからない怪文書が生まれがちだけど…