[2312.1208v1]LlaMaVAE:通过连续潜在句子空间指导大型语言模型生成

- LlaMaVAE是结合了VAE架构和表达性编码器和解码器模型的方法,旨在提供更好的文本生成控制。 - Invertible CVAE是一种新方法,通过基于流动的可逆神经网络(INNs)可以有条件地引导VAE生成。 - LlaMaVAE在语言建模、语义文本相似性和定义建模等任务中表现优于之前的VAE语言模型Optimus。 - 插值和遍历实验的定性分析表明,LlaMaVAE具有更高的语义聚类和几何一致性,从而实现更好的生成控制。

评论