NovelAI - 模型

自 2021 年 6 月 NovelAI 推出以来，创作者推出了许多创新的讲故事 AI 模型等等。每个模型的名称都受到神话和手工艺术品的启发。

Calliope 是 NovelAI 的第一个模型，于 2021 年 7 月 16 日发布。该模型有 27 亿个参数，但缺乏我们今天使用的质量和附加功能。好吧，这个模型不再可用。

当前模型

NovelAI 中的一些当前模型包括 −

1. Erato

Erato 是基于 2024 年 9 月 23 日发布的 Llama 3 70B 基础模型 的最新模型。该模型继续在 Nerdstash 预训练数据集的更新部分上进行标记训练。该模型经过精心定制，尤其是针对讲故事的任务。为了让用户能够将更多故事融入上下文，使用了 Llama 3 标记器，取代了 Nerdstash V2 标记器。

2. Kayra

Kayra 于 2023 年 7 月 28 日发布，它是特色高级模型之一，由 130 亿个参数组成。该模型因其高质量的故事讲述、文字冒险、说明和散文增强而广受欢迎，有助于出色地处理各种任务，如项目列表和视频记录。该模型具有令人印象深刻的 8,192 个 token 上下文窗口，比以前的模型高出四倍。

3. Clio

Clio 于 2023 年 5 月 23 日发布，这是第一个在 Shoggy GPU 集群上训练的"从头开始"模型，具有 30 亿个参数和 1.6 万亿个 token 用于训练。虽然该模型比其他模型小，但它以速度弥补了这一不足，因为它可以有效地执行文本冒险、指导和散文增强等任务。

4. 旧模型

Krake 于 2022 年 3 月 11 日发布，这是 NovelAI 微调的最大模型之一，使用 EleutherAI 的 Neo-X 20b 模型开发，以获得独特的讲故事体验。但是，它的生成速度慢，2048 个 token 窗口，并且与 Modules v2 不兼容。 Euterpe 是另一个基于 Fairseq 系列 13b Transformer 模型的传统模型，具有令人印象深刻的生成速度和与 Modules V2 的兼容性。

Sigurd 是 NovelAI 的第二个模型，具有 600 亿个参数，支持 Custom 和 Modules V2，也以闪电般的生成速度而闻名。Genji 和 Snek 是从 Euterpe 衍生的实验模型，Genji 专注于日语文本生成，Snek 专注于 Python 编码，但在最新模型推出后，由于它们功能更强大，因此不再推荐用于故事生成。