基于Python的宋词生成器

article/2025/9/9 8:05:40

资源下载地址：https://download.csdn.net/download/sheziqiong/85631523

1. 背景

我有两个爱好，一个是传统文化，另一个是高新技术。

传统文化，我喜欢唐诗宋词、笔墨丹青，高新技术我则从事前沿的IT编程，喜欢研究人工智能。

我很想让这两者联系起来，这一老一新，不知道会碰撞出什么火花。

2. 成果

通过试验，利用循环神经网络结合文本生成，我最终练成神功：提供一个开头，他就会自动生成一篇宋词。而且，这篇新词绝对是原创。

开头	生成
细雨	细雨仙桂春。明月此，梦断在愁何。等闲帘寒，归。正在栖鸦啼来。
清风	清风到破向，貌成眠无风。人在梦断杜鹃风韵。门外插人莫造。怯霜晨。
高楼	高楼灯火，九街风月。今夜楼外步辇，行时笺散学空。但洗。俯为人间五色。
海风	海风落今夜，何处凤楼偏好。奇妙。残月破。将心青山上，落分离。
今夜	今夜谁和泪倚阑干。薰风却足轻。似泠愁绪。似清波似玉人。羞见。

对于诗词稍有研究的我，对于上面“高楼”一词生成的文本，比较满意。

高楼灯火，九街风月。今夜楼外步辇，行时笺散学空。但洗。俯为人间五色。

高楼处在高处，后面的文本也体现了“高”的特色，“高楼望街”是一番意境，“高楼望夜”又是另一番意境，最后出了一个“俯看五色”，一个“俯”字，也是体现了居高临下，整篇文本无不围绕“高”的主题。实乃绝妙！

下面就来剖析下，宋词生成是如何实现的。

3. 实现方式

3.1 数据的准备

我找到了一个宋词数据集，是一个csv格式的文件，里面有2万首宋词。

文档的第一列是词牌名，第二列是作者，第三列是正文。其中正文，已经做好了分词处理。

想要了解分词，可以查看NLP知识点：中文分词。

3.2 数据的读入

首先导入整个项目涉及到的包。

import csv
import tensorflow as tf
from tensorflow.keras.preprocessing.text import Tokenizer
from tensorflow.keras.preprocessing.sequence import pad_sequences
import numpy as np
from tensorflow.python.keras.engine.sequential import Sequential
from tensorflow.keras import layers
from tensorflow.keras.optimizers import Adam

下面是加载数据集文件中数据的方法。

def load_data(num = 1000):# 读取csv文件。表头：0 题目| 1 作者| 2 内容csv_reader = csv.reader(open("./ci.csv",encoding="gbk"))# 以一首词为单位存储ci_list = []for row in csv_reader:# 取每一行，找到词内容那一列ci_list.append(row[2])#　超过最大数量退出循环，用多少取多少if len(ci_list) > num:break return ci_list

然后进行数据序列化。

这里要重点说明一下，因为要做文本预测的训练，需要从上面的词语推断出下面的词语，所以这里做了一些加工。

比如“看山不是山，看山又是山”这一句，它给转化成了多句：

看山 不是
看山 不是 山 
看山 不是 山 ，
看山 不是 山 ， 看山
看山 不是 山 ， 看山 又是
看山 不是 山 ， 看山 又是 山

这么做的目的就是告诉神经网络，如果前面是“看山”，后面跟一个词语是“不是”。当前面变成“看山不是山，看山”时，这时“看山”后面就变成“又是”了。

“看山”后面并不是固定的，而是根据它前面一串词语综合判断而决定的。

将一句话，切成多句话，这是一个特殊处理的地方，就是下面代码做的事情：

for i in range(1, len(token_list)):n_gram_sequence = token_list[:i+1]input_sequences.append(n_gram_sequence)

3.3 构建模型

要训练数据，我们首先得有一个神经网络模型，下面是构建了一个网络模型序列。

def create_model(vocab_size, embedding_dim, max_length):# 构建序列模型model = Sequential()# 添加嵌入层model.add(layers.Embedding(vocab_size, embedding_dim, input_length = max_length))# 添加长短时记忆层model.add(layers.Bidirectional(layers.LSTM(512)))# 添加softmax分类model.add(layers.Dense(vocab_size, activation='softmax'))# adam优化器adam = Adam(lr=0.01)# 配置训练参数model.compile(loss='categorical_crossentropy',optimizer=adam, metrics=['accuracy'])return model

关于模型、层、激活函数的知识点，有专门解释：神经网络模型的序列和层、激活函数。


假设我们得到了训练序列input_sequences是：

[0, 0, 1, 2]
[0, 0, 3, 4]
[0, 3, 4, 5]
[3, 4, 5, 6]


对应文字就是：

[0, 0, 春花, 秋月]
[0, 0, 一江, 春水]
[0, 一江, 春水, 向东]
[一江, 春水, 向东, 流]


对于训练，一般都是成对的。一个输入，一个输出。机器将学习从输入推断出输出的诀窍。在这个例子中，因为是从上一个词推断出下一个词，所以输入和输出都要从上面的语料库中来取。下面这段代码就是从input_sequences取出了输入和输出：
```python
xs = input_sequences[:,:-1] 
labels = input_sequences[:,-1]