中文文本的分类（建模篇）

无人问津

MLP建模
模型结构:
嵌入层：用于转换为向量列表（NLP知识点）
平坦层
隐藏层
输出层

建立模型

1. from keras.models import Sequential
   
2. from keras.layers import Dense,Dropout,Embedding,Flatten
   
3. model = Sequential()
   
4. model.add(Embedding(output_dim=32,
   
5.                     input_dim=10000,
   
6.                     input_length=100))
   
7. model.add(Dropout(0.2))
   
8. model.add(Flatten())
   
9. model.add(Dense(units=256,
   
10.                 activation='relu' ))
    
11. model.add(Dropout(0.2))
    
12. 
    
13. model.add(Dense(units=1,
    
14.                 activation='sigmoid' ))

复制代码

训练模型

1. model.compile(loss='binary_crossentropy',
   
2.               optimizer='adam',
   
3.               metrics=['accuracy'])
   
4. 
   
5. train_history =model.fit(X_train, y_train,batch_size=100,
   
6.                          epochs=10,verbose=2,
   
7.                          validation_split=0.2)

复制代码

测试

1. scores = model.evaluate(X_test, y_test, verbose=1)
   
2. scores[1]
   
3. 
   
4. # result 0.7925

复制代码

LSTM建模
LSTM模型是一种递归神经网络，用来解决RNN的长期依赖问题的。

模型结构
嵌入层：用于转换为向量列表（NLP知识点）
LSTM层
隐藏层
输出层

建立模型

1. from keras.models import Sequential
   
2. from keras.layers import Dense,Dropout,Embedding,Flatten,LSTM
   
3. 
   
4. model = Sequential()
   
5. model.add(Embedding(output_dim=32,
   
6.                     input_dim=10000,
   
7.                     input_length=100))
   
8. model.add(Dropout(0.2))
   
9. model.add(LSTM(32))
   
10. model.add(Dense(units=256,
    
11.                 activation='relu' ))
    
12. model.add(Dropout(0.2))
    
13. model.add(Dense(units=1,
    
14.                 activation='sigmoid' ))

复制代码

训练模型

1. model.compile(loss='binary_crossentropy',
   
2.               optimizer='adam',
   
3.               metrics=['accuracy'])
   
4. 
   
5. train_history =model.fit(X_train, y_train,batch_size=100,
   
6.                          epochs=10,verbose=2,
   
7.                          validation_split=0.2)

复制代码

测试

1. scores = model.evaluate(X_test, y_test, verbose=1)
   
2. scores[1]
   
3. 
   
4. # result 0.8025

复制代码