AI Challenger 2018 细粒度用户评论情感分析 fastText Baseline

Deep Learning Specialization on Coursera

上一篇《AI Challenger 2018 进行时》文尾我们提到 AI Challenger 官方已经在 GitHub 上提供了多个赛道的 Baseline: AI Challenger 2018 Baseline ,其中文本挖掘相关的3个主赛道均有提供,非常适合用来学习:英中文本机器翻译的 baseline 就直接用了Google官方基于Tensorflow实现的Tensor2Tensor跑神经网络机器翻译Transformer模型,这个思路是我在去年《AI Challenger 2017 奇遇记》里的终极方案,今年已成标配;细粒度用户评论情感分析提供了一个基于支持向量机(SVM)的多分类模型 baseline;观点型问题阅读理解提供一个深度学习模型 baseline , 基于pytorch实现论文《Multiway Attention Networks for Modeling Sentence Pairs》里的思路。

本次 AI Challenger 2018, 除了英中文本机器翻译,另一个我比较关注的赛道是: 细粒度用户评论情感分析。情感分析是自然语言处理里面的一个经典任务,估计很多同学入门NLP的时候都玩过 IMDB Movie Reviews Dataset , 这个可以定义为一个二分类的情感分类问题。不过这次 AI Challenger 的细粒度用户评论情感分析问题,并不是这么简单:

简介

在线评论的细粒度情感分析对于深刻理解商家和用户、挖掘用户情感等方面有至关重要的价值,并且在互联网行业有极其广泛的应用,主要用于个性化推荐、智能搜索、产品反馈、业务安全等。本次比赛我们提供了一个高质量的海量数据集,共包含6大类20个细粒度要素的情感倾向。参赛人员需根据标注的细粒度要素的情感倾向建立算法,对用户评论进行情感挖掘,组委将通过计算参赛者提交预测值和场景真实值之间的误差确定预测正确率,评估所提交的预测算法。

数据说明

数据集分为训练、验证、测试A与测试B四部分。数据集中的评价对象按照粒度不同划分为两个层次,层次一为粗粒度的评价对象,例如评论文本中涉及的服务、位置等要素;层次二为细粒度的情感对象,例如“服务”属性中的“服务人员态度”、“排队等候时间”等细粒度要素。评价对象的具体划分如下表所示。

层次一(The first layer) 层次二(The second layer)
位置(location) 交通是否便利(traffic convenience)
距离商圈远近(distance from business district)
是否容易寻找(easy to find)
服务(service) 排队等候时间(wait time)
服务人员态度(waiter’s attitude)
是否容易停车(parking convenience)
点菜/上菜速度(serving speed)
价格(price) 价格水平(price level)
性价比(cost-effective)
折扣力度(discount)
环境(environment) 装修情况(decoration)
嘈杂情况(noise)
就餐空间(space)
卫生情况(cleaness)
菜品(dish) 分量(portion)
口感(taste)
外观(look)
推荐程度(recommendation)
其他(others) 本次消费感受(overall experience)
再次消费的意愿(willing to consume again)

每个细粒度要素的情感倾向有四种状态:正向、中性、负向、未提及。使用[1,0,-1,-2]四个值对情感倾向进行描述,情感倾向值及其含义对照表如下所示:

情感倾向值(Sentimental labels) 1 0 -1 -2
含义(Meaning) 正面情感(Positive) 中性情感(Neutral) 负面情感(Negative) 情感倾向未提及(Not mentioned)

首先有20个粒度的评价指标,每个粒度又有4种情感状态,从官方baseline来看,分别训练了20个(4标签)分类器。抱着学习的态度,我跑了一下官方的 baseline,不过结果有点惨不忍睹,最终的F1均值只有0.2多一点,不知道哪个环节出了问题,另外一个问题是,整个训练过程大概花了2、3天,对于我来说稍微有点长。对于文本分类问题,自从有了 fastText,我最喜欢用 fastText 做 baseline,最大的原因就是快,另外就是结果也不逊于传统的机器学习模型。

但是,要用facebook官方的 fastText 以及自带的 Python fastText 工具包做这件事并不容易,或者说对于20个多标签分类器来说这事很繁琐。不过沿着 AI Challenger 2018官方提供的 baseline 代码思路,它里面用了sklearn的分类器接口,我在想能否借用这个接口把fastText引入,这个时候,自然想到了google,google了一下关键词"fasttext sklearn", 果然发现了两个第三方工具:

sklearn-fasttext:A scikit learn based interface to facebook fasttext.

skift:scikit-learn wrappers for Python fastText.

分别试了一下,发现后者能满足我的需求,于是动手修改了一下 AI Challenger 官方的 baseline 代码,引入 fastText,于是就有了这个版本:fastText for AI Challenger Sentiment Analysis

Github地址:https://github.com/panyang/fastText-for-AI-Challenger-Sentiment-Analysis

AI Challenger 2018 Sentiment Analysis Baseline with fastText

功能描述

本项目主要基于AI Challenger官方baseline修改了一个基于fastText的baseline,方便参赛者快速上手比赛,主要功能涵盖完成比赛的全流程,如数据读取、分词、特征提取、模型定义以及封装、 模型训练、模型验证、模型存储以及模型预测等。baseline仅是一个简单的参考,希望参赛者能够充分发挥自己的想象,构建在该任务上更加强大的模型。

开发环境

  • 主要依赖工具包以及版本,详情见requirements.txt

项目结构

  • src/config.py 项目配置信息模块,主要包括文件读取或存储路径信息
  • src/util.py 数据处理模块,主要包括数据的读取以及处理等功能
  • src/main_train.py 模型训练模块,模型训练流程包括 数据读取、分词、特征提取、模型训练、模型验证、模型存储等步骤
  • src/main_predict.py 模型预测模块,模型预测流程包括 数据和模型的读取、分词、模型预测、预测结果存储等步骤

使用方法

  • 准备 virtualenv -p python3 venv & source venv/bin/activate & pip install -r requirement.txt
  • 配置 在config.py中配置好文件存储路径
  • 训练 运行 python main_train.py -mn your_model_name 训练模型并保存,同时通过日志可以得到验证集的F1_score指标
  • 预测 运行 python main_predict.py -mn your_model_name 通过加载上一步的模型,在测试集上做预测

以下是我在家里这台深度学习机器上的测试,不过并没有用到GPU,主要用的是CPU和内存:CPU是Intel/英特尔 Xeon E5-1620V4 CPU 4核心8线程,内存是48G。因为 skift 只支持python3, 所以是在Ubuntu16.04, python3.5的环境下测试的,其他环境是否能顺利测试通过不清楚。

git clone https://github.com/panyang/fastText-for-AI-Challenger-Sentiment-Analysis.gitcd fastText-for-AI-Challenger-Sentiment-Analysis/virtualenv -p python3 venvsource venv/bin/activatepip install -r requirement.txt

注意准备工作做完后,需要在config里设置相关文件的路径,默认配置大概是这样的:

import osdata_path = os.path.abspath('..') + "/data"model_path = data_path + "/model/"train_data_path = data_path + "/train/train.csv"validate_data_path = data_path + "/valid/valid.csv"test_data_path = data_path + "/test/testa.csv"test_data_predict_output_path = data_path + "/predict/testa_predict.csv"

注意运行代码前需要将相关输入输出路径建好,并将相关数据路径指定好,可以直接拷贝AI Challenger官方提供的数据文件,也可以用软连接指向。如果不做任何设定,可以直接用默认配置参数训练fasttext多模型,直接运行“python main_train.py” 即可。这样大概跑了不到10分钟,内存峰值占用不到8G,在验证集上得到一个f1均值约为0.5451的fasttext多分类模型(20个),模型存储位置在 model_path 下:fasttext_model.pkl,大概1.8G,在验证集上详细的F1值大致如下:

location_traffic_convenience:0.5175700387941342location_distance_from_business_district:0.427891674259875location_easy_to_find:0.570805555583767service_wait_time:0.5052181634999748service_waiters_attitude:0.6766570408968818service_parking_convenience:0.5814636947460745service_serving_speed:0.5701241141533907price_level:0.6161258412096242price_cost_effective:0.5679586399625348price_discount:0.5763345656700684environment_decoration:0.5554146717297597environment_noise:0.563452055291662environment_space:0.5288336794721515environment_cleaness:0.5511776910510577dish_portion:0.5527095496220675dish_taste:0.6114994440656155dish_look:0.43750894239614163dish_recommendation:0.41756941548558957others_overall_experience:0.5322283082904627others_willing_to_consume_again:0.54049000443115362018-10-02 14:32:18,927 [INFO]  (MainThread) f1_score: 0.5450516545305993

这是默认参数跑出来的结果,另外代码里增加了一些fastText可用的参数选项,例如learning_rate,word_ngrams, min_count参数,也可以基于这些参数进行调参:

if __name__ == '__main__':    parser = argparse.ArgumentParser()    parser.add_argument('-mn', '--model_name', type=str, nargs='?',                        default='fasttext_model.pkl',                        help='the name of model')    parser.add_argument('-lr', '--learning_rate', type=float, nargs='?',                        default=1.0)    parser.add_argument('-ep', '--epoch', type=int, nargs='?',                        default=10)    parser.add_argument('-wn', '--word_ngrams', type=int, nargs='?',                        default=1)    parser.add_argument('-mc', '--min_count', type=int, nargs='?',                        default=1)    args = parser.parse_args()    model_name = args.model_name    learning_rate = args.learning_rate    epoch = args.epoch    word_ngrams = args.word_ngrams    min_count = args.min_count

作为一个例子,这里将word_ngrams设置为2再跑一次:

python main_train.py -mn fasttext_wn2_model.pkl -wn 2

这次大约跑了15分钟,内存峰值最大到37G,存储的模型大约在17G,验证集F1值结果如下:

location_traffic_convenience:0.5482785384602362location_distance_from_business_district:0.4310319720574882location_easy_to_find:0.6140713866422334service_wait_time:0.5247890022873511service_waiters_attitude:0.6881098513108542service_parking_convenience:0.5828935095474249service_serving_speed:0.6168828054420539price_level:0.6615100420842464price_cost_effective:0.5954569043369508price_discount:0.5744529736585073environment_decoration:0.5743996877298929environment_noise:0.6186211367923496environment_space:0.5981761036053918environment_cleaness:0.6002515744280692dish_portion:0.5733503000134572dish_taste:0.6075507493398153dish_look:0.4424685719881029dish_recommendation:0.5936671419596734others_overall_experience:0.5325664419580063others_willing_to_consume_again:0.58756832986308152018-10-02 14:53:00,701 [INFO]  (MainThread) f1_score: 0.5783048511752592

这个结果看起来还不错,我们可以基于这个fasttext多分类模型进行测试集的预测:

python main_predict.py -mn fasttext_wn2_model.pkl

大约运行不到3分钟,预测结果就出炉了,可以在 test_data_predict_output_path 找到这个预测输出文件: testa_predict.csv ,然后就可以去官网提交了,在线提交的结果和验证集F1值大致相差0.01~0.02。这里还可以做一些事情来优化结果,譬如去停用词,不过我试了去停用词和去一些标点符号,结果还有一些降低;调参,learning_rate的影响是比较直接的,min_count设置为2貌似也有一些负向影响,有兴趣的同学可以多试试,寻找一个最优组合。

欢迎关注我们的公众号:

注:原创文章,转载请注明出处及保留链接“我爱自然语言处理”:

本文链接地址:AI Challenger 2018 细粒度用户评论情感分析 fastText Baseline /?p=10537

欢迎关注我们的公众号

NLPJob

AI Challenger 2018 细粒度用户评论情感分析 fastText Baseline》上有18条评论

  1. Au3C2

    请问我使用vs code运行main_train.py至 行45:“vectorizer_tfidf.fit(content_train)”这一句时,报错“python exception: no description”,是怎么回事?

    [回复]

    52nlp 回复:

    你运行的是官方baseline吧?vs code运行我不太清楚

    [回复]

    薛颖斌 回复:

    您好 请问下 我允许代码一直出现“ImportError: cannot import name 'train_supervised'” 不知道是什么原因,您可以指导一下吗?

    [回复]

    52nlp 回复:

    先确认一下requirements依赖是否安装好了

    [回复]

  2. 韦木目

    你好,我在windows下运行main_train.py,总是出现错误:
    Traceback (most recent call last):
    File "F:/python_project/fast-text_sentiment/main_train.py", line 11, in
    from skift import FirstColFtClassifier
    File "C:UsersGavinAppDataLocalProgramsPythonPython37libsite-packagesskift__init__.py", line 3, in
    from .core import FirstColFtClassifier # noqa: F401
    File "C:UsersGavinAppDataLocalProgramsPythonPython37libsite-packagesskiftcore.py", line 8, in
    from fastText import train_supervised
    ModuleNotFoundError: No module named 'fastText'

    请问必须在linux系统才可以吗?以及fasttext找不到0.8.22版本

    [回复]

    52nlp 回复:

    抱歉,windows下我不清楚,fasttext的版本你看看requirement.txt里有github链接

    [回复]

  3. ppp

    请问要如何确定参数调整的方向呢,有没有办法看到模型训练过程中的学习曲线之类的?
    lr, epoch, word_ngram,dim这几个参数的放大或者缩小小会造成过拟合还是欠拟合呢?

    [回复]

    52nlp 回复:

    这里没有细究;如果需要细究的话,建议给需要调的几个参数加log,训练完毕后做图观察。

    [回复]

  4. ppp

    想要对几个模型的预测结果进行平均,请问可以求出testa对于[-2, -1, 0, 1]这几个值各自的正确率吗?

    [回复]

  5. 薛颖斌

    你好 很感谢你提供自己的研究方法提供给我们参考 我在调试你的代码的时候 “from fasttext import train_supervised”报错“ImportError: cannot import name 'train_supervised'”,不知道哪里出错 可以指导一下吗?

    [回复]

  6. xrz

    博主能不能提供一份大赛上的数据集

    [回复]

    52nlp 回复:

    现在不可以报名了?我印象只要你报名了就可以下载数据了

    [回复]

    点儿点儿 回复:

    现在不能报名了,所以不能下载数据了,麻烦博主分享下数据吧,谢谢

    [回复]

    52nlp 回复:

    从报名协议上来说,我是不能给你们提供数据的,搜了一下,有散落在github上的其他同学留存的数据:https://github.com/tinySean/Fine-grained-user-commenting-emotions

发表评论

电子邮件地址不会被公开。 必填项已用*标注