作家
登录

使用python+机器学习方法进行情感分析(详细步骤)

作者: 来源: 2018-01-04 17:36:48 阅读 我要评论

  • def bag_of_words(words):  
  • return dict([(word, Truefor word in words]) 
  • 返回的是字典类型,这是nltk 处理情感分类的一个标准情势。

    2. 把双词搭配(bigrams)作为特点

    1. mport nltk  
    2. from nltk.collocations import BigramCollocationFinder  
    3. from nltk.metrics import BigramAssocMeasures  
    4. def bigram(words, score_fn=BigramAssocMeasures.chi_sq, n=1000):  
    5. bigram_finder = BigramCollocationFinder.from_words(words) #把文本变成双词搭配的情势  
    6. bigrams = bigram_finder.nbest(score_fn, n) #应用了卡方统计的办法,选择排名前1000的双词  
    7. return bag_of_words(bigrams) 

    除了可以应用卡方统计来选择信息量丰富的双词搭配,还可以应用其它的办法,比如互信息(PMI)。而排名前1000也执偾人工选择的阈值,可以随便选择其它值,可经由测试一步步找到最优值。

    3. 把所有词和双词搭配一路作为特点

    1. def bigram_words(words, score_fn=BigramAssocMeasures.chi_sq, n=1000):  
    2. bigram_finder = BigramCollocationFinder.from_words(words)  
    3. bigrams = bigram_finder.nbest(score_fn, n)  
    4. return bag_of_words(words + bigrams) #所有词和(信息量大年夜的)双词搭配一路作为特点 

    二、特点选择办法

    有了提取特点的办法后,我们就可以提取特点来进行分类进修了。但一般来说,太多的特点会降低分类的精确度,所以须要应用必定的办法,来“选择”出信息量最丰富的特点,再应用这些特点来分类。

    特点选择遵守如下步调:

    1. 计算出全部语料琅绫擎每个词典信息量
    2. 根据信息量进行倒序排序,选择排名靠前的信息量的词
    3. 把这些词作为特点

    1. 计算出全部语料琅绫擎每个词典信息量

    1.1 计算全部语料琅绫擎每个词典信息量

    1. from nltk.probability import FreqDist, ConditionalFreqDist  
    2. def create_word_scores(): posWords = pickle.load(open('D:/code/sentiment_test/pos_review.pkl','r')) ..... return word_scores #包含了每个词和这个词典信息量 

    1.2 计算全部语料琅绫擎每个词和双词搭配的信息量

    1. def create_word_bigram_scores():  
    2. posdata = pickle.load(open('D:/code/sentiment_test/pos_review.pkl','r')) negdata = pickle.load(open('D:/code/sentiment_test/neg_review.pkl','r')) ..... return word_scores 

    2. 根据信息量进行倒序排序,选择排名靠前的信息量的词

    1. def find_best_words(word_scores, number):  
    2. best_vals = sorted(word_scores.iteritems(), key=lambda (w, s): s, reverse=True)[:number] #把词按信息量倒序排序。number是特点的维度,是可以赓续调剂直至最优的 

        推荐阅读

        Linux下使用sudo进行赋权

      进修怎么在保护 root 暗码的安然性的同时,为可托用户付与所治理的收集功能和特定办事的权限。我比来写了一个简短的 Bash 法度榜样来将 MP3 文件大年夜一台收集主机的 USB 盘中拷贝到另一台收集主机上去。拷贝出来的>>>详细阅读


      本文标题:使用python+机器学习方法进行情感分析(详细步骤)

      地址:http://www.17bianji.com/lsqh/40229.html

    关键词: 探索发现

    乐购科技部分新闻及文章转载自互联网,供读者交流和学习,若有涉及作者版权等问题请及时与我们联系,以便更正、删除或按规定办理。感谢所有提供资讯的网站,欢迎各类媒体与乐购科技进行文章共享合作。

    网友点评
    自媒体专栏

    评论

    热度

    精彩导读
    栏目ID=71的表不存在(操作类型=0)