代码之家 › 专栏 › 技术社区 › Sahar Millis

使用已知的python包实现n-gram、tf-idf和cosine相似性

cosine-similarity n-gram tf-idf machine-learning python

-2

Sahar Millis · 技术社区 · 8 年前

我正在尝试使用

N克
TF-IDF型
余弦相似性

示例

概念:

words=[…] 字='…' 相似性=预测(单词,单词) def predict(单词,单词): words_ngrams=创建_ngrams(words,range=(2,4))。 word rams=创建rams(word,range=(2,4))。 words_tokenizer=tfidf_tokenizer(单词_ngrams) word_vec=单词_tokenizer.transform(word) 返回余弦相似性(word-ved,words-tokenizer) 我在网络上搜索了一个简单而安全的实现,但找不到一个使用已知的python包的实现。as sklearn,nltk,scipy etc. 他们中的大多数人都使用“自制”计算。我试图避免手工编写每一步代码,我猜对于所有的“管道”都有一个简单的修复方法。任何帮助(和代码)都将不胜感激。tnx:(?) 概念: words = [...] word = '...' similarity = predict(words,word) def predict(words,word): words_ngrams = create_ngrams(words,range=(2,4)) word_ngrams = create_ngrams(word,range=(2,4)) words_tokenizer = tfidf_tokenizer(words_ngrams) word_vec = words_tokenizer.transform(word) return cosine_similarity(word_ved,words_tokenizer) 我在网上搜索了一个简单而安全的实现,但是我找不到一个正在使用已知的python包如sklearn、nltk、scipy等。他们中的大多数使用“自制”计算。我试图避免手工编写每一步代码,我猜对于所有的“管道”都有一个简单的修复方法。任何帮助(和代码)都将不胜感激。TNX:)

1 回复 | 直到 8 年前

Sahar Millis 8 年前

'''
### N-Gram & TD-IDF & Cosine Similarity
Using n-gram on 'from column' with TF-IDF to predict the 'to column'.
Adding to the df a 'cosine_similarity' feature with the numeric result.
'''
def add_prediction_by_ngram_tfidf_cosine( from_column_name,ngram_range=(2,4) ):
    global df
    from sklearn.feature_extraction.text import TfidfVectorizer
    from sklearn.metrics.pairwise import cosine_similarity
    vectorizer = TfidfVectorizer( analyzer='char',ngram_range=ngram_range )
    vectorizer.fit(df.FromColumn)

    w = from_column_name
    vec_word = vectorizer.transform([w])

    df['vec'] = df.FromColumn.apply(lambda x : vectorizer.transform([x]))
    df['cosine_similarity'] = df.vec.apply(lambda x : cosine_similarity(x,vec_word)[0][0])

    df = df.drop(['vec'],axis=1)

推荐文章

Google User · Django管理员在`list_display中未显示`creation_date`字段`

1 年前

user29747013 · 如何创建一个新的数据框架,其中包含原始数据框架中列的聚合列?

1 年前

ÎÎÎ½Î· ÎÎ®Î¹Î½Î¿Ï · Python lxml.html语法错误:使用lxml find时XPATH的谓词无效

1 年前

user29715306 · from_users=和chats=电视节目中的差异

1 年前

Redshoe · 当执行numpy.genfromtxt()时,python是否会读取文件的所有行?

1 年前

RASEL MAHMUD · 为什么以及如何在is_even()函数内的IF条件中递归X变量在满足0后递增?[副本]

1 年前

prayner · 更新嵌套字典包含列表中的项

1 年前

Bringo Jr · 我可以在O(n)中解决这个问题吗?

1 年前

Dave · 如何在for循环中修改列表值

1 年前

Shukurullox Komiljonov · 从记录中获得相互和解。使用SQL

1 年前