コード例 #1
0
ファイル: stemmer_test.go プロジェクト: darkhelmet/fetch
func channel(strs ...string) tokenizer.TokenChan {
	filter := Build()
	return filter.Process(tokenizer.NewTokenChan(strs))
}
コード例 #2
0
ファイル: simple.go プロジェクト: darkhelmet/fetch
func (st *SimpleTokenizer) Tokenize(input string) tokenizer.TokenChan {
	return tokenizer.NewTokenChan(strings.Fields(input))
}