|
|
词频定理:足够多的语料增加一倍时,低频词的增加数量为定值.
昨天忙了一天,搞出这么一个定理,希望大家证明或证伪.
用于汉字(我把汉字当词看)则是:十万字以上的语料增加一倍时,低频字的增加数量小于500.
应用:已知180万字的语料中有汉字4574个,则
360万字的语料中汉字不多于5074个.
720万字的语料中汉字不多于5574个.
1440万字的语料中汉字不多于6074个.
2880万字的语料中汉字不多于6574个.等等.
语料中当然不能有字典或GBK字库之类的资料.
定值的意思是一定范围内的值.
我希望能证明采用6万字的大字库是不明智的. |
|