百度文库 - 让每个人平等地提升自我 50行Python代码写一个语言检测器 你有没有曾经好奇过Chrome浏览器是如何知道一个网页的语言，并对外国文字的网页提供翻译服务的？或者，Facebook是如何翻译你朋友用写在你主页上的外国文字？检测一种语言实际上非常简单，改进了用户体验，而且不需要用户做任何的事情。 AD： 你有没有曾经好奇过Chrome浏览器是如何知道一个网页的语言，并对外国文字的网页提供翻译服务的？或者，Facebook是如何翻译你朋友用写在你主页上的外国文字？检测一种语言实际上非常简单，改进了用户体验，而且不需要用户做任何的事情。 我无意中发现的ActiveState recipe for a language detector in Python这是非常不错的一段程序，但是我决定做点小小的改进。提供一些背景知识给那些不熟悉自然语言处理或者是程序语言学的人。 如果你是有经验的程序员，你也许可以直接跳到这段文字最下端的程序部分。出奇的简单。 你需要熟悉Python语法。如果你从来没有用过python， 我建议你读一下Zed Shaw 的《Learn Python the Hard Way》。 确定你下载并安装了python，而且可以正常运行程序。这段文字中的python不算很长，所以你可以用任何文本编辑器从而省去安装任何软件的麻烦。（译者注：在线的python 编译器也可以运行这段程序，其中一种编译器在jobbole 的另一篇文章中提到过，53346）。 第一部分，什么检测到了一种语言？ 在你写区分语言的程序之前，你需要回答一个问题：什么区别了两种语言？ 有趣的是，这个问题的答案会根据不同的比较语言而有所不同。比如： 女性が牛乳を飲んだ。 (译者注： 日语：女性喝牛奶。) 你是怎么知道这句话不是英文的？你也许不熟悉日文，但是你肯定知道这些字符不是英文，你甚至不需要知道具体哪个字符不存在于英文字母中。 La femme boit du lait. (译者注： 法语：女性喝牛奶。) 你怎么知道这句话不是英文的？有一点麻烦。每个字母都在英文中。甚至每一个字母和句型结构都和英文的同一个意思的那句话很相似 The woman drank milk. (译者注： 英语：女性喝牛奶。) 。 你的大脑用了另一个特性去判断这个：尽管字母很相似，这两句话发音没有任何相似之处。 还有很多更复杂的方式去检测两种不同的语言（例如，语法、句法等等）上面提到的两个特性似乎足够用来区分很多的书写文字。 提问：你可以想到一个相反的例子嘛？ 两种不能用字符或者发音而区分的语言？（译者注：这是我想到的，和编者没有任何关系。Hindi 和Nepali 的区分度极低，印度的一种语言和尼泊尔的官方语言的区别度非常低，字符区别很低而发音更高达50％的相似度。当然，他们两个是同一语系的语种。） 第二部分，如何用计算机检测到这些特性？ 第一个特性已经存在于任何一台现代化的机器里 character encodings字符解码允许任何一台计算机去通过二进制码而呈现每一个字水草玛瑙符。我们要用unicode 在Python 的程序中。 第二个特征更有意思。如何能让一台电脑检测到字符串的发音呢？答案比想象的简单点：字符串顺序是按照声音解码的！他们有直接的稳定的对应关系－ 语言改变的非常缓慢。 因此，你可以用下面的两个特性去检测一行文本语言： 单个字符的重复性 字符串的重复性 实际上，这两个特性浓缩到了一个特性中：字符串的顺序。单个字符的重复性只是字符串的重复性。 快速知识补充：在计算机语言学中，字符串的长度 n 被定义为 n-gram。 a 是一个gram, 1-gram. bc 是两个gram,2-gram or bigram。 def 是三个gram, 3-gram 或者trigram，以此类推。 第三部分，用python 实现吧！ 1 百度文库 - 让每个人平等地提升自我 首先，我们需要计算某个字符串在特定文本中出现的次数。为了封装结果，我们将建立一个NGram 类。 原文链接：write-language-detector-50-lines-python 译文链接：54707【编辑推荐】像老大一样调试Python你需要知道的、有用的 Python 功能和特点像老大一样优化PythonPostgreSQL连接Python【责任编辑：chensf TEL：（010）68476606】 C#入门经典(第3版) 本书将全面介绍C#编程的所有知识，共分为5篇：第1篇是C#语言：介绍了C#语言的所有内容，从基础知识到面向对象的技术，应有尽有。 2 本文来源：https://www.wddqw.com/doc/fae6d025d8ef5ef7ba0d4a7302768e9951e76e9a.html