在搞验证码识别的时候需要比较字符代码的相似度用到“编辑距离算法”,关于原理和C#实现做个记录。
据百度百科介绍:
编辑距离,又称Levenshtein距离(也叫做Edit Distance),是指两个字串之间,由一个转成另一个所需的最少编辑操作次数,如果它们的距离越大,说明它们越是不同。许可的编辑操作包括将一个字符替换成另一个字符,插入一个字符,删除一个字符。
例如将kitten一字转成sitting:
sitten (k→s)
sittin (e→i)
sitting (→g)
俄罗斯科学家Vladimir Levenshtein在1965年提出这个概念。因此也叫Levenshtein Distance。
例如
- 如果str1="ivan",str2="ivan",那么经过计算后等于 0。没有经过转换。相似度=1-0/Math.Max(str1.length,str2.length)=1
- 如果str1="ivan1",str2="ivan2",那么经过计算后等于1。str1的"1"转换"2",转换了一个字符,所以距离是1,相似度=1-1/Math.Max(str1.length,str2.length)=0.8
应用 DNA分析
拼字检查
语音辨识
抄袭侦测
感谢大石头在评论中给出一个很好的关于此方法应用的连接 补充在此:
小规模的字符串近似搜索,需求类似于搜索引擎中输入关键字,出现类似的结果列表,文章连接:【算法】字符串近似搜索算法过程
- str1或str2的长度为0返回另一个字符串的长度。 if(str1.length==0) return str2.length; if(str2.length==0) return str1.length;
- 初始化(n+1)*(m+1)的矩阵d,并让第一行和列的值从0开始增长。
- 扫描两字符串(n*m级的),如果:str1 == str2[j],用temp记录它,为0。否则temp记为1。然后在矩阵d[i,j]赋于d[i-1,j]+1 、d[i,j-1]+1、d[i-1,j-1]+temp三者的最小值。
- 扫描完后,返回矩阵的最后一个值d[n][m]即是它们的距离。
计算相似度公式:1-它们的距离/两个字符串长度的最大值。
为了直观表现,我将两个字符串分别写到行和列中,实际计算中不需要。我们用字符串“ivan1”和“ivan2”举例来看看矩阵中值的状况:
1、第一行和第一列的值从0开始增长
| | i | v | a | n | 1 |
| 0 | 1 | 2 | 3 | 4 | 5 |
i | 1 | | | | | |
v | 2 | | | | | |
a | 3 | | | | | |
n | 4 | | | | | |
2 | 5 | | | | | |
2、i列值的产生 Matrix[i - 1, j] + 1 ; Matrix[i, j - 1] + 1 ; Matrix[i - 1, j - 1] + t
| | i | v | a | n | 1 |
| 0+t=0 | 1+1=2 | 2 | 3 | 4 | 5 |
i | 1+1=2 | 取三者最小值=0 | | | | |
v | 2 | 依次类推:1 | | | | |
a | 3 | 2 | | | | |
n | 4 | 3 | | | | |
2 | 5 | 4 | | | | |
3、V列值的产生
| | i | v | a | n | 1 |
| 0 | 1 | 2 | | | |
i | 1 | 0 | 1 | | | |
v | 2 | 1 | 0 | | | |
a | 3 | 2 | 1 | | | |
n | 4 | 3 | 2 | | | |
2 | 5 | 4 | 3 | | | |
依次类推直到矩阵全部生成
| | i | v | a | n | 1 |
| 0 | 1 | 2 | 3 | 4 | 5 |
i | 1 | 0 | 1 | 2 | 3 | 4 |
v | 2 | 1 | 0 | 1 | 2 | 3 |
a | 3 | 2 | 1 | 0 | 1 | 2 |
n | 4 | 3 | 2 | 1 | 0 | 1 |
2 | 5 | 4 | 3 | 2 | 1 | 1 |
最后得到它们的距离=1
相似度:1-1/Math.Max(“ivan1”.length,“ivan2”.length) =0.8
算法用C#实现
普通浏览复制代码
1. showpublic class
2. {
3. /// <summary>
4. /// 取最小的一位数
5. /// </summary>
6. /// <param name="first"></param>
7. /// <param name="second"></param>
8. /// <param name="third"></param>
9. /// <returns></returns>
10. private int LowerOfThree(int first, int second, int third)
11. {
12. int min = Math.Min(first, second);
13. return Math.Min(min, third);
14. }
15. private int Levenshtein_Distance(string str1, string str2)
16. {
17. int[,] Matrix;
18. int n = str1.Length;
19. int m = str2.Length;
20. int temp = 0;
21. char ch1;
22. char ch2;
23. int i = 0;
24. int j = 0;
25. if (n == 0)
26. {
27. return m;
28. }
29. if (m == 0)
30. {
31. return n;
32. }
33. Matrix = new int[n + 1, m + 1];
34. for (i = 0; i <= n; i++)
35. {
36. //初始化第一列
37. Matrix[i, 0] = i;
38. }
39. for (j = 0; j <= m; j++)
40. {
41. //初始化第一行
42. Matrix[0, j] = j;
43. }
44. for (i = 1; i <= n; i++)
45. {
46. ch1 = str1[i - 1];
47. for (j = 1; j <= m; j++)
48. {
49. ch2 = str2[j - 1];
50. if (ch1.Equals(ch2))
51. {
52. temp = 0;
53. }
54. else
55. {
56. temp = 1;
57. }
58. Matrix[i, j] = LowerOfThree(Matrix[i - 1, j] + 1, Matrix[i, j - 1] + 1, Matrix[i - 1, j - 1] + temp);
59. }
60. }
61. for (i = 0; i <= n; i++)
62. {
63. for (j = 0; j <= m; j++)
64. {
65. Console.Write(" {0} ", Matrix[i, j]);
66. }
67. Console.WriteLine("");
68. }
69. return Matrix[n, m];
70. }
71. /// <summary>
72. /// 计算字符串相似度
73. /// </summary>
74. /// <param name="str1"></param>
75. /// <param name="str2"></param>
76. /// <returns></returns>
77. public decimal LevenshteinDistancePercent(string str1, string str2)
78. {
79. //int maxLenth = str1.Length > str2.Length ? str1.Length : str2.Length;
80. int val = Levenshtein_Distance(str1, str2);
81. return 1 - (decimal)val / Math.Max(str1.Length, str2.Length);
82. }
83. }
1 | <STRONG>调用</STRONG> |
普通浏览复制代码
1. 2. showstatic void Main(string[] args)
3. 4. {
5. 6. string str1 = "ivan1";
7. 8. string str2 = "ivan2";
9. 10. Console.WriteLine("字符串1 {0}", str1);
11. 12. 13. Console.WriteLine("字符串2 {0}", str2);
14. 15. 16. Console.WriteLine("相似度 {0} %", new LevenshteinDistance().LevenshteinDistancePercent(str1, str2) * 100);
17. 18. Console.ReadLine();
19. 20. }
1 | <STRONG>结果</STRONG> |
------------------------------
动态时间弯曲距离 dynamic time warping
1.What is 动态时间弯曲距离 <ignore_js_op>
在日常的生活中我们最经常使用的距离毫无疑问应该是欧式距离,但是对于一些特殊情况,欧氏距离存在着其很明显的缺陷,比如说时间序列,举个比较简单的例子,序列A:1,1,1,10,2,3,序列B:1,1,1,2,10,3,如果用欧氏距离,也就是distance[j]=(b[j]-a)*(b[j]-a)来计算的话,总的距离和应该是128,应该说这个距离是非常大的,而实际上这个序列的图像是十分相似的,这种情况下就有人开始考虑寻找新的时间序列距离的计算方法,然后提出了DTW算法,这种方法在语音识别,机器学习方便有着很重要的作用。
这个算法是基于动态规划(DP)的思想,解决了发音长短不一的模板匹配问题,简单来说,就是通过构建一个邻接矩阵,寻找最短路径和。
还以上面的2个序列作为例子,A中的10和B中的2对应以及A中的2和B中的10对应的时候,distance[3]以及distance[4]肯定是非常大的,这就直接导致了最后距离和的膨胀,这种时候,我们需要来调整下时间序列,如果我们让A中的10和B中的10 对应 ,A中的1和B中的2对应,那么最后的距离和就将大大缩短,这种方式可以看做是一种时间扭曲,看到这里的时候,我相信应该会有人提出来,为什么不能使用A中的2与B中的2对应的问题,那样的话距离和肯定是0了啊,距离应该是最小的吧,但这种情况是不允许的,因为A中的10是发生在2的前面,而B中的2则发生在10的前面,如果对应方式交叉的话会导致时间上的混乱,不符合因果关系。
接下来,以output[6][6](所有的记录下标从1开始,开始的时候全部置0)记录A,B之间的DTW距离,简单的介绍一下具体的算法,这个算法其实就是一个简单的DP,状态转移公式是output[j]=Min(Min(output[i-1][j],output[j-1]),output[i-1][j-1])+distance[j];最后得到的output[5][5]就是我们所需要的DTW距离.
2.动态时间弯曲距离程序Matlab C++3.在金融工程中的应用根据动态时间距离方法预测市场走势 理论基础:历史重复,使用模式匹配方法,寻找历史中与现在最接近的时段!!
(1)基于日线--动态时间距离方法预测市场走势(每日自动更新)(2)基于日线列出最相似T0p5--动态时间距离方法预测市场走势(每日自动发送)
(3)基于交易量与价格等等。。。。