极客时间已完结课程限时免费阅读

42 | 动态规划实战:如何实现搜索引擎中的拼写纠错功能?

42 | 动态规划实战:如何实现搜索引擎中的拼写纠错功能?-极客时间

42 | 动态规划实战:如何实现搜索引擎中的拼写纠错功能?

讲述:冯永吉

时长14:14大小13.01M

Trie 树那节我们讲过,利用 Trie 树,可以实现搜索引擎的关键词提示功能,这样可以节省用户输入搜索关键词的时间。实际上,搜索引擎在用户体验方面的优化还有很多,比如你可能经常会用的拼写纠错功能。
当你在搜索框中,一不小心输错单词时,搜索引擎会非常智能地检测出你的拼写错误,并且用对应的正确单词来进行搜索。作为一名软件开发工程师,你是否想过,这个功能是怎么实现的呢?

如何量化两个字符串的相似度?

计算机只认识数字,所以要解答开篇的问题,我们就要先来看,如何量化两个字符串之间的相似程度呢?有一个非常著名的量化方法,那就是编辑距离(Edit Distance)。
顾名思义,编辑距离指的就是,将一个字符串转化成另一个字符串,需要的最少编辑操作次数(比如增加一个字符、删除一个字符、替换一个字符)。编辑距离越大,说明两个字符串的相似程度越小;相反,编辑距离就越小,说明两个字符串的相似程度越大。对于两个完全相同的字符串来说,编辑距离就是 0。
根据所包含的编辑操作种类的不同,编辑距离有多种不同的计算方式,比较著名的有莱文斯坦距离(Levenshtein distance)和最长公共子串长度(Longest common substring length)。其中,莱文斯坦距离允许增加、删除、替换字符这三个编辑操作,最长公共子串长度只允许增加、删除字符这两个编辑操作。
而且,莱文斯坦距离和最长公共子串长度,从两个截然相反的角度,分析字符串的相似程度。莱文斯坦距离的大小,表示两个字符串差异的大小;而最长公共子串的大小,表示两个字符串相似程度的大小。
关于这两个计算方法,我举个例子给你说明一下。这里面,两个字符串 mitcmu 和 mtacnu 的莱文斯坦距离是 3,最长公共子串长度是 4。
了解了编辑距离的概念之后,我们来看,如何快速计算两个字符串之间的编辑距离?

如何编程计算莱文斯坦距离?

之前我反复强调过,思考过程比结论更重要,所以,我现在就给你展示一下,解决这个问题,我的完整的思考过程。
这个问题是求把一个字符串变成另一个字符串,需要的最少编辑次数。整个求解过程,涉及多个决策阶段,我们需要依次考察一个字符串中的每个字符,跟另一个字符串中的字符是否匹配,匹配的话如何处理,不匹配的话又如何处理。所以,这个问题符合多阶段决策最优解模型
我们前面讲了,贪心、回溯、动态规划可以解决的问题,都可以抽象成这样一个模型。要解决这个问题,我们可以先看一看,用最简单的回溯算法,该如何来解决。
回溯是一个递归处理的过程。如果 a[i]与 b[j]匹配,我们递归考察 a[i+1]和 b[j+1]。如果 a[i]与 b[j]不匹配,那我们有多种处理方式可选:
可以删除 a[i],然后递归考察 a[i+1]和 b[j];
可以删除 b[j],然后递归考察 a[i]和 b[j+1];
可以在 a[i]前面添加一个跟 b[j]相同的字符,然后递归考察 a[i]和 b[j+1];
可以在 b[j]前面添加一个跟 a[i]相同的字符,然后递归考察 a[i+1]和 b[j];
可以将 a[i]替换成 b[j],或者将 b[j]替换成 a[i],然后递归考察 a[i+1]和 b[j+1]。
我们将上面的回溯算法的处理思路,翻译成代码,就是下面这个样子:
private char[] a = "mitcmu".toCharArray();
private char[] b = "mtacnu".toCharArray();
private int n = 6;
private int m = 6;
private int minDist = Integer.MAX_VALUE; // 存储结果
// 调用方式 lwstBT(0, 0, 0);
public lwstBT(int i, int j, int edist) {
if (i == n || j == m) {
if (i < n) edist += (n-i);
if (j < m) edist += (m - j);
if (edist < minDist) minDist = edist;
return;
}
if (a[i] == b[j]) { // 两个字符匹配
lwstBT(i+1, j+1, edist);
} else { // 两个字符不匹配
lwstBT(i + 1, j, edist + 1); // 删除a[i]或者b[j]前添加一个字符
lwstBT(i, j + 1, edist + 1); // 删除b[j]或者a[i]前添加一个字符
lwstBT(i + 1, j + 1, edist + 1); // 将a[i]和b[j]替换为相同字符
}
}
根据回溯算法的代码实现,我们可以画出递归树,看是否存在重复子问题。如果存在重复子问题,那我们就可以考虑能否用动态规划来解决;如果不存在重复子问题,那回溯就是最好的解决方法。
在递归树中,每个节点代表一个状态,状态包含三个变量 (i, j, edist),其中,edist 表示处理到 a[i]和 b[j]时,已经执行的编辑操作的次数。
在递归树中,(i, j) 两个变量重复的节点很多,比如 (3, 2) 和 (2, 3)。对于 (i, j) 相同的节点,我们只需要保留 edist 最小的,继续递归处理就可以了,剩下的节点都可以舍弃。所以,状态就从 (i, j, edist) 变成了 (i, j, min_edist),其中 min_edist 表示处理到 a[i]和 b[j],已经执行的最少编辑次数。
看到这里,你有没有觉得,这个问题跟上两节讲的动态规划例子非常相似?不过,这个问题的状态转移方式,要比之前两节课中讲到的例子都要复杂很多。上一节我们讲的矩阵最短路径问题中,到达状态 (i, j) 只能通过 (i-1, j) 或 (i, j-1) 两个状态转移过来,而今天这个问题,状态 (i, j) 可能从 (i-1, j),(i, j-1),(i-1, j-1) 三个状态中的任意一个转移过来。
基于刚刚的分析,我们可以尝试着将把状态转移的过程,用公式写出来。这就是我们前面讲的状态转移方程。
如果:a[i]!=b[j],那么:min_edist(i, j)就等于:
min(min_edist(i-1,j)+1, min_edist(i,j-1)+1, min_edist(i-1,j-1)+1)
如果:a[i]==b[j],那么:min_edist(i, j)就等于:
min(min_edist(i-1,j)+1, min_edist(i,j-1)+1,min_edist(i-1,j-1))
其中,min表示求三数中的最小值。
了解了状态与状态之间的递推关系,我们画出一个二维的状态表,按行依次来填充状态表中的每个值。
我们现在既有状态转移方程,又理清了完整的填表过程,代码实现就非常简单了。我将代码贴在下面,你可以对比着文字解释,一起看下。
public int lwstDP(char[] a, int n, char[] b, int m) {
int[][] minDist = new int[n][m];
for (int j = 0; j < m; ++j) { // 初始化第0行:a[0..0]与b[0..j]的编辑距离
if (a[0] == b[j]) minDist[0][j] = j;
else if (j != 0) minDist[0][j] = minDist[0][j-1]+1;
else minDist[0][j] = 1;
}
for (int i = 0; i < n; ++i) { // 初始化第0列:a[0..i]与b[0..0]的编辑距离
if (a[i] == b[0]) minDist[i][0] = i;
else if (i != 0) minDist[i][0] = minDist[i-1][0]+1;
else minDist[i][0] = 1;
}
for (int i = 1; i < n; ++i) { // 按行填表
for (int j = 1; j < m; ++j) {
if (a[i] == b[j]) minDist[i][j] = min(
minDist[i-1][j]+1, minDist[i][j-1]+1, minDist[i-1][j-1]);
else minDist[i][j] = min(
minDist[i-1][j]+1, minDist[i][j-1]+1, minDist[i-1][j-1]+1);
}
}
return minDist[n-1][m-1];
}
private int min(int x, int y, int z) {
int minv = Integer.MAX_VALUE;
if (x < minv) minv = x;
if (y < minv) minv = y;
if (z < minv) minv = z;
return minv;
}
你可能会说,我虽然能看懂你讲的思路,但是遇到新的问题的时候,我还是会感觉到无从下手。这种感觉是非常正常的。关于复杂算法问题的解决思路,我还有一些经验、小技巧,可以分享给你。
当我们拿到一个问题的时候,我们可以先不思考,计算机会如何实现这个问题,而是单纯考虑“人脑”会如何去解决这个问题。人脑比较倾向于思考具象化的、摸得着看得见的东西,不适合思考过于抽象的问题。所以,我们需要把抽象问题具象化。那如何具象化呢?我们可以实例化几个测试数据,通过人脑去分析具体实例的解,然后总结规律,再尝试套用学过的算法,看是否能够解决。
除此之外,我还有一个非常有效、但也算不上技巧的东西,我也反复强调过,那就是多练。实际上,等你做多了题目之后,自然就会有感觉,看到问题,立马就能想到能否用动态规划解决,然后直接就可以寻找最优子结构,写出动态规划方程,然后将状态转移方程翻译成代码。

如何编程计算最长公共子串长度?

前面我们讲到,最长公共子串作为编辑距离中的一种,只允许增加、删除字符两种编辑操作。从名字上,你可能觉得它看起来跟编辑距离没什么关系。实际上,从本质上来说,它表征的也是两个字符串之间的相似程度。
这个问题的解决思路,跟莱文斯坦距离的解决思路非常相似,也可以用动态规划解决。我刚刚已经详细讲解了莱文斯坦距离的动态规划解决思路,所以,针对这个问题,我直接定义状态,然后写状态转移方程。
每个状态还是包括三个变量 (i, j, max_lcs),max_lcs 表示 a[0...i]和 b[0...j]的最长公共子串长度。那 (i, j) 这个状态都是由哪些状态转移过来的呢?
我们先来看回溯的处理思路。我们从 a[0]和 b[0]开始,依次考察两个字符串中的字符是否匹配。
如果 a[i]与 b[j]互相匹配,我们将最大公共子串长度加一,并且继续考察 a[i+1]和 b[j+1]。
如果 a[i]与 b[j]不匹配,最长公共子串长度不变,这个时候,有两个不同的决策路线:
删除 a[i],或者在 b[j]前面加上一个字符 a[i],然后继续考察 a[i+1]和 b[j];
删除 b[j],或者在 a[i]前面加上一个字符 b[j],然后继续考察 a[i]和 b[j+1]。
反过来也就是说,如果我们要求 a[0...i]和 b[0...j]的最长公共长度 max_lcs(i, j),我们只有可能通过下面三个状态转移过来:
(i-1, j-1, max_lcs),其中 max_lcs 表示 a[0...i-1]和 b[0...j-1]的最长公共子串长度;
(i-1, j, max_lcs),其中 max_lcs 表示 a[0...i-1]和 b[0...j]的最长公共子串长度;
(i, j-1, max_lcs),其中 max_lcs 表示 a[0...i]和 b[0...j-1]的最长公共子串长度。
如果我们把这个转移过程,用状态转移方程写出来,就是下面这个样子:
如果:a[i]==b[j],那么:max_lcs(i, j)就等于:
max(max_lcs(i-1,j-1)+1, max_lcs(i-1, j), max_lcs(i, j-1));
如果:a[i]!=b[j],那么:max_lcs(i, j)就等于:
max(max_lcs(i-1,j-1), max_lcs(i-1, j), max_lcs(i, j-1));
其中max表示求三数中的最大值。
有了状态转移方程,代码实现就简单多了。我把代码贴到了下面,你可以对比着文字一块儿看。
public int lcs(char[] a, int n, char[] b, int m) {
int[][] maxlcs = new int[n][m];
for (int j = 0; j < m; ++j) {//初始化第0行:a[0..0]与b[0..j]的maxlcs
if (a[0] == b[j]) maxlcs[0][j] = 1;
else if (j != 0) maxlcs[0][j] = maxlcs[0][j-1];
else maxlcs[0][j] = 0;
}
for (int i = 0; i < n; ++i) {//初始化第0列:a[0..i]与b[0..0]的maxlcs
if (a[i] == b[0]) maxlcs[i][0] = 1;
else if (i != 0) maxlcs[i][0] = maxlcs[i-1][0];
else maxlcs[i][0] = 0;
}
for (int i = 1; i < n; ++i) { // 填表
for (int j = 1; j < m; ++j) {
if (a[i] == b[j]) maxlcs[i][j] = max(
maxlcs[i-1][j], maxlcs[i][j-1], maxlcs[i-1][j-1]+1);
else maxlcs[i][j] = max(
maxlcs[i-1][j], maxlcs[i][j-1], maxlcs[i-1][j-1]);
}
}
return maxlcs[n-1][m-1];
}
private int max(int x, int y, int z) {
int maxv = Integer.MIN_VALUE;
if (x > maxv) maxv = x;
if (y > maxv) maxv = y;
if (z > maxv) maxv = z;
return maxv;
}

解答开篇

今天的内容到此就讲完了,我们来看下开篇的问题。
当用户在搜索框内,输入一个拼写错误的单词时,我们就拿这个单词跟词库中的单词一一进行比较,计算编辑距离,将编辑距离最小的单词,作为纠正之后的单词,提示给用户。
这就是拼写纠错最基本的原理。不过,真正用于商用的搜索引擎,拼写纠错功能显然不会就这么简单。一方面,单纯利用编辑距离来纠错,效果并不一定好;另一方面,词库中的数据量可能很大,搜索引擎每天要支持海量的搜索,所以对纠错的性能要求很高。
针对纠错效果不好的问题,我们有很多种优化思路,我这里介绍几种。
我们并不仅仅取出编辑距离最小的那个单词,而是取出编辑距离最小的 TOP 10,然后根据其他参数,决策选择哪个单词作为拼写纠错单词。比如使用搜索热门程度来决定哪个单词作为拼写纠错单词。
我们还可以用多种编辑距离计算方法,比如今天讲到的两种,然后分别编辑距离最小的 TOP 10,然后求交集,用交集的结果,再继续优化处理。
我们还可以通过统计用户的搜索日志,得到最常被拼错的单词列表,以及对应的拼写正确的单词。搜索引擎在拼写纠错的时候,首先在这个最常被拼错单词列表中查找。如果一旦找到,直接返回对应的正确的单词。这样纠错的效果非常好。
我们还有更加高级一点的做法,引入个性化因素。针对每个用户,维护这个用户特有的搜索喜好,也就是常用的搜索关键词。当用户输入错误的单词的时候,我们首先在这个用户常用的搜索关键词中,计算编辑距离,查找编辑距离最小的单词。
针对纠错性能方面,我们也有相应的优化方式。我讲两种分治的优化思路。
如果纠错功能的 TPS 不高,我们可以部署多台机器,每台机器运行一个独立的纠错功能。当有一个纠错请求的时候,我们通过负载均衡,分配到其中一台机器,来计算编辑距离,得到纠错单词。
如果纠错系统的响应时间太长,也就是,每个纠错请求处理时间过长,我们可以将纠错的词库,分割到很多台机器。当有一个纠错请求的时候,我们就将这个拼写错误的单词,同时发送到这多台机器,让多台机器并行处理,分别得到编辑距离最小的单词,然后再比对合并,最终决定出一个最优的纠错单词。
真正的搜索引擎的拼写纠错优化,肯定不止我讲的这么简单,但是万变不离其宗。掌握了核心原理,就是掌握了解决问题的方法,剩下就靠你自己的灵活运用和实战操练了。

内容小结

动态规划的三节内容到此就全部讲完了,不知道你掌握得如何呢?
动态规划的理论尽管并不复杂,总结起来就是“一个模型三个特征”。但是,要想灵活应用并不简单。要想能真正理解、掌握动态规划,你只有多练习。
这三节中,加上课后思考题,总共有 8 个动态规划问题。这 8 个问题都非常经典,是我精心筛选出来的。很多动态规划问题其实都可以抽象成这几个问题模型,所以,你一定要多看几遍,多思考一下,争取真正搞懂它们。
只要弄懂了这几个问题,一般的动态规划问题,你应该都可以应付。对于动态规划这个知识点,你就算是入门了,再学习更加复杂的就会简单很多。

课后思考

我们有一个数字序列包含 n 个不同的数字,如何求出这个序列中的最长递增子序列长度?比如 2, 9, 3, 6, 5, 1, 7 这样一组数字序列,它的最长递增子序列就是 2, 3, 5, 7,所以最长递增子序列的长度是 4。
欢迎留言和我分享,也欢迎点击“请朋友读”,把今天的内容分享给你的好友,和他一起讨论、学习。
分享给需要的人,Ta购买本课程,你将得20
生成海报并分享

赞 66

提建议

上一篇
41 | 动态规划理论:一篇文章带你彻底搞懂最优子结构、无后效性和重复子问题
下一篇
43 | 拓扑排序:如何确定代码源文件的编译依赖关系?
unpreview
 写留言

精选留言(174)

  • zixuan
    2019-01-03
    补充一下,中文纠错很多时候是通过拼音进行的,比如 "刘得花"->"liudehua"->"刘德华". 拼音检索方法也有很多,比如可以把热门词汇的拼音字母组织成Trie树,每个热词的结尾汉字的最后一个拼音字母就是叶子,整体性能就是O(n)的,n为query的拼音总长度. 除了拼音外也有根据字形(二维文字版的编辑距离?)甚至语义等做的纠错策略。 传统搜索引擎中的查询词智能提示、纠错、同义词、近义词、同好词、相关搜索、知识图谱等系列功能统称为用户的意图识别模块。
    展开

    作者回复: 👍好厉害

    共 3 条评论
    187
  • ext4
    2019-01-02
    Trie树和编辑距离,很多年前我去Google面试的时候都被考过。还记得Trie树是问我怎么存储美国的10位电话号码,可以最快速查找一个号码是否是空号,我答上来了;不过关于编辑距离我当时没想出来用dp。
    共 9 条评论
    123
  • blacknhole
    2019-01-02
    有个疑问: 以下内容涉及“如何编程计算莱文斯坦距离?”一节。 (1)文中对递归树中的状态三元组(i, j, edist)的解释是,“状态包含三个变量 (i, j, edist),其中,edist表示处理到 a[i] 和 b[j] 时,已经执行的编辑操作的次数。”这里的“处理到a[i]和b[j]时”,其实是在说将要处理但还并未处理a[i]和b[j]。edist并不包括对a[i]和[j]的编辑操作。递归树图片后紧接着的图片中,(i, j, min_edist)的min_edist也并不包括对a[i]和[j]的编辑操作。 (2)而二维状态表图片中每格的值和动态规划的实现代码中minDist[i][j]两者均代表:到处理完a[i]和b[j]之后为止,已经执行的编辑操作的最少次数。根据这个意思,可知状态转移方程中的min_edist(i, j)也是包括对a[i]和[j]的编辑操作的。如果按照(1)中的意思,状态转移方程中的min_edist(i, j)就不应该包括对a[i]和[j]的编辑操作,也不应该判断a[i]和b[j]是否相等,而应该判断的是a[i - 1]和b[j - 1]是否相等;并且动态规划的实现代码中循环终止条件就不应是小于n或m,而应是小于等于n或m。 为什么会有(1)与(2)这样的在文章前后表达上的不一致?
    展开

    作者回复: 👍你说的没错 不仅这一节 前面两节课都是这样。递归树是根据回溯算法代码实现写的。但是动规代码用你讲到的另一种思路理解更容易。我当时写的时候 也想能不能统一。最后发现不好统一。你可以分割开来看 或者 把它们当作两种状态表示方法来看 不影响理解

    共 17 条评论
    53
  • G.S.K
    2019-03-22
    动态规划问题的思路总结:第一步:如果待解决的问题为func(n),自己可以假设func(n-1)、func(n-2)……func(1)都已经解出,然后就是如何利用这些结果来推导出func(n),经过这么分析就可以得出推导方程。第二步:设计dp数组来保存func(n)(一维数组、二维数组等)。第三步:从0开始遍历,按照状态转移方程计算出func(n)保存到dp数组 举例,以下这些leetcode动态规划相关的题都可以直接套用这个解题思路 一维dp数组的题目 322. Coin Change 121. Best Time to Buy and Sell Stock 53. Maximum Subarray 300. Longest Increasing Subsequence 152. Maximum Product Subarray 二维dp数组的题目 152. Maximum Product Subarray 120. Triangle
    展开
    共 2 条评论
    47
  • 再前进一点
    2019-01-25
    老师,能帮忙解释下这个公式吗,有一点费解, a[i]==b[j] 时,为什么是: min(min_edist(i-1,j)+1, min_edist(i,j-1)+1,min_edist(i-1,j-1)) 而不是 min(min_edist(i-1,j), min_edist(i,j-1),min_edist(i-1,j-1)) 为什么要 + 1 啊
    共 31 条评论
    36
  • Jack_Cui
    2019-01-17
    老师 最长公共子串要求的是连续的 对于编辑距离应该是最长公关子序列吧
    共 2 条评论
    33
  • 天使之剑
    2019-01-02
    是不是可以这么理解,如果要列出所有可能的情况的通常用回溯算法,而求最佳的情况回溯和dp都可以用,但是有重复子问题的话,可以用dp降低时间复杂度

    作者回复: 是的 你理解的没错

    29
  • 郭霖
    2019-01-08
    思考题java版解答: public int longestIncreaseSubArrayDP(int[] array) { if (array.length < 2) return array.length; int[] state = new int[array.length]; state[0] = 1; for (int i = 1; i < state.length; i++) { int max = 0; for (int j = 0; j < i; j++) { if (array[j] < array[i]) { if (state[j] > max) max = state[j]; } } state[i] = max + 1; } int result = 0; for (int i = 0; i < state.length; i++) { if (state[i] > result) result = state[i]; } return result; }
    展开
    共 9 条评论
    27
  • G.S.K
    2019-03-24
    第二遍学习,看留言有同学不理解状态转移表的填充过程,现总结一下状态转移表的填充详细过程和对应的字符编辑操作,望老师指正: 1 minDist[i][j]表示处理完a[i]和b[j]时(a[0...i]已全部转换到b[0...j]),需要的最小编辑次数 2 a[i]和b[j]不相等时,状态转移公式为:minDist[i][j]=min(minDist(i-1,j)+1, minDist(i,j-1)+1,minDist(i-1,j-1)) 1) 如果minDist[i][j]=minDist(i-1,j)+1,现分析一下这个状态转移的具体过程。minDist(i-1,j)表示a[0...i-1]已全部转换到b[0...j],如何编辑字符才能从minDist(i-1,j)到达minDist[i][j]这个状态呢?要么将a[i]这个字符删除,要么在b[j]后边添加一个跟a[i]相同的字符(这里编辑的操作跟老师讲的回溯法的操作是不一样的) 2)如果minDist[i][j]=minDist(i-1,j-1),现分析一下这个状态转移的具体过程。如何编辑字符才能从minDist(i-1,j-1)到达minDist[i][j]这个状态呢??将a[i]替换为b[j]或者将b[j]替换为a[i]即可 3) 如果minDist[i][j]=minDist(i,j-1)+1,跟上边第一种情况类似 3 a[i]和b[j]相等时比较简单,不需要做字符的编辑
    展开
    共 6 条评论
    23
  • Sharry
    2019-01-03
    思考题的解法还是很精妙的 递推公式: a[0...i] 的最长子序列为: a[i] 之前所有比它小的元素中子序列长度最大的 + 1 代码实现: ``` #include<iostream> using namespace std; // 动态规划求 a 的最上升长子序列长度 #include<iostream> using namespace std; // 动态规划求 a 的最上升长子序列长度 int longestSubsequence(int *a, int n) { // 创建一个数组, 索引 i 对应考察元素的下标, 存储 arr[0...i] 的最长上升子序列大小 int *lss_lengths = new int[n]; // 第一个元素哨兵处理 lss_lengths[0] = 1; // 动态规划求解最长子序列 int i, j, max; for (i = 1; i < n; i++) { // 计算 arr[0...i] 的最长上升子序列 // 递推公式: lss_lengths[i] = max(condition: j < i && a[j] < a[i] value: lss_lengths[j] + 1) max = 1; for (j = 0; j < i; j++) { if (a[i] > a[j] && lss_lengths[j] >= max) { max = lss_lengths[j] + 1; } } lss_lengths[i] = max; } int lss_length = lss_lengths[n - 1]; delete[]lss_lengths; return lss_length; } void main() { const int n = 7; int arr[n] = { 2, 9, 3, 6, 5, 1, 7 };; cout << longestSubsequence(arr, n) << endl; getchar(); }
    展开
    共 4 条评论
    19
  • Henry Liao
    2020-08-10
    8个经典动态规划问题: 购物车凑单满减 升级版“杨辉三角”,求从最高层移动到最底层的最短路径长度 背包问题 矩阵中移动的最短路径长度 解决硬币找零问题 编辑距离问题:莱文斯距离 编辑距离问题:最长公共子串长度 求一个序列中最长递增子序列长度
    展开
    13
  • saber
    2019-09-24
    老师我有个疑问(急),希望老师能够帮忙回答下,这也是大部分留言中没能解决的疑问。 在莱文斯坦距离讲解时,那里的状态方程是怎么直接写出来的?这一点是我最不能理解的,当然在问该问题之前,我已经尽我所能的尝试理解老师的文章,并且把留言也都翻了一遍。老师请看我下面的陈述: 一:按照老师文章的讲解顺序,先分析了如何用回溯方法,然后绘制了递归树,从递归树中又分析出了具有重复的子结构,接着又画出了状态简图(递归树下面的图,不知道怎么表达),从这幅简图中清晰的看出来状态的转移方式,接下来重点来了!!!文章接着就写出来状态转移方程(不理解的地方)!我在留言中发现,老师对这点的解释是说「状态转移方程与递归树无关,递归树仅仅表达了问题具有重复子结构」,如果按照老师的说法,不根据递归树分析出状态转移过程,那该怎么直接写出状态转移方程(要能够合理的推断出来,而不是靠经验,否则还是无法掌握动态规划)?目前来看,我在文章中没有发现具有这样的逻辑推断。我之前的理解是说,我们其实可以在递归树中分析出状态转移方程如何写,然后这样就形成了一个闭环,由回溯->递归树->状态转移方程。希望在这里老师能够给出一个合理的解释? 二:抛开上面的一些问题,咱们单独看莱问斯坦距离状态转移公式,先假设,按照递归树和递归树下面的图可以知道状态转移的过程(这是一个前提假设)。在留言中的第 4 条「blacknhole」这位同学的留言中,我也有相同的疑问,(i , j, min_edist) 到底表达的是什么状态?(处理完 a[i] b[j] 后的最小距离? or 刚要处理 a[i] b[j] 时对应的最小距离?), 接下来按照二种不同的表达来看看状态方程如何推断出来: 1、 如果表达的含义是 「处理完 a[i] b[j] 后的最小距离」 那么其实从回溯算法中可以知道(因为 i j 的前一个状态已经处理完了,比如 min_edist(i-1,j) 就代表了前一个状态。) if (a[i] != b[j]) ​ min_edist(i, j) =1+ min( min_edist(i-1, j), min_edist(i, j-1), min_edist(i-1,j-1)) if (a[i] == b[j] ) ​ min_edist(i, j) = min( min_edist(i-1, j), min_edist(i, j-1), min_edist(i-1,j-1)) 2、如果表达的含义是「刚要处理 a[i] b[j] 时对应的最小距离」 那么我们可以这么想,当前 i,j min_edist 表示还没有处理过 i,j 时对应的状态,因此我们需要考虑之前的状态是怎么传递到这里来的 min_edist(i, j) = min(min_edist(i-1,j)+1, min_edist(i, j-1)+1, min_edist(i-1, j-1) + (a[i-1] == b[j-1]? 0 : 1)) 从上面的两种推断发现,我觉的都是比较合理的,但是没有一种的结果与老师给的状态转移方程是一致的(这一点比较疑惑)?所以对于老师的状态转移方程肯定不是从递归树中直接推导出来的,那么请问老师这个状态转移方程该怎么合理的推断出来(我觉得这个问题不是靠多做题解决的,必须要知道推理逻辑才能彻底掌握动态规划)? 三:接下来还有一个问题(前提假设是老师的状态方程是正确的,具体逻辑还不能理解) 那么如果根据状态状态方程,来填充状态表的第 0 行 第 0列呢(留言中也有许多这方面的疑问)?按照我的理解,既然状态转移方程我们知道了,那么其实从状态转移方程中就可以直接填充表格了,比如填充第 0 行时,因为从状态转移方程中我们发现有 i - 1,j-1 因此当计算第 0 行时,带有 i-1 项的就可以省略了,因此状态转移方程就剩下 (i, j-1) 项了。然后其实就不用分 a[i] b[j] 是否相等了,但是回头看老师的代码,却不明白为什么还要分 a[i] b[j] 相等不相等。希望老师能够解释一下! 综上:如果老师觉得我描述的问题不清楚,那么希望老师看看这篇文章的其他问题留言,总结一下大家到底哪里不理解,并且对不理解的地方从新更新下当前文章,具体解释一下,比如老师在留言中说过「不能从递归树中直接推导出状态转移方程,两者没有联系」,那么希望老师在文章的对应地方直接表明这句话,并且在加上额外的说明,比如如何推断出状态转移方程,这样整篇文章才能让更多的人从本质上理解动态规划! 最后希望老师能够认真给出我上面几个问题的解答,谢谢老师!
    展开

    作者回复: 你这个问题太多了 我写篇文章给你 你关注:小争哥

    共 15 条评论
    11
  • Ricky
    2019-01-04
    老师,您好,您这节内容讲的很清晰透彻,我以前做动态规划问题是直接寻找状态转移方程,基本只能处理一些简单的动态规划问题,没有形成系统的解题思路,听了您这一节后,我觉得将回溯简单思路逐步转化为动规思路让我受益匪浅,但是当我试着将这套思路应用于求解最长递增子序列时却感觉回溯更麻烦,不知能否指点一二

    作者回复: 我的讲解并不是为了指导做题。所以,我讲解的时候,从为什么要动态规划讲起,所以废话比较多。实际上,你理解理论之后,解动态规划题目的时候,一般可以直接写最优子结构,也就是状态转移方程,不需要再从回溯解法开始。。。

    10
  • 王者归来
    2019-01-31
    老师,第一行初始化值,如何理解? if (a[0] == b[j]) minDist[0][j] = j; else if (j != 0) minDist[0][j] = minDist[0][j-1]+1; else minDist[0][j] = 1;
    共 4 条评论
    9
  • 沉睡的木木夕
    2019-01-22
    那个状态转移表是怎么填充的?我来回看了几遍还是不知道里面的值怎么来的,感觉跟前面分析的扯不上任何关系
    共 2 条评论
    8
  • 柳志焕
    2019-08-01
    思考题就是 leetcode 300 题:https://leetcode-cn.com/problems/longest-increasing-subsequence/submissions/ public int minSubsequence(int[] array) { if(array.length <2) return array.length; int[] dp = new int[array.length]; // dp[i] 是以 array[i] 结尾的最长子序列 Arrays.fill(dp,1); for(int i = 0; i< array.length; i++) { for(int j = 0; j< i; j++) { if(array[i] > array[j]) { dp[i] = Math.max(dp[i],dp[j] +1); } } } int res = 0; for(int i = 0; i< dp.length; i++) { res = Math.max(res,dp[i]); } return res; }
    展开
    共 2 条评论
    7
  • Kudo
    2019-01-03
    思考题解答: 状态转移公式:maxLen[i] = max(maxLen[j]+(1 if j<i else 0)) for any j < i python代码: def maxOrderedSeq(seq): maxLen = [1] * len(seq) # 初始化为1 for i in range(1, len(seq)): # i从1开始 for j in range(i-1,-1,-1): # j从i-1到0 if seq[j] <= seq[i]: maxLen[i] = maxLen[j] + 1 break # 满足则退出 if maxLen[i] == 1: # 比前面所有元素小 maxLen[i] = maxLen[i-1] print(maxLen) # usage seq = [2, 9, 3, 6, 5, 1, 7] maxOrderedSeq(seq)
    展开
    共 2 条评论
    7
  • Kudo
    2019-01-02
    选这个专栏的初衷就是为了学习动态规划,作者对这部分内容的讲解我还是比较满意的。两个月前,闲来无事刷了几天LeetCode,遇到一道字符串模式匹配的题,不是结果错误就是复杂度不达标,怎么也搞不定。看了论坛里给出的高赞解答,清一色采用了动态规划的解题方法,当时没有算法基础,真的是看不懂啊,遂放弃。现在经过几节课的学习理出一些思路来,收获颇丰,理论看得比较明白了,程序照着文中的例子也能写个大概,但感觉掌握得还是不牢靠,还需要多加练习。谢谢作者!
    展开
    7
  • G.S.K
    2019-03-24
    莱温斯坦距离状态表,初始化第0行和第0列代码逻辑有点复杂,可以简化一下,修改状态表为如下形式 ∅ m t a c n u ∅ 0 1 2 3 4 5 6 m 1 0 1 2 3 4 5 i 2 1 t 3 2 c 4 3 m 5 4 u 6 5 代码就可以简化了 int[][] minDist = new int[n+1][m+1] for (int j = 0; j <= m; ++j) { 初始化第0行 minDist[0][j] = j; } for (int i = 0; i <= n; ++i) { 初始化第0列 minDist[i][0] = i; } 最终return minDist[n][m];
    展开
    共 3 条评论
    6
  • 传说中的成大大
    2019-02-28
    if (a[i] == b[j]) minDist[i][j] = min( minDist[i-1][j]+1,minDist[i][j-1]+1,minDist[i-1][j-1])不明白的是为什么minDist[i-1][j]或者mindist[i][j-1] 要+1呢?

    作者回复: (i-1,j)这个状态转移到(i, j)这个状态,minDist要加一 (i, j)同上 (i-1, j-1)这个状态转移到(i, j)这个状态,minDist保持不变,因为a[i]==b[j]

    共 8 条评论
    5
新人学习立返 50% 购课币
去订阅《数据结构与算法之美》新人首单¥68