2 PAC学习框架 (page 18 19)

示例2.2布尔文字的连接

考虑学习最多nn个布尔文字x1xnx_1,…,x_n的连接的概念类CnC_n.布尔文字是变量xix_ii[1n]i∈ [1,n],或其否定xi\overline x_i。对于n=4n=4,一个例子是合取:x1x2x4x_1∧ \overline x_2∧ x_4,其中x2\overline x_2表示布尔文字x_2的否定。(1,0,0,1)(1,0,0,1)是这个概念的正面例子,而(1,0,0,0)(1,0,0,0)是负面例子。

请注意,对于 n = 4n = 4,正例 (1,0,1,0)(1,0,1,0) 意味着目标概念不能包含文字 x1\overline x_1 和 x3\overline x_3,也不能包含文字 x2x2 和 x4x4。相比之下,一个反面例子没有那么丰富,因为它不知道它的 nn 位中的哪一个是不正确的。因此,一个用于寻找一致假设的简单算法基于正例,包括以下内容:对于每个正例 (b1,...,bn)(b_1,…,b_n) 和 i  [1,n]i ∈ [1,n],如果 bi = 1b_i = 1 则 xi\overline x_i 被排除作为概念类中可能的文字,如果 bi = 0b_i = 0,则排除 xix_i。因此,未排除的所有文字的合取是与目标一致的假设。图 2.4 显示了示例训练样本以及 n = 6 n = 6 情况下的一致假设。

我们有 H = Cn = 3n|H| = |Cn| = 3^n,因为每个文字都可以肯定包含,否定包含或不包含。将其插入到一致假设的样本复杂度界限中,对于任何 ϵ> 0\epsilon > 0δ>0 δ > 0 产生以下样本复杂度界限:

m1ϵ((log3)n+log1δ).(2.10)m\ge\frac{1}{\epsilon}\big((log3)n+log\frac{1}{δ}\big).(2.10)

© 版权声明
THE END
喜欢就支持一下吧
点赞0 分享