Unit testing 示例无效的utf8字符串?
我正在测试我的一些代码如何处理坏数据,我需要一些无效UTF-8的字节序列 你能发布一些,理想情况下,解释为什么它们不好/你从哪里得到的 看一看Unit testing 示例无效的utf8字符串?,unit-testing,utf-8,Unit Testing,Utf 8,我正在测试我的一些代码如何处理坏数据,我需要一些无效UTF-8的字节序列 你能发布一些,理想情况下,解释为什么它们不好/你从哪里得到的 看一看 您会发现许多UTF-8不规则的例子,包括孤立的开始字节、连续字节丢失、过长的序列等。模糊测试-生成随机的八位字节序列。很可能你会很快得到一些非法序列。在PHP中: $examples = array( 'Valid ASCII' => "a", 'Valid 2 Octet Sequence' => "\xc3\xb1",
您会发现许多UTF-8不规则的例子,包括孤立的开始字节、连续字节丢失、过长的序列等。模糊测试-生成随机的八位字节序列。很可能你会很快得到一些非法序列。在PHP中:
$examples = array(
'Valid ASCII' => "a",
'Valid 2 Octet Sequence' => "\xc3\xb1",
'Invalid 2 Octet Sequence' => "\xc3\x28",
'Invalid Sequence Identifier' => "\xa0\xa1",
'Valid 3 Octet Sequence' => "\xe2\x82\xa1",
'Invalid 3 Octet Sequence (in 2nd Octet)' => "\xe2\x28\xa1",
'Invalid 3 Octet Sequence (in 3rd Octet)' => "\xe2\x82\x28",
'Valid 4 Octet Sequence' => "\xf0\x90\x8c\xbc",
'Invalid 4 Octet Sequence (in 2nd Octet)' => "\xf0\x28\x8c\xbc",
'Invalid 4 Octet Sequence (in 3rd Octet)' => "\xf0\x90\x28\xbc",
'Invalid 4 Octet Sequence (in 4th Octet)' => "\xf0\x28\x8c\x28",
'Valid 5 Octet Sequence (but not Unicode!)' => "\xf8\xa1\xa1\xa1\xa1",
'Valid 6 Octet Sequence (but not Unicode!)' => "\xfc\xa1\xa1\xa1\xa1\xa1",
);
从可以从格式良好的字节序列表中获得格式不良字节序列模式的概念。请参见Unicode标准6.2中的“”
Code Points First Byte Second Byte Third Byte Fourth Byte
U+0000 - U+007F 00 - 7F
U+0080 - U+07FF C2 - DF 80 - BF
U+0800 - U+0FFF E0 A0 - BF 80 - BF
U+1000 - U+CFFF E1 - EC 80 - BF 80 - BF
U+D000 - U+D7FF ED 80 - 9F 80 - BF
U+E000 - U+FFFF EE - EF 80 - BF 80 - BF
U+10000 - U+3FFFF F0 90 - BF 80 - BF 80 - BF
U+40000 - U+FFFFF F1 - F3 80 - BF 80 - BF 80 - BF
U+100000 - U+10FFFF F4 80 - 8F 80 - BF 80 - BF
以下是从U+24B62生成的示例。我将它们用于错误报告:
在各种库中可以看到尾随字节范围([0x80,0xBF])的过度简化
// U+0800 - U+0FFF
\xE0\x80\x80
// U+D000 - U+D7FF
\xED\xBF\xBF
// U+10000 - U+3FFFF
\xF0\x80\x80\x80
// U+100000 - U+10FFFF
\xF4\xBF\xBF\xBF
尤其邪恶。我把它看作是ubuntu上的组合
逗号breve可能与Heisenbug或Eisentest重复没有比这更糟糕的了。测试通过10次,您发布产品,测试失败。@EricDuminil听说过srand()吗?很公平。你能在回答中提到这一点吗?这样我就可以恢复我的否决票了。嗯,总是有新的东西要学,这就是为什么我一开始就这么做的原因。我认为您的
srand()
建议是个好主意,它可能会帮助其他人。我们可以直接创建无效字符串,我们不需要随机性来尝试并最终找到它们,尽管字符串处理库(可能!)会从模糊化中受益,以防万一。
// U+0800 - U+0FFF
\xE0\x80\x80
// U+D000 - U+D7FF
\xED\xBF\xBF
// U+10000 - U+3FFFF
\xF0\x80\x80\x80
// U+100000 - U+10FFFF
\xF4\xBF\xBF\xBF