Przykład nieprawidłowy ciąg znaków utf8?

Question

Testuję, jak niektóre z mojego kodu obsługuje złe dane, i potrzebuję kilka serii bajtów, które są nieprawidłowe UTF-8.

Czy możesz podać niektóre, a najlepiej wyjaśnienie, dlaczego są one złe/skąd je masz?

Answer 1

Spójrz na Markus Kuhn's UTF-8 decoder capability and stress test file

Znajdziesz przykłady wielu UTF-8 nieprawidłowości, w tym samotnych bajtów początek, kontynuacja bajtów brakuje, zbyt długie sekwencje itp

Answer 2

Fuzz Testing - generuje losową sekwencję oktetów. Najprawdopodobniej dostaniesz niedozwolone sekwencje wcześniej niż później.

Answer 3

W PHP:

$examples = array(
    'Valid ASCII' => "a", 
    'Valid 2 Octet Sequence' => "\xc3\xb1", 
    'Invalid 2 Octet Sequence' => "\xc3\x28", 
    'Invalid Sequence Identifier' => "\xa0\xa1", 
    'Valid 3 Octet Sequence' => "\xe2\x82\xa1", 
    'Invalid 3 Octet Sequence (in 2nd Octet)' => "\xe2\x28\xa1", 
    'Invalid 3 Octet Sequence (in 3rd Octet)' => "\xe2\x82\x28", 
    'Valid 4 Octet Sequence' => "\xf0\x90\x8c\xbc", 
    'Invalid 4 Octet Sequence (in 2nd Octet)' => "\xf0\x28\x8c\xbc", 
    'Invalid 4 Octet Sequence (in 3rd Octet)' => "\xf0\x90\x28\xbc", 
    'Invalid 4 Octet Sequence (in 4th Octet)' => "\xf0\x28\x8c\x28", 
    'Valid 5 Octet Sequence (but not Unicode!)' => "\xf8\xa1\xa1\xa1\xa1", 
    'Valid 6 Octet Sequence (but not Unicode!)' => "\xfc\xa1\xa1\xa1\xa1\xa1", 
); 

Od http://www.php.net/manual/en/reference.pcre.pattern.modifiers.php#54805

Answer 4

Pomysł wzorców źle sformułowane bajt sekwencje można uzyskać z tabeli dobrze uformowanych sekwencji bajtów. Zobacz "Table 3-7. Well-Formed UTF-8 Byte Sequences" w standardzie Unicode 6.2.

Code Points First Byte Second Byte Third Byte Fourth Byte 
    U+0000 - U+007F 00 - 7F 
    U+0080 - U+07FF C2 - DF 80 - BF 
    U+0800 - U+0FFF E0   A0 - BF  80 - BF 
    U+1000 - U+CFFF E1 - EC 80 - BF  80 - BF 
    U+D000 - U+D7FF ED   80 - 9F  80 - BF 
    U+E000 - U+FFFF EE - EF 80 - BF  80 - BF 
U+10000 - U+3FFFF F0   90 - BF  80 - BF 80 - BF 
U+40000 - U+FFFFF F1 - F3 80 - BF  80 - BF 80 - BF 
U+100000 - U+10FFFF F4   80 - 8F  80 - BF 80 - BF 

Oto przykłady wygenerowane z U + 24B62. Użyłem ich do raportu o błędzie: Bug #65045 mb_convert_encoding breaks well-formed character

// U+24B62: "\xF0\xA4\xAD\xA2" 
"\xF0\xA4\xAD" ."\xF0\xA4\xAD\xA2"."\xF0\xA4\xAD\xA2" 
"\xF0\xA4\xAD\xA2"."\xF0\xA4\xAD\xA2"."\xF0\xA4\xAD" 

uproszczeniem zasięgiem spływu bajtów ([0x80, 0xBF]) można zaobserwować w różnych bibliotekach.

// U+0800 - U+0FFF 
\xE0\x80\x80 

// U+D000 - U+D7FF 
\xED\xBF\xBF 

// U+10000 - U+3FFFF 
\xF0\x80\x80\x80 

// U+100000 - U+10FFFF 
\xF4\xBF\xBF\xBF 

Answer 5

, ̆ był szczególnie zły. Widzę to jako połączone na ubuntu.

przecinkami breve