Python Windows:直接检查cp1252

Python Windows:直接检查cp1252,python,windows,winapi,unicode,encoding,Python,Windows,Winapi,Unicode,Encoding,在此之前,我要说:我绝不是Windows程序员。请帮我纠正我可能产生的任何误解 我的理解是,Windows既有(传统的)单字节字符串接口,也有现代化的Unicode接口 我的目标是仔细检查在Windows内核中实现的cp1252。我将从Windows XP开始,但我计划检查尽可能多的版本 我将使这样一个程序的输出在格式上类似于: 我的问题主要是:我将使用哪些Windows API函数来完成上述任务?我想是的 第二:我必须写C来检查相关的接口吗?如果是,我会使用什么编译器?我认为VisualStu

在此之前,我要说:我绝不是Windows程序员。请帮我纠正我可能产生的任何误解

我的理解是,Windows既有(传统的)单字节字符串接口,也有现代化的Unicode接口

我的目标是仔细检查在Windows内核中实现的cp1252。我将从Windows XP开始,但我计划检查尽可能多的版本

我将使这样一个程序的输出在格式上类似于:

我的问题主要是:我将使用哪些Windows API函数来完成上述任务?我想是的

第二:我必须写C来检查相关的接口吗?如果是,我会使用什么编译器?我认为VisualStudioExpress 2010非常适合,但我找不到任何(合法的)地方下载它


对于那些必须了解X到Y的人来说,cp1252有两个相互竞争的标准和实现。它们只是略有不同,但确实不同,这对我来说意义重大

WHATWG规定,所有浏览器都实现此标准:

Microsoft指定,python实现此标准:

区别在于五个不可打印的字符。在windows规范中,它们是完全未定义的,因此这些字节不能通过cp1252进行往返。在WHATWG规范(以及所有浏览器)中,这些字节映射到相同值的非打印字符,如拉丁语1中所示,这意味着这些字节可以通过cp1252成功往返


我强烈怀疑微软的实现实际上符合WHATWG规范和浏览器的实现,而不是他们发布的规范。这就是我试图证明/反驳的。

你的问题没有任何意义。您需要检查95到10的每个Windows版本所使用的“编码”

但这些版本的Windows都没有“编码”。它们中的每一个都可以以相同的方式进行配置:它具有默认的系统编码(由Microsoft预先配置),以及当前的用户编码(由Microsoft或系统OEM设置,但用户可以更改)。因此,您的测试将不依赖于Windows 95与Windows 7,而是依赖于Microsoft提供的带默认设置的US Windows 95与Microsoft提供的ES Windows 95(带默认设置)与HP提供的US Windows 95(带默认设置)与Microsoft提供的US Windows 95(带控制面板中的238个可能选项),等等

此外,要生成您试图生成的文件类型,您不需要接触任何Win32 API。您只需调用使用已配置的系统语言环境的字符集将单字节/多字节文本解码为UTF-16/Unicode文本的任何函数。例如,从C,您可以从MSVCRT调用一个族;在Python中,您可以使用
sys.getdefaultencoding()
str
(Python 2)/
字节
(Python 3)对象调用
decode
方法;等等

如果你真的想使用系统接口来测试相同的信息,你可以…但是你会遇到大多数接口的限制。例如,您可以
CreateFileA
创建一个具有8位名称的新文件,然后尝试
CreateFileW
打开具有相应16位名称的同一文件并验证其是否工作……但是,您不能测试任何非法文件名字符


最后,微软已经为大多数(如果不是所有的话)平台提供了免费的C编译器,但是其中一些已经很久没有使用了,所以我不知道你是否可以(至少在法律上)得到它们。但您始终可以使用来设置基于gcc的工具链。我不知道当前版本是否仍能在Win95上运行,但如果不能,旧版本应该仍然可用。

你的问题没有任何意义。您需要检查95到10的每个Windows版本所使用的“编码”

但这些版本的Windows都没有“编码”。它们中的每一个都可以以相同的方式进行配置:它具有默认的系统编码(由Microsoft预先配置),以及当前的用户编码(由Microsoft或系统OEM设置,但用户可以更改)。因此,您的测试将不依赖于Windows 95与Windows 7,而是依赖于Microsoft提供的带默认设置的US Windows 95与Microsoft提供的ES Windows 95(带默认设置)与HP提供的US Windows 95(带默认设置)与Microsoft提供的US Windows 95(带控制面板中的238个可能选项),等等

此外,要生成您试图生成的文件类型,您不需要接触任何Win32 API。您只需调用使用已配置的系统语言环境的字符集将单字节/多字节文本解码为UTF-16/Unicode文本的任何函数。例如,从C,您可以从MSVCRT调用一个族;在Python中,您可以使用
sys.getdefaultencoding()
str
(Python 2)/
字节
(Python 3)对象调用
decode
方法;等等

如果你真的想使用系统接口来测试相同的信息,你可以…但是你会遇到大多数接口的限制。例如,您可以
CreateFileA
创建一个具有8位名称的新文件,然后尝试
CreateFileW
打开具有相应16位名称的同一文件并验证其是否工作……但是,您不能测试任何非法文件名字符


最后,微软已经为大多数(如果不是所有的话)平台提供了免费的C编译器,但是其中一些已经很久没有使用了,所以我不知道你是否可以(至少在法律上)得到它们。但您始终可以使用来设置基于gcc的工具链。我不知道当前版本是否仍能在Win95上工作,但如果不能,旧版本应该仍然可用。

要回答您的X问题而不是Y问题,请执行以下操作:

你可以
from ctypes import cdll, windll, c_char_p
c = cdll.msvcrt
k = windll.kernel32
LC_ALL = 0  # from locale.h
# reference: https://msdn.microsoft.com/en-US/library/x99tb11d.aspx
c.setlocale.restype = c_char_p
result = c.setlocale(LC_ALL, '.1252')
assert result == 'English_United States.1252', result

from ctypes import create_string_buffer
# cp1252 is classified as "multi-byte" by the msapi along with utf8
mb = create_string_buffer(1)
wc1 = create_string_buffer(2)
wc2 = create_string_buffer(2)

print 'IN | MSVC  KERN'
print '---+-----------'
for b in range(0x80, 0xA0):
    mb.value = chr(b)

    # reference: https://msdn.microsoft.com/en-us/library/yk02bkxb.aspx
    result = c.mbtowc(wc1, mb, 1)
    assert result == 1, result

    # reference:
    #     https://msdn.microsoft.com/en-us/library/windows/desktop/dd319072.aspx
    result = k.MultiByteToWideChar(1252, 0, mb, 1, wc2, 1)
    assert result == 1, result

    print '%02X | %02X%02X  %02X%02X' % (
        ord(mb.value),
        # little-endian:
        ord(wc1.raw[1]), ord(wc1.raw[0]),
        ord(wc2.raw[1]), ord(wc2.raw[0]),
    )
IN | MSVC  KERN
---+-----------
80 | 20AC  20AC
81 | 0081  0081
82 | 201A  201A
83 | 0192  0192
84 | 201E  201E
85 | 2026  2026
86 | 2020  2020
87 | 2021  2021
88 | 02C6  02C6
89 | 2030  2030
8A | 0160  0160
8B | 2039  2039
8C | 0152  0152
8D | 008D  008D
8E | 017D  017D
8F | 008F  008F
90 | 0090  0090
91 | 2018  2018
92 | 2019  2019
93 | 201C  201C
94 | 201D  201D
95 | 2022  2022
96 | 2013  2013
97 | 2014  2014
98 | 02DC  02DC
99 | 2122  2122
9A | 0161  0161
9B | 203A  203A
9C | 0153  0153
9D | 009D  009D
9E | 017E  017E
9F | 0178  0178
0x80    0x20AC  #EURO SIGN
0x81            #UNDEFINED
0x82    0x201A  #SINGLE LOW-9 QUOTATION MARK
0x83    0x0192  #LATIN SMALL LETTER F WITH HOOK
0x84    0x201E  #DOUBLE LOW-9 QUOTATION MARK
0x85    0x2026  #HORIZONTAL ELLIPSIS
0x86    0x2020  #DAGGER
0x87    0x2021  #DOUBLE DAGGER
0x88    0x02C6  #MODIFIER LETTER CIRCUMFLEX ACCENT
0x89    0x2030  #PER MILLE SIGN
0x8A    0x0160  #LATIN CAPITAL LETTER S WITH CARON
0x8B    0x2039  #SINGLE LEFT-POINTING ANGLE QUOTATION MARK
0x8C    0x0152  #LATIN CAPITAL LIGATURE OE
0x8D            #UNDEFINED
0x8E    0x017D  #LATIN CAPITAL LETTER Z WITH CARON
0x8F            #UNDEFINED
0x90            #UNDEFINED
0x91    0x2018  #LEFT SINGLE QUOTATION MARK
0x92    0x2019  #RIGHT SINGLE QUOTATION MARK
0x93    0x201C  #LEFT DOUBLE QUOTATION MARK
0x94    0x201D  #RIGHT DOUBLE QUOTATION MARK
0x95    0x2022  #BULLET
0x96    0x2013  #EN DASH
0x97    0x2014  #EM DASH
0x98    0x02DC  #SMALL TILDE
0x99    0x2122  #TRADE MARK SIGN
0x9A    0x0161  #LATIN SMALL LETTER S WITH CARON
0x9B    0x203A  #SINGLE RIGHT-POINTING ANGLE QUOTATION MARK
0x9C    0x0153  #LATIN SMALL LIGATURE OE
0x9D            #UNDEFINED
0x9E    0x017E  #LATIN SMALL LETTER Z WITH CARON
0x9F    0x0178  #LATIN CAPITAL LETTER Y WITH DIAERESIS
  0 0x20AC  € (EURO SIGN)
  1 0x0081   (<control>)
  2 0x201A  ‚ (SINGLE LOW-9 QUOTATION MARK)
  3 0x0192  ƒ (LATIN SMALL LETTER F WITH HOOK)
  4 0x201E  „ (DOUBLE LOW-9 QUOTATION MARK)
  5 0x2026  … (HORIZONTAL ELLIPSIS)
  6 0x2020  † (DAGGER)
  7 0x2021  ‡ (DOUBLE DAGGER)
  8 0x02C6  ˆ (MODIFIER LETTER CIRCUMFLEX ACCENT)
  9 0x2030  ‰ (PER MILLE SIGN)
 10 0x0160  Š (LATIN CAPITAL LETTER S WITH CARON)
 11 0x2039  ‹ (SINGLE LEFT-POINTING ANGLE QUOTATION MARK)
 12 0x0152  Π(LATIN CAPITAL LIGATURE OE)
 13 0x008D   (<control>)
 14 0x017D  Ž (LATIN CAPITAL LETTER Z WITH CARON)
 15 0x008F   (<control>)
 16 0x0090   (<control>)
 17 0x2018  ‘ (LEFT SINGLE QUOTATION MARK)
 18 0x2019  ’ (RIGHT SINGLE QUOTATION MARK)
 19 0x201C  “ (LEFT DOUBLE QUOTATION MARK)
 20 0x201D  ” (RIGHT DOUBLE QUOTATION MARK)
 21 0x2022  • (BULLET)
 22 0x2013  – (EN DASH)
 23 0x2014  — (EM DASH)
 24 0x02DC  ˜ (SMALL TILDE)
 25 0x2122  ™ (TRADE MARK SIGN)
 26 0x0161  š (LATIN SMALL LETTER S WITH CARON)
 27 0x203A  › (SINGLE RIGHT-POINTING ANGLE QUOTATION MARK)
 28 0x0153  œ (LATIN SMALL LIGATURE OE)
 29 0x009D   (<control>)
 30 0x017E  ž (LATIN SMALL LETTER Z WITH CARON)
 31 0x0178  Ÿ (LATIN CAPITAL LETTER Y WITH DIAERESIS)