SQL 十六进制字符串转十进制值

如何解决SQL 十六进制字符串转十进制值

我正在尝试将十六进制字符串转换为十进制值，如下所示：

输入：24个字符串

'1234567890abcdef12345678'

我需要提取第二到第四个字符，将它们转换为位，然后将它们分成两包6位数字，最后将它们转换为十进制如下：

'234'

位转换：1000110100

分成两包6位数：001000、110100

转换为十进制：8、52

应用操作：8 * 2 - 128 = -112,52 * 2 - 128 = -24

我设置了两个函数来管理每个项目的转换（它们还依赖于另一个变量，即固件，在这种情况下没有影响）：

ALTER FUNCTION [getval1](@Firmware varchar(30),@RawData varchar(24))
    RETURNS smallint
    AS
    BEGIN
        DECLARE @val1 smallint;

        IF @Firmware = 'v1'
            OR @Firmware = 'v1.1'
            OR @Firmware = 'v1.2'
            OR @Firmware = 'v2'
            BEGIN
                SET @val1 = (CAST(fct.hexstrtovarbin(SUBSTRING(@RawData,1,4)) AS int) % 4096 / 64) * 2 - 128;             
            END
        ELSE
            BEGIN
                IF @Firmware = 'v3'
                    OR @Firmware = 'v3.1'
                    OR @Firmware = 'v3.2'
                    OR @Firmware = 'v3.3'
                    BEGIN
                        SET @val1 = (CAST(fct.hexstrtovarbin(SUBSTRING(@RawData,4)) AS int) % 4096 / 64) * 2 - 128;                     
                    END
                ELSE
                    BEGIN
                        SET @val1 = 0
                    END
            END
        RETURN @val1;
    END;



ALTER FUNCTION [getval2](@Firmware varchar(30),@RawData varchar(24))
    RETURNS smallint
    AS
    BEGIN
        DECLARE @val2 smallint;

        IF @Firmware = 'v1'
            OR @Firmware = 'v1.1'
            OR @Firmware = 'v1.2'
            OR @Firmware = 'v2'
        BEGIN
            SET @val2 = (CAST(fct.hexstrtovarbin(SUBSTRING(@RawData,4)) AS int) % 64) * 2 - 128;
        END                     
    ELSE
        BEGIN
            IF @Firmware = 'v3'
                    OR @Firmware = 'v3.1'
                    OR @Firmware = 'v3.2'
                    OR @Firmware = 'v3.3'
                BEGIN
                    SET @val2 = (CAST(fct.hexstrtovarbin(SUBSTRING(@RawData,4)) AS int) % 64) * 2 - 128;
                END
            ELSE
                BEGIN
                    SET @val2 = 0;
                END
        END
    RETURN @val2;
END;

但是，如果我使用 RawData = '5921000000b1212800b1219a' 运行我的函数，我的输出是：

• 第一个函数似乎运行良好（输出为 -56）。
• 第二个函数输出 -126 而不是 -62。

对我来说奇怪的是，如果我只是运行这条线：

SET @val2 = (CAST(fct.hexstrtovarbin(SUBSTRING(@RawData,4)) AS int) % 64)

我得到了适当的输出 (-62)，但我不明白为什么函数返回不同的输出。

知道这里发生了什么吗？

非常感谢！

编辑：我忘了提到函数 fct.hexstrtovarbin 从十六进制字符串返回 varbinary 结果。代码如下：

CREATE FUNCTION fct.hexstrtovarbin(@input varchar(8000)) RETURNS varbinary(8000)
AS
BEGIN
DECLARE @Result AS varbinary(8000)

IF LEN(@input) % 2 <> 0 
    BEGIN 
        SET @Result = 0000000000;
    END 
ELSE
    BEGIN
        SET @Result = CONVERT(VARBINARY(8000),@input,2);
    END
    RETURN @Result
END;

解决方法

获取字符串的第 2 到第 4 个字符非常简单，您只需使用 SUBSTRING：

SELECT SUBSTRING('1234567890abcdef12345678',2,3);

接下来我们要将值转换为二进制值。 SQL Server 本身并不支持二进制数，但是，使用按位逻辑很容易实现。由于我们需要一个固定长度的二进制，我们可以将上面的值转换为 varbinary，然后是 int，然后使用按位逻辑创建二进制值。扩展我们之前的内容，我们得到如下内容：

SELECT STRING_AGG(CASE V.I & POWER(2,P.I) WHEN 0 THEN 0 ELSE 1 END,'') WITHIN GROUP (ORDER BY P.I)
FROM (VALUES(SUBSTRING('1234567890abcdef12345678',3)))SS(Hex)
     CROSS APPLY (VALUES(CONVERT(int,CONVERT(varbinary(3),'0x0'+SS.Hex))))V(I)
     CROSS APPLY (VALUES(0),(1),(2),(3),(4),(5),(6),(7),(8),(9),(10),(11))P(I);

现在我们有了二进制值，我们可以将该值拆分为两个 6 位值，并反转我们必须获得相关数字的逻辑：

WITH BinaryVal AS(
    SELECT STRING_AGG(CASE V.I & POWER(2,'') WITHIN GROUP (ORDER BY P.I DESC) AS BinaryNum
    FROM (VALUES(SUBSTRING('1234567890abcdef12345678',3)))SS(Hex)
         CROSS APPLY (VALUES(CONVERT(int,CONVERT(varbinary(2),'0x0'+SS.Hex,1))))V(I)
         CROSS APPLY (VALUES(0),(11))P(I))
SELECT SUM(CASE SUBSTRING(B1,P.I,1) WHEN 1 THEN POWER(2,P.P) END),SUM(CASE SUBSTRING(B2,P.P) END)
FROM BinaryVal BV
     CROSS APPLY(VALUES(SUBSTRING(BV.BinaryNum,1,6),SUBSTRING(BV.BinaryNum,7,6)))B(B1,B2)
     CROSS APPLY(VALUES(6,0),(5,1),(4,2),(3,3),(2,4),(1,5))P(I,P);

这分别给了我们 8 和 54。然后，最后，我们可以应用您的 *2 - 12 逻辑（虽然不是必需的，但为了清楚起见，我将添加括号），它给出了 -112 和 -24 (-{{1} } 是正确的，因为您在问题 24 是 110100，但是，它是 54)：

52

我们可以用您的其他值对此进行测试，这也能正常工作，返回 WITH BinaryVal AS( SELECT STRING_AGG(CASE V.I & POWER(2,(11))P(I)) SELECT (SUM(CASE SUBSTRING(B1,P.P) END) * 2) - 128,(SUM(CASE SUBSTRING(B2,P.P) END) * 2) - 128 FROM BinaryVal BV CROSS APPLY(VALUES(SUBSTRING(BV.BinaryNum,P); 和 -56：

-62

db<>fiddle