AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / dba / 问题 / 262705
Accepted
Levi
Levi
Asked: 2020-03-26 19:13:28 +0800 CST2020-03-26 19:13:28 +0800 CST 2020-03-26 19:13:28 +0800 CST

用特殊字符替换一组连续的数字

  • 772

我有一个varchar(200)列,其中包含以下条目,

ABC123124_A12312 ABC123_A1212 ABC123124_B12312 AC123124_AD12312 A12312_123 ETC..

我想用单个数字替换一系列数字,*以便可以对表中不同的非数字模式进行分组。

这组的结果是 ABC*_A* ABC*_B* AC*_AD* A*_*

我在下面编写了以下原始查询,它可以正常工作,但是在一个巨大的表上运行需要很长时间。

我需要帮助来重写或编辑它以提高它的性能。SQL Server 2014

-- 1. replace all numeric characters with '*'
-- 2. replace multiple consecutive '*' with just a single '*'
SELECT REPLACE
        (REPLACE
             (REPLACE
                  (REPLACE
                       (REPLACE
                            (REPLACE
                                 (REPLACE
                                      (REPLACE
                                           (REPLACE
                                                (REPLACE
                                                     (REPLACE
                                                          (REPLACE
                                                               (REPLACE(SampleID, '0', '*'),
                                                                '1', '*'),
                                                           '2', '*'),
                                                      '3', '*'),
                                                 '4', '*'),
                                            '5', '*'),
                                       '6', '*'),
                                  '7', '*'),
                             '8', '*'),
                        '9', '*')
                  , '*', '~*') -- replace each occurrence of '*' with '~*' (token plus asterisk)
             , '*~', '') -- replace in the result of the previous step each occurrence of '*~' (asterisk plus token) with '' (an empty string)
        , '~*', '*') -- replace in the result of the previous step each occurrence of '~*' (token plus asterisk) with '*' (asterisk)
        AS Pattern
FROM TABLE_X

数据

该列包括字母和数字[A-Za-z0-9],还可能包括特殊字符/和_. 我想用 替换任何数字序列*,但我不知道该条目是否有特殊字符,如果有,有多少特殊字符。

我也不知道条目中有多少个数字序列。我所知道的是,一个条目必须至少有 1 个数字序列。

sql-server sql-server-2014
  • 2 2 个回答
  • 1678 Views

2 个回答

  • Voted
  1. Best Answer
    Paul White
    2020-03-26T21:43:36+08:002020-03-26T21:43:36+08:00

    有两个因素对性能很重要:

    1. 减少字符串操作的数量。

      您可能会发现可以使用 eg 来实现您需要的内容CHARINDEX并找到组的开始和结束,而不是每次都对整个字符串PATINDEX执行很多操作。REPLACE

    2. 使用提供正确结果的最便宜的排序规则。

      二进制排序规则是最便宜的。SQL 排序规则(仅在非 Unicode 数据上)要贵一些。Windows 排序规则要贵得多。

    例如:

    DECLARE @T table
    (
        SampleID varchar(200) NOT NULL UNIQUE
    );
    
    INSERT @T
        (SampleID)
    VALUES
        ('ABC123124_A12312'),
        ('ABC123_A1212'),
        ('ABC123124_B12312'),
        ('AC123124_AD12312'),
        ('A12312_123'),
        ('999ABC888DEF');
    
    SELECT
        T.SampleID,
        Pattern =
        (
            SELECT
                CASE
                    WHEN Chars.this NOT LIKE '[0123456789]' THEN Chars.this
                    WHEN Chars.prev NOT LIKE '[0123456789]' THEN '*'
                    ELSE ''
                END
            FROM dbo.Numbers AS N
            OUTER APPLY
            (
                SELECT 
                    SUBSTRING(Bin.string, N.n, 1),
                    SUBSTRING(Bin.string, N.n + 1, 1)
            ) AS Chars (prev, this)
            WHERE
                N.n BETWEEN 1 AND LEN(Bin.string)
            ORDER BY N.n
            FOR XML PATH ('')
        )
    FROM @T AS T
    OUTER APPLY (VALUES('$' + T.SampleID COLLATE Latin1_General_100_BIN2)) AS Bin (string);
    

    db<>小提琴演示

    该示例依赖于一个永久的数字表。如果需要,足够的表格varchar(200)是:

    -- Create a numbers table 1-200 using Itzik Ben-Gan's row generator
    WITH
      L0   AS (SELECT 1 AS c UNION ALL SELECT 1),
      L1   AS (SELECT 1 AS c FROM L0 AS A CROSS JOIN L0 AS B),
      L2   AS (SELECT 1 AS c FROM L1 AS A CROSS JOIN L1 AS B),
      L3   AS (SELECT 1 AS c FROM L2 AS A CROSS JOIN L2 AS B),
      L4   AS (SELECT 1 AS c FROM L3 AS A CROSS JOIN L3 AS B),
      L5   AS (SELECT 1 AS c FROM L4 AS A CROSS JOIN L4 AS B),
      Nums AS (SELECT ROW_NUMBER() OVER(ORDER BY (SELECT NULL)) AS n FROM L5)
    SELECT
        -- Destination column type integer NOT NULL
        ISNULL(CONVERT(integer, N.n), 0) AS n
    INTO dbo.Numbers
    FROM Nums AS N
    WHERE N.n >= 1
    AND N.n <= 200
    OPTION (MAXDOP 1);
    
    -- Add clustered primary key
    ALTER TABLE dbo.Numbers
    ADD CONSTRAINT PK_Numbers_n
    PRIMARY KEY CLUSTERED (n)
    WITH (SORT_IN_TEMPDB = ON, MAXDOP = 1, FILLFACTOR = 100);
    

    如果这不是更快,您可能会发现单独使用二进制排序规则会充分加快现有实现的速度。要实现这一点,请将您的代码的一行更改为:

    (REPLACE(SampleID COLLATE Latin1_General_100_BIN2, '0', '*'),
    

    SQL Server 2017 或更高版本的用户可以利用内置TRANSLATE函数,它的性能可能比嵌套REPLACE调用更好。

    您还可以使用通用的正则表达式 CLR 函数,或者在 SQLCLR 中为这个特定任务实现一些自定义的东西。参见例如SQL Server:用通配符替换?

    使用SQL# 库,一个完整的解决方案是:

    SELECT 
        T.SampleID,
        SQL#.RegEx_Replace4k(T.SampleID, '\d+', '*', -1, 1, 'CultureInvariant')
    FROM @T AS T;
    

    完整的正则表达式支持对于这个任务来说是多余的,所以如果你能够使用 SQLCLR,为你的需要编写一个特定的函数可能是所有性能最好的解决方案。

    • 12
  2. KumarHarsh
    2020-03-27T09:01:50+08:002020-03-27T09:01:50+08:00

    以您喜欢的任何方式创建数字表,

    create table tblnumber(number int not null)
    insert into tblnumber (number)
    select ROW_NUMBER()over(order by a.number) from master..spt_values a
    , master..spt_values b
    CREATE unique clustered index CI_num on tblnumber(number)
    

    或者您2000 ,3000只能在 tblNumber 中编号,因为没有字符串会那么长。缩短一张数字表。

    使用 ITVF,

    ALTER FUNCTION [dbo].[fn_Mask] (@pString VARCHAR(4000))
        --WARNING!!! DO NOT USE MAX DATA-TYPES HERE!  IT WILL KILL PERFORMANCE!
    RETURNS TABLE
        WITH SCHEMABINDING
    AS
    RETURN
    WITH CTE AS (
            SELECT t.number AS N
                ,SUBSTRING(@pString, t.number, 1) col
            FROM dbo.tblNumber T
            WHERE t.number <= DATALENGTH(@pString)
            )
        ,CTE1 AS (
            SELECT c.N
                ,CASE 
                    WHEN patindex('%[0-9]%', c.col) = 0
                        THEN c.col
                    ELSE oa.col2
                    END col1
            FROM CTE c
            OUTER APPLY (
                SELECT TOP 1 '*' AS col2
                FROM CTE c1
                WHERE c.N - c1.N = 1
                    AND patindex('%[0-9]%', c1.col) = 0
                    AND patindex('%[0-9]%', c.col) = 1
                ORDER BY c1.N
                ) oa
            )
    
    SELECT TOP 1 (
            SELECT '' + col1
            FROM CTE1
            WHERE N > 1
                AND col1 IS NOT NULL
            ORDER BY N
            FOR XML path('')
            ) MaskedString
    FROM CTE1 C;
    

    用法 :

        DECLARE @T table
    (
        SampleID varchar(200) NOT NULL UNIQUE
    );
    
    INSERT @T
        (SampleID)
    VALUES
        ('ABC123124_A12312'),
        ('ABC123_A1212'),
        ('ABC123124_B12312'),
        ('AC123124_AD12312'),
        ('A12312_123'),
        ('A$B.C-D+E'),
        ('A2B.C-D+E'),
        ('999ABC888DEF');
    
        --Prefix one extra non numeric charector.it do not change output
        select SampleID,MaskedString from @T T
        cross apply(select MaskedString from [dbo].[fn_Mask]('F'+t.SampleID))ca
    
    select MaskedString from [dbo].[fn_Mask]('F'+'999ABC888DEF')
    
    • 1

相关问题

  • SQL Server - 使用聚集索引时如何存储数据页

  • 我需要为每种类型的查询使用单独的索引,还是一个多列索引可以工作?

  • 什么时候应该使用唯一约束而不是唯一索引?

  • 死锁的主要原因是什么,可以预防吗?

  • 如何确定是否需要或需要索引

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    连接到 PostgreSQL 服务器:致命:主机没有 pg_hba.conf 条目

    • 12 个回答
  • Marko Smith

    如何让sqlplus的输出出现在一行中?

    • 3 个回答
  • Marko Smith

    选择具有最大日期或最晚日期的日期

    • 3 个回答
  • Marko Smith

    如何列出 PostgreSQL 中的所有模式?

    • 4 个回答
  • Marko Smith

    列出指定表的所有列

    • 5 个回答
  • Marko Smith

    如何在不修改我自己的 tnsnames.ora 的情况下使用 sqlplus 连接到位于另一台主机上的 Oracle 数据库

    • 4 个回答
  • Marko Smith

    你如何mysqldump特定的表?

    • 4 个回答
  • Marko Smith

    使用 psql 列出数据库权限

    • 10 个回答
  • Marko Smith

    如何从 PostgreSQL 中的选择查询中将值插入表中?

    • 4 个回答
  • Marko Smith

    如何使用 psql 列出所有数据库和表?

    • 7 个回答
  • Martin Hope
    Jin 连接到 PostgreSQL 服务器:致命:主机没有 pg_hba.conf 条目 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane 如何列出 PostgreSQL 中的所有模式? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh 为什么事务日志不断增长或空间不足? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland 列出指定表的所有列 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney MySQL 能否合理地对数十亿行执行查询? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx 如何监控大型 .sql 文件的导入进度? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison 你如何mysqldump特定的表? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas 如何使用 psql 对 SQL 查询进行计时? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas 如何从 PostgreSQL 中的选择查询中将值插入表中? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas 如何使用 psql 列出所有数据库和表? 2011-02-18 00:45:49 +0800 CST

热门标签

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve