PostgreSQL 去除字符串中的不可见字符 终极方法

测试表中数据如下：

postgres=# select * from test;
  street  
----------
 澄江街道
 澄江街道
(2 行记录)

然后我们执行如下sql：

postgres=# select * from test where street='澄江街道';
  street  
----------
 澄江街道
(1 行记录)

问题已经暴露，明明两条‘澄江街道’的记录啊！咋查出来就一条了？？

接下来进行如下检查：

postgres=# select street,length(street) from test;
  street  | length 
----------+--------
 澄江街道 |      5
 澄江街道 |      4
(2 行记录)

遇到这种情况就问你懵不懵逼？？一样的字符串长度一个5一个4啊！！日狗，混入不可见字符了。

可能这时已经有人想出了办法，这种办法如下：

update test set street='澄江街道' where street like '%澄江街道%';

postgres=# start transaction;
START TRANSACTION
postgres=# update test set street='澄江街道' where street like '%澄江街道%';
UPDATE 2
postgres=# select * from test where street='澄江街道';
  street  
----------
 澄江街道
 澄江街道
(2 行记录)

postgres=# rollback;
ROLLBACK

哈哈，皆大欢喜，问题解决了。

但是，如果这种数据很多呢？？？

你是要一条一条的update咯？？

不幸的是，本人遇到的这种数据就很多（因为数据是从excel中导入进来的）。

然后我就找到了如下这种终极方案：

先确定这种不可见字符到底是哪个字符（一般情况一个csv文件的中如果有不可见字符应该也都是同一个不可见字符）

postgres=# select encode(street::bytea,'escape') from test;
                            encode                            
--------------------------------------------------------------
 \357\273\277\346\276\204\346\261\237\350\241\227\351\201\223
 \346\276\204\346\261\237\350\241\227\351\201\223
(2 行记录)

那段\357\273\277多刺眼啊。。。。。。

如果你有仇人可以考虑有这种方法报复他了

然后确定是否可以将该不可见字符过滤掉：

postgres=# select encode(street::bytea,'escape') from test where btrim(street::bytea,E'\\357\\273\\277'::bytea) = '澄江街道';
                            encode                            
--------------------------------------------------------------
 \357\273\277\346\276\204\346\261\237\350\241\227\351\201\223
 \346\276\204\346\261\237\350\241\227\351\201\223
(2 行记录)

查到了两条记录，用这个btrim看来确实是把字符串里的\357\273\277全部去除了。

接下来就要update表啦~

postgres=# update test set street=btrim(street::bytea,E'\\357\\273\\277'::bytea);
UPDATE 2

update成功。

查看数据：

postgres=# select * from test;
           street           
----------------------------
 \xe6be84e6b19fe8a197e98193
 \xe6be84e6b19fe8a197e98193
(2 行记录)

哈哈，中文变成16进制的了。

不过不用捉急。

postgres=# select convert_from(street::bytea,'UTF8') from test;
 convert_from 
--------------
 澄江街道
 澄江街道
(2 行记录)

再转回UTF8编码不就行了？（乱码问题是所有问题中最简单的问题，没有之一）

按照这种方法update一下表：

postgres=# update test set street=convert_from(street::bytea,'UTF8');
UPDATE 2

postgres=# select * from test;
  street  
----------
 澄江街道
 澄江街道
(2 行记录)

正常的数据又回来啦。

postgres=# select * from test where street='澄江街道';
  street  
----------
 澄江街道
 澄江街道
(2 行记录)

postgres=# select street,length(street) from test;
  street  | length 
----------+--------
 澄江街道 |      4
 澄江街道 |      4
(2 行记录)

不可见字符的问题也得到了解决。

原文地址：https://www.jb51.cc/postgresql/194300.html