0

0

如何在 Postgres SQL 中删除重复项

花韻仙語

花韻仙語

发布时间:2024-11-20 09:06:09

|

455人浏览过

|

来源于dev.to

转载

如何在 postgres sql 中删除重复项


交叉发布在我的博客上 您可以在这里阅读

我们的架构

create table "post" (
  id serial primary key,
  title varchar(255) not null,
  content text not null
);

create table "user" (
  id serial primary key,
  name varchar(255) not null
)

create table "post_like" (
  id serial primary key,
  post_id integer not null references post(id),
  user_id integer not null references user(id)
)

现在我们要确保每个用户不能多次喜欢同一个帖子。
这可以通过以下方式避免:

  • 对 post_like 表的 post_id + user_id 列对使用唯一约束。
  • 或者删除post_like表的id列并在post_id + user_id上使用复合主键

但是,假设我们已经存在重复项,我们需要删除它们。

检查是否有重复

select 
  post_id, 
  user_id,
  count(*)
from post_like
group by post_id, user_id
having count(*) > 2
;

| post_id | user_id | count |
| ------- | ------- | ----- |
| 3       | 2       | 2     |

此输出告诉我们,用户 2 已多次喜欢帖子 3,特别是 2 次。

删除重复项

现在我们知道存在重复项,我们可以删除它们。

我们将此过程分为两步:

  • 读取重复项
  • 删除重复项(试运行)
  • 删除重复项(实际运行)

读取重复项

事务回滚

为了在不删除真实数据的情况下测试我们的查询,直到我们确定查询正确为止,我们使用事务回滚功能。

通过这样做,我们的查询将永远不会被提交,类似于
您可以在其他应用程序上找到“试运行”概念(例如
rsync)。

cte

我们使用 cte 因为它提供了良好的 dx。

使用 cte,我们可以运行查询,将结果存储在临时表中,然后使用同一表进行后续查询。

这种心理模型类似于我们通常通过创建临时变量来进行编码。

cte 语法为

 with 
  as (
   
 ),
  as (
    -- here we can refernce 
 )
  -- here we can refernce  and 

通过交易和 cte,我们可以执行以下操作:

begin; -- start transaction

with
duplicates_info as (
  select
    row_number() over (
      partition by post_id, user_id order by user_id
    ) as group_index,
    id,
    post_id,
    user_id
  from post_like
)
select *
from duplicates_info
;

rollback; -- ends transaction discarding every changes to the database 

| group_index | id | post_id | user_id |
| ----------- | -- | ------- | ------- |
| 1           | 1  | 1       | 1       |
| 1           | 2  | 2       | 2       |
| 1           | 3  | 3       | 2       |
| 2           | 4  | 3       | 2       |

最新一行结果,其中group_index为2,表示该行是post_id = 3且user_id = 2的组中的第二行。

这里的语法会发生什么?

row_number() over (partition by ...) as group_index 是一个窗口函数,它首先按partition by 子句中的列对行进行分组,然后根据行的索引为每行分配一个数字在组中。

partition 与 group by 类似,因为它按公共列对行进行分组,但如果 group by 为每个组仅返回 1 行,partition 让我们根据组向源表添加新列。

arXiv Xplorer
arXiv Xplorer

ArXiv 语义搜索引擎,帮您快速轻松的查找,保存和下载arXiv文章。

下载

group_index是列名别名,常规sql语法。

仅过滤重复项

现在我们只保留 group_index > 1 的项目,这意味着该行不是组中的第一行,或者换句话说,它是重复的。

begin; -- start transaction

with
duplicates_info as (
  select
    row_number() over (
      partition by post_id, user_id order by user_id
    ) as group_index,
    id,
    post_id,
    user_id
  from post_like
)
select *
from duplicates_info
+ where group_index > 1
;

rollback; -- ends transaction discarding every changes to the database 
| group_index | id | post_id | user_id |
| ----------- | -- | ------- | ------- |
| 2           | 4  | 3       | 2       |

我们只需删除 id 为 4 的这一行。

删除重复项 - 试运行

现在重写最终查询,以便我们从 post_like 表中读取,而不是再从 cte烦人的_info 中读取。
我们仍然使用 cte duplics_info 来获取重复项的 id。

begin; -- start transaction

with
duplicates_info as (
  select
    row_number() over (
      partition by post_id, user_id order by user_id
    ) as group_index,
    id,
    post_id,
    user_id
  from post_like
)
- select *
- from duplicates_info
- where group_index > 1
+ select *
+ from post_like
+ where id in (
+  select id from duplicates_info
+  where group_index > 1
+ )
;

rollback; -- ends transaction discarding every changes to the database 

我们将看到我们想要删除的记录。

在检查它们正确后,我们将选择与删除交换。

begin; -- start transaction

with
duplicates_info as (
  select
    row_number() over (
      partition by post_id, user_id order by user_id
    ) as group_index,
    id,
    post_id,
    user_id
  from post_like
)
- select *
+ delete
from post_like
where id in (
 select id from duplicates_info
 where group_index > 1
)
+ returning * -- will output deleted rows
;

rollback; -- ends transaction discarding every changes to the database 

最后一个查询是我们最终想要执行的。

但因为我们还有回滚语句,所以这些更改是模拟的,并没有应用到数据库。

删除重复项 - 真实运行

最后我们可以真正删除重复项了。
这里我们使用提交而不是回滚,以便将更改应用到数据库。

begin; -- start transaction

with
duplicates_info as (
  select
    row_number() over (
      partition by post_id, user_id order by user_id
    ) as group_index,
    id,
    post_id,
    user_id
  from post_like
)
delete
from post_like
where id in (
 select id from duplicates_info
 where group_index > 1
)
returning * -- output deleted rows
;

- -- ends transaction discarding every changes to the database 
- rollback; 

+ -- ends transaction applying changes to the database
+ commit; 

最终代码

-- start transaction
begin; 

with
duplicates_info as (
  select
    row_number() over (
      partition by post_id, user_id order by user_id
    ) as group_index,
    id,
    post_id,
    user_id
  from post_like
)
delete
from post_like
where id in (
 select id from duplicates_info
 where group_index > 1
)
returning * -- output deleted rows
;

-- ends transaction discarding every changes to the database 
-- rollback; 

-- ends transaction applying changes to the database
commit; 

结论

我写文章主要是为了帮助自己的未来,或者帮助我在工作中使用的工具的发展。

如果这篇文章对您有帮助,请点赞。

你想让我谈论一个特定的话题吗?

在评论里告诉我吧!

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

675

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

319

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

346

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

1084

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

356

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

674

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

566

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

410

2024.04.29

php源码安装教程大全
php源码安装教程大全

本专题整合了php源码安装教程,阅读专题下面的文章了解更多详细内容。

74

2025.12.31

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号