PostgreSQL定时清理旧数据的实现方法


    目录
  • 前言
  • 环境说明
    • 1、对原来的docker—compose进行修改
    • 2、pgadmin基本操作
    • 3、安装pgagent插件(重点)
    • 4、定时任务的开启和清理的sql语句
  • 尾声

    前言
    最近leader觉得数据库中每日数据不需要都保持,只需要保留30天的,就让我去研究下。坑是真的大,最后才勉强实现,故记录一下。
    技术涉及:docker docker-conpose SQL pgadmin4 pgagent
    环境说明
    我们的数据库是部署是使用docker-conponse直接部署在服务器上的,默认为debain。
    postgre为14,所以下面默认你已经在docker中安装了数据库
    1、对原来的docker—compose进行修改
    在原来的基础上添加:
    
pgadmin: 
    container_name: pgadmin4_container 
    image: dpage/pgadmin4 
    restart: always 
    environment: 
        PGADMIN_DEFAULT_EMAIL: <admin@admin.com> PGADMIN_DEFAULT_PASSWORD: root 
    ports: - "5050:80"

    添加完毕后,重启下容器
    
docker-compose up -d

    这个时候我们访问下服务器ip:5050就能看到一个可视化的数据库管理页面
    
    记得在postgres中添加以下sql代码
    
CREATE OR REPLACE FUNCTION delete_old_data() RETURNS void AS $$
DECLARE
tbl_name record;
table_date date;
BEGIN
FOR tbl_name IN SELECT table_name FROM information_schema.tables WHERE table_schema = 'public' AND table_name LIKE 'position_record_%' AND table_name ~ '\d{8}' LOOP
table_date := to_date(substring(tbl_name.table_name from '\d{8}'), 'YYYYMMDD');
IF table_date < current_date - 30 THEN
EXECUTE format('DROP TABLE IF EXISTS public.%I', tbl_name.table_name);
END IF;
END LOOP;
END;
$$ LANGUAGE plpgsql;

    2、pgadmin基本操作
    输入账号和密码:admin@admin.com、root
    登陆成功
    
    (修改中文为:左上角-FILE-Preferences-User language-Chinese)
    右击Servers-创建-服务器
    输入对应的ip账号密码,就可以看到自己的数据库了。
    3、安装pgagent插件(重点)
    你需要进入postgres容器、环境配置、安装pgagent、pgagent配置
    
docker-compose exec pgsql bash # 进入容器
apt-get update # 更新源
apt install vim # 安装vim工具
vim /etc/apt/sources.list # 进入系统源配置文件把原来的注释了添加

deb <http://mirrors.aliyun.com/debian/> bullseye main deb 
<http://mirrors.aliyun.com/debian-security> bullseye-security main deb 
<http://mirrors.aliyun.com/debian> bullseye-updates main
# 修改成国内源

apt-get update
apt install pgagent # 安装pgagent
psql -U postgres -h localhost # 创建db扩展
CREATE EXTENSION pgagent; 
\q 
exit
# 在postgres数据库上启用pgagent:
pgagent hostaddr=127.0.0.1 dbname=postgres user=postgres password=***** 
# 和你的docker-conpose保持一致就好

    如果输入pgagent hostaddr...指令没有报错的话就安装插件完毕了。
    这个时候你再去访问pgadmin就可以看到
    
    即pgagent配置完毕!
    4、定时任务的开启和清理的sql语句
    鼠标右击pgAgent任务-创建-pgAgent作业...
    
    输入名称后,点击步骤
    
    由于我是本地所以连接字符串不需要(按照你的需求来) 在代码中添加
    
SELECT delete_old_data();

    这个清理的具体逻辑按照你实际情况来
    
    
    
    这样就是一天执行一次,按照你的需求来,如果是小时为00分钟为30,那就是到30分钟就清理一次(一小时)
    点击保存就好了。
    
    这里可以看到配置的状态
    尾声
    我就是简单配置下,看看会不会生效。如果可以的话,我将把定时备份数据库的操作也放到上面去。如果我上的有错,也会修改。