網站首頁 編程語言 正文
PostgreSQL是一種特性非常齊全的自由軟件的對象-關系型數據庫管理系統(ORDBMS),是以加州大學計算機系開發的POSTGRES,4.2版本為基礎的對象關系型數據庫管理系統。POSTGRES的許多領先概念只是在比較遲的時候才出現在商業網站數據庫中。PostgreSQL支持大部分的SQL標準并且提供了很多其他現代特性,如復雜查詢、外鍵、觸發器、視圖、事務完整性、多版本并發控制等。同樣,PostgreSQL也可以用許多方法擴展,例如通過增加新的數據類型、函數、操作符、聚集函數、索引方法、過程語言等。另外,因為許可證的靈活,任何人都可以以任何目的免費使用、修改和分發PostgreSQL。
以前抽數據都是從其他數據庫抽取到postgres數據庫的所以選擇kettle。新項目需求里需要把客戶給的csv文件數據抽到postgresql,其中還需要對相關字段進行清洗。先聲明下kettle也可以實現,但是總感覺依賴第三方軟件抽數據不如直接操作數據庫,除非逼不得已,盡量不用(純屬個人見解)。于是就研究linux直接連接數據庫處理這部分需求。代碼如下
#!/bin/bash
# *****************************************************
# ** linux_schedule_test
# *****************************************************
#\copy test from '/etl-script/test.csv' delimiter ',' csv header encoding 'UTF8';
# copy test_copy to 'D:\test_copy1.csv' delimiter ',' csv header encoding 'GBK';
export PATH=/usr/pgsql-10/bin:/usr/bin;
psql "host=127.0.0.1 port=5434 user=admin password=123456 dbname=linux_schedule_test" << EOF #2>/dev/null
\copy test from '/etl-script/test.csv' delimiter ',' csv header encoding 'GBK';
create table test$(date +%Y%m%d_%H%m%S) as select * from test;
\q
EOF
export PATH=/usr/pgsql-10/bin:/usr/bin :因為環境作用域問題,最好在腳本開始處將要用到的命令添加PATH路徑。
psql "host=127.0.0.1 port=5434 user=admin ?password=123456 dbname=linux_schedule_test" :連接數據庫
<< EOF : 通過重定向,停留在psql客戶端。
#2>/dev/null 腳本出錯不輸出,調試時建議注釋掉,不然都不知道腳本為什么沒有跑。
\copy test from '/etl-script/test.csv' delimiter ',' csv header encoding 'GBK';:通過copy命令抽取csv文件數據。
create table test$(date +%Y%m%d_%H%m%S) as select * from test;:備份test表數據,測試用的。
\q:退出psql。這個不寫也可以最后的EOF也會接受psql客戶端的。
EOF:結束重定向。
原文鏈接:https://blog.csdn.net/londa/article/details/107359672
相關推薦
- 2022-08-20 在python中讀取和寫入CSV文件詳情_python
- 2022-06-08 FreeRTOS任務控制API函數的功能分析_操作系統
- 2022-05-26 Python編程中內置的NotImplemented類型的用法_python
- 2022-02-22 記一個nginx錯誤directory index of “/var/www/xxxx/“ is f
- 2023-10-15 前端console.log打印內容與后端請求返回數據不一致
- 2022-09-26 數據結構---圖、十字鏈表及其代碼實現
- 2023-06-18 一文帶你了解C#中的協變與逆變_C#教程
- 2022-07-18 實現?Python?腳本生成命令行_python
- 最近更新
-
- window11 系統安裝 yarn
- 超詳細win安裝深度學習環境2025年最新版(
- Linux 中運行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎操作-- 運算符,流程控制 Flo
- 1. Int 和Integer 的區別,Jav
- spring @retryable不生效的一種
- Spring Security之認證信息的處理
- Spring Security之認證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權
- redisson分布式鎖中waittime的設
- maven:解決release錯誤:Artif
- restTemplate使用總結
- Spring Security之安全異常處理
- MybatisPlus優雅實現加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務發現-Nac
- Spring Security之基于HttpR
- Redis 底層數據結構-簡單動態字符串(SD
- arthas操作spring被代理目標對象命令
- Spring中的單例模式應用詳解
- 聊聊消息隊列,發送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠程分支