Home
TIL
Cancel

dataframe 순회하기(데이터전처리)

자연어 처리(NLP)를 하다보면 전처리해야할 일이 많다. 전처리를 할 때 dataframe 형식으로 데이터를 처리하는데 데이터의 양이 너무 많다보니 단순 for문은 속도 측면에서 매우 비효율적이다. 엄청 느리다. df.itterows() for index, data in df.iterrows() ※ 진행상황 출력하기 import tqdm for i...

Postgresql foreign table 사용하기

postgres_fdw 설치 ✔ target 서버에서 해야한다! CREATE EXTENSION postgers_fdw; 확인 \dx 서버 생성 CREATE SERVER server_name FOREIGN DATA WRAPPER postgres_fdw OPTIONS (host '원격db_ip', port '', dbname '원격db_name') ...

Postgresql Lock 걸렸을 때

세션확인 SELECT * FROM pg_stat_activity pg_stat_activity 컬럼 유형     ➡️     pg_stat_activity columns 특정 세션 종료 SELECT pg_cancel_backend(PID); SELECT pg_terminate_backend(PID); cancel - 해당 PID만 종료 term...

SQL 기본 정리(PostgreSQL)

DDL(Data Definition Language) CREATE CREATE TABLE table_name(); ALTER -- 테이블 이름 변경 ALTER TABLE table_name RENAME TO new_table_name ; -- 컬럼 추가 ALTER TABLE table_name ADD COLUMN column_name type; -...

[Linux] 패키지 관리

pip 파이썬으로 작성된 패키지 소프트웨어를 설치 관리하는 패키지 관리 시스템 pip list pip freeze > requirements.txt pip 설치 pip install -r requirements.txt ※ 설치할때 충돌나면 pip install --upgrade --force -reinstall --no-deps --no-...

[Linux] Cron 스케줄러 사용하기

Crontab 설정하기 에디터 설정하기 export VISUAL=nvim; crontab -e 명령어 옵션 -l : 설정된 목록 조회 -r : 내용 삭제 ❗️ 설정 적용 servie cron start(restart/stop) 크론탭을 수정하면 restart 해야한다. crontab 실행 로그(syslog에...

Windows 키 변경(Capslock-Ctrl)

맥을 사용하면서 Ctrl키를 사용할 때가 많아 Ctrl과 Capslock을 바꿔서 사용해왔다. 맥북같은 경우에는 키보드 환경설정에서 보조키를 쉽게 변경할 수 있다. 하지만 일할때에는 윈도우를 사용하다보니 너무 불편했다. 그래서 결국 레지스트리를 통해 바꿔주었다.👍 CapsLock - Ctrl 바꾸기 1. 레지스트리 편집기 실행 ( window+r...

Jekyll 블로그 - Chirpy 레이아웃 적용 안될때(Github CI 워크플로)

블로그 이전~ 돌고돌아 다시 Chirpy 테마로 돌아왔다.😆 역시 이 테마가 가장 깔끔하고 좋은 것 같다. 그런데 새로 빌드하는데 css 가 적용이 안되고 계속 layout: home # Index page가 떴다. 로컬에서는 문제가 없어서 쫌 헤맸다. 깃 레파지토리에서 actions를 보면 ruby를 셋업할 때 문제가 생겼다. 우선 밑에 이미...

한국어 전처리

한국어 전처리 PyKoSpacing pip install git+https://github.com/haven-jeon/PyKoSpacing.git from psykospacing import Spacing spacing = Spacing() kospacing_sent = spacing(new_sent) Py-Hanspell 네이버 한글 맞춤법 검사...

[Linux] SSH와 SCP

SSH란? Secure Shell의 줄임말로 원격 호스트에 접속하기 위한 보안 프로토콜. ssh user@ip SSH 보안 ssh는 연결할때 비대칭키 방식을 사용한다. 연결할때 인증받기 위해 개인키인 pem 키를 사용. ssh -i ssh_key.pem user@ip *i = identity file SCP란? Secure Copy의 약자로 서...