서버 부하 고려한 AI 모델 재학습 스케줄링 환경 구축 (crontab)

1. 개요 졸업 작품으로 POI (Point Of Interest) 추천 시스템을 개발하기로 했다. 팀원 중 2명이 Python을 사용하여 AI 모델을 개발하는 부분을 맡았고, 데이터를 가공하여 DB에 넣고, 학습된 AI 모델을 서비스로 제공할 수 있도록 서버를 구축하는 역할을 맡았다. AI 모델의 학습 데이터로는 Yelp의 대용량 데이터셋을 사용하기로 했다. 데이터셋에는 약 900만 개의 데이터가 포함되어 있었고, 이 데이터와 새로 추가된 데이터를 사용하여 AI를 재학습해야 했다. 처음에는 Spring 서버를 띄우고, 스프링 스케줄러를 사용하여 Python 파일을 실행하여 재학습을 진행할 계획이었다. 그러나 대용량 데이터이기 때문에 다른 트래픽을 처리하는 데 문제가 될 것으로 예상됐다. 일반적으로 대용..

• format_list_bulleted devOps 💡
• · 2024. 4. 9.
• textsms

github action, docker, nginx를 활용한 무중단 배포 시 Docker Image가 업데이트 되지 않는 문제

1. 개요github action, docker와 nginx를 사용해 무중단 배포 CI/CD를 구축해뒀었다. 나는 BLUE/GREEN 방식의 무중단 배포를 적용해뒀는데, 적용 후 새로운 컨테이너가 실행되고 스프링 서버가 다 켜졌다면, 기존 컨테이너를 종료시키는 것 까지 확인했기에 잘 구축됐다 생각했다.  며칠 전 프론트엔드 팀에서 서버 연동 테스트를 해보겠다는 요청이 들어왔고 트리거를 걸어둔 브랜치에 push 해주어 배포를 시도했지만, 변경사항이 제대로 적용되지 않았다.   ec2에 들어가 원인을 살펴보았다.Nginx config 파일에 port도 잘 변경되었고, 컨테이너도 잘 실행되고 종료되는걸 확인했는데 변경 코드가 적용되지 않아 이미지가 문제인가 하고 이미지 목록을 조회했더니 이미지가 업데이트 되지..

• format_list_bulleted devOps 💡
• · 2024. 4. 5.
• textsms

[Neo4j] Graph Database란? RDBMS와 비교, neo4j 도입 이유

1. 개요 RDBMS만 써보던 나에게 Graph Database를 쓸 기회가 찾아왔다. 왜 Graph Database를 도입하기로 했는지에 대해 정리하고자 이 글을 쓴다. 4학년이 되었고 나는 졸업 작품 주제로 컨텐츠 정보를 활용한 개인화 POI 추천 서비스 로 선정하였다. 기존의 개인화 POI 추천 시스템은 Collaborative Filterin이 주류이고 이는 행동 데이터에만 의존하고 있어, POI의 다양한 컨텐츠 정보(평점, 리뷰, 사진, 지리적 거리 등)을 전혀 고려하지 못한다. 이런 문제점을 해결하기 위해 프로젝트를 시작하게 되었다. ai 학습 데이터로 yelp의 오픈 데이터셋을 사용하기로 했다. 웹 관련된 프로젝트만 진행하다 ai, ml과 섞인 프로젝트를 하니 데이터의 크기가 어마무시했다. ..

• format_list_bulleted DB 🔑
• · 2024. 3. 27.
• textsms

[Spring Batch] Paging 기반의 ItemReader 사용 시 발생하는 데이터 건너뛰기 현상 (해결 방법 2가지)

1. 문제 상황 데이터베이스를 기준으로 ItemReader의 구현체를 나눌 때, Cursor Based ItemReader과 Paging Based ItemReader으로 나눌 수 있다. Cursor 기반의 ItemReader의 경우, 데이터베이스 커넥션을 지속적으로 독점으로 사용하여 처리가 완료되는 시점까지 커넥션을 놓아주지 않기 때문에, 경우에 따라 성능상에 영향을 줄 수 있다. 따라서 Paging 기반의 ItemReader를 선택했고 최근에 스케줄러와, 배치 로직을 개발했다. 하지만 실제 로직 수행 결과는 원하는데로 되지 않았고, 몇 개의 데이터를 건너뛴채로 수행되었다. 나의 배치 로직은 특정 조건을 만족하면 PENDING 중이던 Apply를 CANCELED로 변경해주는 것이다. 사진에서 work_..

• format_list_bulleted Spring Boot, JAVA 🌱
• · 2024. 3. 15.
• textsms

[Spring Batch] ItemReader cursor vs paging

1. 개요이전 프로젝트에서 일괄적으로 알림을 보내는 기능을 개발했었는데 기능 구현을 위해 스프링 배치를 학습했었다. 그때도 ItemReader의 종류가 여러가지 있는 건 알았지만 우선 아무거나 선택해 구현했었는데 이번 기회에 제대로 알아보려고 한다.    2. Spring Batch Chunk?Spring Batch에서 일괄 처리를 하는 방법은 크게 두가지가 있다. 바로 Tasklet 기반과 Chunk 기반인데 ItemReader은 Chunk 방식에서 사용되는 것이다. ItemReader에 학습하기 앞서 Chunk에 대해 가볍게 알아보자.  Spring Batch에서의 Chunk란 데이터 덩어리로 작업 할 때 각 커밋 사이에 처리되는 row 수를 얘기한다. 즉, Chunk 지향 처리란 ..

• format_list_bulleted Spring Boot, JAVA 🌱
• · 2024. 3. 11.
• textsms

[Redis] redis에서 데이터 영구 저장하는 방법 (RDB / AOF)

1. Redis 데이터의 영속성 Redis는 In-memory DB 임에도 불구하고, 메모리 데이터를 디스크에 저장할 수 있는 특징이 있다. 그래서 redis가 꺼졌다가 재시작 되더라도, 디스크에 저장해놓은 데이터를 다시 읽어 메모리에 로딩하기 때문에 데이터가 유실되지 않는다. 이런 영속성 기능은 휘발성 메모리 DB를 데이터 스토어로서 활용한다는 장점이 있지만 이 기능 때문에 장애의 주 원인이 되기도 한다. Redis에서 데이터를 저장하는 방법은 크게 RDB (snapshotting) 방식과 AOF (Append only file) 두가지가 있다. RDB 방식 특정한 각격마다 메모리에 있는 레디스 데이터 전체를 디스크에 쓰는 것 AOF 방식 명령이 실행될때 마다 데이터를 파일에 기록하여 데이터의 손실이 ..

• format_list_bulleted DB 🔑
• · 2024. 3. 9.
• textsms