S3 미완료 멀티파트 업로드(MPU) - 비용절감 프로젝트 #3
·
AWS/S3
이 글은 AWS 인프라 운영 중 경험한 실제 비용절감 사례를 기록한 시리즈입니다.1. 개요이번에는 Amazon S3에서 발생할 수 있는 숨은 비용 중 하나인 "미완료 멀티파트 업로드(Uncompleted Multipart Upload, MPU)" 문제와 그 해결 사례를 정리합니다. 회사 내부에서는 비용항목을 모니터링 중 S3의 비용이 높아지면서 실제로 약 1.1TB의 불필요한 스토리지 비용이 발생하고 있었습니다.2. 멀티파트 업로드란?Amazon S3는 대용량 객체(최대 5TB)를 효율적으로 업로드하기 위해 Multipart Upload 기능을 제공합니다.장점:네트워크 장애 시 복구 용이병렬 처리로 업로드 속도 향상객체 크기에 따라 자동 최적화일반 객체 업로드는 최대 5GB 제한, Multipart Up..
Karpenter로 EKS EC2 비용 최적화하기 - 비용절감 프로젝트 #2
·
AWS/EKS
이 글은 AWS 인프라 운영 중 경험한 실제 비용절감 사례를 기록한 시리즈입니다. 1. 개요인프라 비용절감 팀을 FinOps?라고 많이 하는 거 같다. 비용절감 프로젝트를 하면서 운영 중 경험한 실제 비용절감 사례가 나와 같은 엔지니어들에게 도움이 되고자 글을 작성한다. 현재 인프라 구조는 EKS를 메인으로 사용하고 있다. 따라서 EKS의 node(EC2) 비용이 생각보다 많이 나가고 있었고 CA를 사용하고 있어 비용절감을 위해 kapenter를 도입하기로 마음먹었다. 그래서 karpenter가 뭐 하는 친구인데?Karpenter는 쿠버네티스용으로 구축된 오픈소스 노드 수명 주기 관리 프로젝트입니다. 쿠버네티스 클러스터에 Karpenter를 추가하면 해당 클러스터에서 워크로드를 실행하는 효율성과 비용을 ..
Packer를 활용하여 골든 이미지 쉽게 생성하기
·
AWS/EC2
작업 목적ISMS 심사 중 OS 보안취약점을 강화하기 위해 스크립트를 돌려야하지만 EKS에 설정된 Launch Template가 변경되지 않으면 스크립트를 적용해도 오토스케일링이 되면 보안설정들이 날라감골든이미지를 생성하여 Dev, Production 환경등에서 빠른 배포가 가능하다.스크립트를 사용하용 버전관리 가능Packer 란Packer는 여러 플랫폼에 대해 동일한 시스템 이미지를 작성하기위한 오픈 소스 도구입니다.AWS의 AMI, Azure Image, Google Cloud Image 등을 스크립트 파일을 이용해서 생성할 수 있습니다.패커는 Hashicorp에서 만든 인프라 관리 도구 중 하나이다.인프라 자동화 도구 중 하나로 다양한 플랫폼에서 사용가능한 이미지를 동적으로 생성할 수 있게 도와준다..