이 글은 매드업 네트워크의 서버 비용을 줄이며 적용한 방법을 공유하기 위해 작성되었습니다.
실질적으로 AWS 비용을 줄이는 것이라기 보다 저희의 서비스를 최적화하며 경험한 내용입니다.
매드업 네트워크는 초당 3~4천건 이상의 트래픽이 발생하는 AD-Network 서비스입니다.
이 대용량 트래픽을 안전하게 S3로 저장하기 위해 다음과 같은 데이터 파이프라인을 구축하였습니다.
S3로 데이터를 딜리버리하여 운영에 이상은 없었지만 한가지 문제가 발생하였는데,
바로 람다 비용이 과도하게 발생한다는 것입니다.
람다는 메모리에 따라 다르지만 요청과 요청 시간에 의해 비용이 측정됩니다.
매드업 네트워크에서는 월 33억 건의 람다 호출을 하고 있었고
약 $6,000의 비용이 발생되었습니다.
결론부터 말씀드리면,
Batch size와 Batch window의 설정으로 요청수를 대폭 줄일 수 있었습니다.
예를들어 위와 같이 설정을 할 경우,
사이즈가 500이 되거나 시간이 30초가 되었을때 람다가 실행됩니다.
서비스 초기 Lambda로 DynamoDB Streams의 설정에는 Batch size만 존재하였는데,
설정 값과는 상관없이 사이즈가 1~2에도 람다가 실행되는 문제가 있었고
이는 Batch window의 디폴트 값이 0이기 때문에 배치 크기를 아무리 늘려도 바로 실행이 되어버린 것입니다.
지금은 두 가지 설정을 모두 할 수 있기 때문에 반드시 모두 설정 해야합니다.
현재 매드업 네트워크는 33억건의 람다 호출을 5천만건까지 줄였고, 약 $6000에서 $90로 $5910, 99% 비용을 절감하였습니다.
매드업 네트워크는 총 10대의 EC2 인스턴스를 운영하였습니다.
평소 10대를 모두 사용할 필요는 없지만,
언제 발생할지 모르는 트래픽 스파이크를 대비하기 위해서가 가장 컸고 미리 준비 되지 않으면 커넥션에 실패합니다.
이런 원인은 순간적으로 대량의 트래픽이 발생되면 TIME_WAIT가 급속도로 생성되고 내부 포트가 과다하게 사용되어 포트 고갈 상태가 됩니다.
아래는 매드업 네트워크에서 포트 고갈을 막기위해 적용한 방법이고
이 방법으로 대량의 트래픽에 대비할 수 있게 되어 서버 인스턴스를 줄일 수 있었습니다.
EC2 인스턴스 서버에 기본적으로 포트설정을 해주지 않으면, 포트의 범위가 32768 ~ 60999로 잡힙니다.
따라서 아래와 같이 커널 파라미터를 수정하여 포트 범위를 늘립니다.
echo "10240 65535" > /proc/sys/net/ipv4/ip_local_port_rangeTIME_WAIT 소켓이 처리될때 바로 재사용해주면 포트가 낭비되지 않고 커넥션이 가능합니다.
sysctl -w "net.ipv4.tcp_timestamps=1"
sysctl -w "net.ipv4.tcp_tw_reuse=1"간단히 말씀드려서 Nginx의 keepalive를 적용하여 세션을 유지할 수 있습니다.
keepalive는 서버의 상황에 따라 적절한 값을 설정해야 합니다.
자칫 낭비가 될 수 있기 때문에 테스트를 충분히 하는 것이 좋습니다.
upstream localhost {
server 127.0.0.1:5000;
keepalive 1024;
}TIME_WAIT 소켓의 최대 개수를 설정 할 수 있습니다.
최대 개수 이상의 소켓이 오픈되면 TIME_WAIT 소켓이 파괴되기 때문에 최대 값을 설정해 주는 것이 좋습니다.
sysctl -w "net.ipv4.tcp_max_tw_buckets=1000000"매드업 네트워크에서는 실시간 access 로그를 확인하기 위해 CloudWatch를 사용하고 있는데,
트래픽이 많다보니 비용이 상당히 발생합니다.
이 CloudWatch 사용을 최소화 하기 위해 정상 트래픽은 로그로 쌓지 않고
HTTPError와 ClientError만 핸들링하여 CloudWatch에 쌓을 수 있게 수정하였습니다.
CloudWatch는 설정 파일을 통해 필요한 항목만 직접 적용할 수 있습니다.
(참조 : Manually Create or Edit the CloudWatch Agent Configuration File)
필요한 로그만 쌓는 걸로 변경한뒤,
월 평균 약 $1,800에서 약 $120으로 비용을 $1680, 93% 절감하였습니다.
가장 손쉽게 비용을 절감할 수 있지만 가장 어려운 방법이기도 합니다.
서비스를 운영하면서 어려운것 중 하나가 예측인 것 같습니다.
예기치 못하게 트래픽이 많이 발생할 수도 있고 또 줄어들 수도 있습니다.
현재 상황에 맞게 시스템을 구성하였지만,
1년 혹은 3년뒤 서비스의 상황을 예측하는 것은 쉽지 않습니다.
SP에는 Compute SP와 EC2 Instance SP의 상품이 있습니다.
Compute SP는 유연하게 인스턴스를 변경할 수 있지만 그만큼 할인율이 낮고
EC2 Instance SP는 제한이 있지만 할인율이 높습니다.
(참조: Pricing with Savings Plans)
예측하기 어려운 상황과 낭비되는 리소스를 줄이기 위해
저희는 1년 약정으로 Compute SP를 구입하기로 하였습니다.
Compute SP를 적용하기전에 가장 먼저 선행되어야 할 것은 불필요한 인스턴스를 정리하는 일입니다.
그 뒤 인스턴스의 1년 사용량을 파악하여 적용하되 60~80%만 구입하는 것이 좋습니다.
저희는 1년 사용량의 75%만큼을 전체 선결제로 구입하였고,
월 $274만큼의 비용을 절감할 수 있었습니다.
또한 RI도 같이 구입하여 총 30%의 비용을 절감하였습니다.
AWS의 비용을 줄이는 것은 SP/RI를 적용하는 것뿐만 아니라
현재 상황에 맞게 끈임없이 인스턴스를 최적화하여 낭비되는 리소스를 줄이는 일이라고 생각합니다.
누구나 알고 있는 당연한 말이지만,
이번일을 진행하면서 서버 비용을 상당히 줄일 수 있었고 다시 한번 중요함을 알게 되었습니다.
<매드업>은 개인정보보호법에 따라 이용자의 개인정보 보호 및 권익을 보호하고 개인정보와 관련한 이용자의 고충을 원활하게 처리할 수 있도록 다음과 같은 처리방침을 두고 있습니다.
<매드업>은 회사는 개인정보처리방침을 개정하는 경우 웹사이트 공지사항(또는 개별공지)을 통하여 공지할 것입니다.
○ 본 방침은 2020년 1월 15일부터 시행됩니다.
개인정보의 처리 목적 <매드업>은 개인정보를 다음의 목적을 위해 처리합니다. 처리한 개인정보는 다음의 목적 이외의 용도로는 사용되지 않으며 이용 목적이 변경될 시에는 사전동의를 구할 예정입니다.
가. 홈페이지 회원가입 및 관리 회원 가입의사 확인, 회원제 서비스 제공에 따른 본인 식별·인증, 회원자격 유지·관리, 제한적 본인확인제 시행에 따른 본인확인, 서비스 부정이용 방지, 만14세 미만 아동 개인정보 수집 시 법정대리인 동의 여부 확인, 각종 고지·통지, 고충처리, 분쟁 조정을 위한 기록 보존 등을 목적으로 개인정보를 처리합니다.
나. 민원사무 처리 민원인의 신원 확인, 민원사항 확인, 사실조사를 위한 연락·통지, 처리결과 통보 등을 목적으로 개인정보를 처리합니다.
다. 재화 또는 서비스 제공 물품배송, 서비스 제공, 청구서 발송, 콘텐츠 제공, 맞춤 서비스 제공, 본인인증, 연령인증, 요금결제·정산 등을 목적으로 개인정보를 처리합니다.
라. 마케팅 및 광고에의 활용 신규 서비스(제품) 개발 및 맞춤 서비스 제공, 이벤트 및 광고성 정보 제공 및 참여기회 제공 , 인구통계학적 특성에 따른 서비스 제공 및 광고 게재 , 서비스의 유효성 확인, 접속빈도 파악 또는 회원의 서비스 이용에 대한 통계 등을 목적으로 개인정보를 처리합니다.
개인정보 파일 현황
가. 개인정보 파일명 : 개인정보 처리방침
개인정보 항목 : 이메일, 휴대전화번호, 비밀번호, 이름, 업체명, 제목, 광고 예산, 내용, 사업자 등록 번호, 신용카드정보, 은행계좌정보, 예금주, 생년월일, 서비스 이용 기록, 접속 로그, 쿠키, 접속 IP 정보, 결제기록
수집방법 : 홈페이지, 계약서
보유근거 : 홈페이지 회원정보 수집 등에 관한 기록
보유기간 : 5년
관련법령 : 대금결제 및 재화 등의 공급에 관한 기록 : 5년
개인정보의 처리 및 보유 기간 ① <매드업>은 법령에 따른 개인정보 보유·이용기간 또는 정보주체로부터 개인정보를 수집 시에 동의 받은 개인정보 보유,이용기간 내에서 개인정보를 처리,보유합니다. ② 각각의 개인정보 처리 및 보유 기간은 다음과 같습니다.
가. <홈페이지 회원가입 및 관리> <홈페이지 회원가입 및 관리>와 관련한 개인정보는 수집.이용에 관한 동의일로부터<5년>까지 위 이용목적을 위하여 보유.이용됩니다.
보유근거 : 홈페이지 회원정보 수집 등에 관한 기록
관련법령 : 대금결제 및 재화 등의 공급에 관한 기록 : 5년
예외사유 :
나. <재화 또는 서비스 제공> <재화 또는 서비스 제공>와 관련한 개인정보는 수집.이용에 관한 동의일로부터<5년>까지 위 이용목적을 위하여 보유.이용됩니다.
보유근거 : 계약 또는 청약철회 등에 관한 기록
관련법령 : 계약 또는 청약철회 등에 관한 기록 : 5년
예외사유 :
다. <마케팅 및 광고에의 활용> <마케팅 및 광고에의 활용>와 관련한 개인정보는 수집.이용에 관한 동의일로부터<3년>까지 위 이용목적을 위하여 보유.이용됩니다.
보유근거 : 전자상거래등에서의 소비자보호에 관한 법률
관련법령 : 소비자의 불만 또는 분쟁처리에 관한 기록 : 3년
예외사유 :
정보 주체와 법정대리인의 권리·의무 및 그 행사방법 이용자는 개인정보주체로써 다음과 같은 권리를 행사할 수 있습니다.
① 정보주체는 매드업에 대해 언제든지 개인정보 열람,정정,삭제,처리 정지 요구 등의 권리를 행사할 수 있습니다.
② 제1항에 따른 권리 행사는 매드업에 대해 개인정보 보호법 시행령 제41조제1항에 따라 서면, 전자우편, 모사전송(FAX) 등을 통하여 하실 수 있으며 매드업은 이에 대해 지체 없이 조치하겠습니다.
③ 제1항에 따른 권리 행사는 정보주체의 법정대리인이나 위임을 받은 자 등 대리인을 통하여 하실 수 있습니다. 이 경우 개인정보 보호법 시행규칙 별지 제11호 서식에 따른 위임장을 제출하셔야 합니다.
④ 개인정보 열람 및 처리 정지 요구는 개인정보보호법 제35조 제5항, 제37조 제2항에 의하여 정보주체의 권리가 제한 될 수 있습니다.
⑤ 개인정보의 정정 및 삭제 요구는 다른 법령에서 그 개인정보가 수집 대상으로 명시되어 있는 경우에는 그 삭제를 요구할 수 없습니다.
⑥ 매드업은 정보주체 권리에 따른 열람의 요구, 정정·삭제의 요구, 처리 정지의 요구 시 열람 등 요구를 한 자가 본인이거나 정당한 대리인인지를 확인합니다.
처리하는 개인정보의 항목 작성
① <매드업>은 다음의 개인정보 항목을 처리하고 있습니다.
가. <홈페이지 문의 및 관리>
필수항목 : 업체명, 이메일, 제목, 연락처, 광고 예산, 내용, 휴대전화번호, 비밀번호, 이름, 서비스 이용 기록, 접속 로그, 쿠키, 접속 IP 정보
선택항목 : 프로필 사진
나. <재화 또는 서비스 제공>
필수항목 : 업체명, 이메일, 제목, 연락처, 광고 예산, 내용, 비밀번호, 이름, 회사명, 사업자 등록 번호, 신용카드정보, 은행계좌정보, 예금주, 생년월일, 서비스 이용 기록, 접속 로그, 쿠키, 접속 IP 정보, 결제기록
선택항목 :
다. <마케팅 및 광고에의 활용>
필수항목 : 업체명, 이메일, 제목, 연락처, 광고 예산, 내용, 휴대전화번호, 이름, 서비스 이용 기록, 접속 로그, 쿠키, 접속 IP 정보
선택항목 :
개인정보의 파기<매드업>은 원칙적으로 개인정보 처리 목적이 달성된 경우에는 지체없이 해당 개인정보를 파기합니다. 파기의 절차, 기한 및 방법은 다음과 같습니다.
파기절차
이용자가 입력한 정보는 목적 달성 후 별도의 DB에 옮겨져(종이의 경우 별도의 서류) 내부 방침 및 기타 관련 법령에 따라 일정기간 저장된 후 혹은 즉시 파기됩니다. 이 때, DB로 옮겨진 개인정보는 법률에 의한 경우가 아니고서는 다른 목적으로 이용되지 않습니다.
파기기한
이용자의 개인정보는 개인정보의 보유기간이 경과된 경우에는 보유기간의 종료일로부터 5일 이내에, 개인정보의 처리 목적 달성, 해당 서비스의 폐지, 사업의 종료 등 그 개인정보가 불필요하게 되었을 때에는 개인정보의 처리가 불필요한 것으로 인정되는 날로부터 5일 이내에 그 개인정보를 파기합니다.
파기방법
전자적 파일 형태의 정보는 기록을 재생할 수 없는 기술적 방법을 사용합니다. 종이에 출력된 개인정보는 분쇄기로 분쇄하거나 소각을 통하여 파기합니다.
개인정보 자동 수집 장치의 설치•운영 및 거부에 관한 사항
① 매드업은 개별적인 맞춤서비스를 제공하기 위해 이용 정보를 저장하고 수시로 불러오는 ‘쿠키(cookie)’를 사용합니다.
② 쿠키는 웹사이트를 운영하는데 이용되는 서버(http)가 이용자의 컴퓨터 브라우저에게 보내는 소량의 정보이며 이용자들의 PC 컴퓨터 내의 하드디스크에 저장되기도 합니다.
가. 쿠키의 사용 목적 : 이용자가 방문한 각 서비스와 웹 사이트들에 대한 방문 및 이용형태, 인기 검색어, 보안접속 여부, 등을 파악하여 이용자에게 최적화된 정보 제공을 위해 사용됩니다.
나. 쿠키의 설치•운영 및 거부 : 웹브라우저 상단의 도구>인터넷 옵션>개인정보 메뉴의 옵션 설정을 통해 쿠키 저장을 거부 할 수 있습니다.
다. 쿠키 저장을 거부할 경우 맞춤형 서비스 이용에 어려움이 발생할 수 있습니다.
개인정보 보호책임자 작성
① 매드업은 개인정보 처리에 관한 업무를 총괄해서 책임지고, 개인정보 처리와 관련한 정보주체의 불만처리 및 피해구제 등을 위하여 아래와 같이 개인정보 보호책임자를 지정하고 있습니다.
▶ 개인정보 보호책임자
성명 : 강남석
직책 : CFO
직급 : CFO
연락처 : 02-1522-1060, contact@madup.com
※ 개인정보 보호 담당부서로 연결됩니다.
▶ 개인정보 보호 담당부서
부서명 : General Affairs Team
담당자 : 민상준
연락처 : 02-1522-1060, contact@madup.com
② 정보 주체께서는 매드업의 서비스(또는 사업)을 이용하시면서 발생한 모든 개인정보 보호 관련 문의, 불만처리, 피해구제 등에 관한 사항을 개인정보 보호책임자 및 담당부서로 문의하실 수 있습니다. 매드업은 정보주체의 문의에 대해 지체 없이 답변 및 처리해드릴 것입니다.
개인정보 처리방침 변경
① 이 개인정보처리방침은 시행일로부터 적용되며, 법령 및 방침에 따른 변경 내용의 추가, 삭제 및 정정이 있는 경우에는 변경사항의 시행 7일 전부터 공지사항을 통하여 고지할 것입니다.
개인정보의 안전성 확보 조치 <매드업>은 개인정보보호법 제29조에 따라 다음과 같이 안전성 확보에 필요한 기술적/관리적 및 물리적 조치를 하고 있습니다.
가. 정기적인 자체 감사 실시 개인정보 취급 관련 안정성 확보를 위해 정기적(분기 1회)으로 자체 감사를 실시하고 있습니다.
나. 개인정보 취급 직원의 최소화 및 교육 개인정보를 취급하는 직원을 지정하고 담당자에 한정시켜 최소화 하여 개인정보를 관리하는 대책을 시행하고 있습니다.
다. 내부관리계획의 수립 및 시행 개인정보의 안전한 처리를 위하여 내부관리계획을 수립하고 시행하고 있습니다.
라. 해킹 등에 대비한 기술적 대책 <매드업>은 해킹이나 컴퓨터 바이러스 등에 의한 개인정보 유출 및 훼손을 막기 위하여 보안프로그램을 설치하고 주기적인 갱신·점검을 하며 외부로부터 접근이 통제된 구역에 시스템을 설치하고 기술적/물리적으로 감시 및 차단하고 있습니다.
마. 개인정보의 암호화 이용자의 개인정보는 비밀번호는 암호화 되어 저장 및 관리되고 있어, 본인만이 알 수 있으며 중요한 데이터는 파일 및 전송 데이터를 암호화 하거나 파일 잠금 기능을 사용하는 등의 별도 보안기능을 사용하고 있습니다.
바. 접속 기록의 보관 및 위변조 방지 개인정보처리시스템에 접속한 기록을 최소 6개월 이상 보관, 관리하고 있으며, 접속 기록이 위변조 및 도난, 분실되지 않도록 보안기능 사용하고 있습니다.
사. 개인정보에 대한 접근 제한 개인정보를 처리하는 데이터베이스시스템에 대한 접근 권한의 부여,변경,말소를 통하여 개인정보에 대한 접근통제를 위하여 필요한 조치를 하고 있으며 침입차단시스템을 이용하여 외부로부터의 무단 접근을 통제하고 있습니다.
아. 문서 보안을 위한 잠금 장치 사용 개인정보가 포함된 서류, 보조저장매체 등을 잠금 장치가 있는 안전한 장소에 보관하고 있습니다.
자. 비인가자에 대한 출입 통제 개인정보를 보관하고 있는 물리적 보관 장소를 별도로 두고 이에 대해 출입통제 절차를 수립, 운영하고 있습니다.