이전 포스팅 “[NCP] 네이버 클라우드에서 이미지 백업을 자동화 해보자(WITH. SHELL SCRIPT)”에서 VPC 환경에서의 이미지 백업 자동화 스크립트를 공유했었습니다.
[NCP] 네이버 클라우드에서 이미지 백업을 자동화 해보자(with. Shell script)
안녕하세요 ManVSCloud 김수현입니다. 현재 네이버 클라우드에서는 AWS의 수명 주기 관리자와 같은 기능은 없는 상태입니다.오늘은 네이버 클라우드에서 이미지 백업을 자동화 할 수 있도록 자료를 공유 해보려합니다. 원래 cloud function을 이용하여 만들어볼까 생각했는데 아직 python, javascript같은 언어에는 익숙하지 않아 shell script를 작성하여 ncloud cli로 이미지 백업을 진행할 수 있도록 하였습니다. 참고로 제가 만든 스크립트는 VPC에서만 사용가능합니다.(클래식에서 사용하시려면 스크립트…
VPC에 맞춰진 스크립트를 클래식 환경에 맞게 변경하기 번거로움이 있을 것이라 생각하여 빠르게 클래식용 스크립트를 제작하였습니다.
Download link
아래는 ncloud cli와 제가 만든 스크립트를 다운로드 할 수 있는 링크입니다.
// "ncloud cli" 다운로드 링크
https://www.ncloud.com/api/support/download/5/65
// manvscloud의 "네이버 클라우드 이미지 백업 스크립트(클래식용)" 다운로드 링크
http://file.manvscloud.com/Classic_nCloudimgScript.zip
Personal Comments
자세한 사용 방법은 위 “[NCP] 네이버 클라우드에서 이미지 백업을 자동화 해보자(WITH. SHELL SCRIPT)” 링크를 참고 부탁드립니다.
현재 네이버 클라우드에서는 AWS의 수명 주기 관리자와 같은 기능은 없는 상태입니다. 오늘은 네이버 클라우드에서 이미지 백업을 자동화 할 수 있도록 자료를 공유 해보려합니다.
원래 cloud function을 이용하여 만들어볼까 생각했는데 아직 python, javascript같은 언어에는 익숙하지 않아 shell script를 작성하여 ncloud cli로 이미지 백업을 진행할 수 있도록 하였습니다.
참고로 제가 만든 스크립트는 VPC에서만 사용가능합니다. (클래식에서 사용하시려면 스크립트 내에 명령어 옵션만 조금 변경해주면 됩니다.)
Download link
아래는 ncloud cli와 제가 만든 스크립트를 다운로드 할 수 있는 링크입니다.
// "ncloud cli" 다운로드 링크
https://www.ncloud.com/api/support/download/5/65
// manvscloud의 "네이버 클라우드 이미지 백업 스크립트(VPC용)" 다운로드 링크
http://file.manvscloud.com/nCloudimgScript.zip
README
해당 스크립트를 잘 사용하고 싶다면 README를 한 번 읽어보면 좋습니다. 적어도 Basic explanation는 읽어야 잘 사용할 수 있습니다.
설치 후에도 디렉토리 내에 존재하는 README 파일입니다. 아무래도 한번에 집중해서 만들기보다 쉬는 시간을 내어 조금씩 만들다보니 내가 왜 이렇게 만들었지? 싶은 부분도 존재하긴 합니다. 그런 부분은 버전 업데이트를 통해 업그레이드 해볼까합니다.
========================================
Updated : 2022-01-19
Maker : 김수현(ManVSCloud)
Blog : https://manvscloud.com/
========================================
############################# Basic explanation #############################
1. 00.Config를 가장 먼저 설정해주셔야합니다.
2. 02.selectiveBackup를 사용하기 위해서는 01.getBackupListConfig를 먼저 설정해주어야합니다.
3. 03.allServerBackup은 전체 백업이므로 01.getBackupListConfig 따로 설정해주지 않아도 됩니다.
## 선택 백업
# 00.Config+01.getBackupListConfig+02.selectiveBackup
## 전체 백업
# 00.Config+03.allServerBackup
############################# Version #############################
// 각 스크립트 생성(2022-01-19)
00.Config v0.1
01.getBackupListConfig v0.1
02.selectiveBackup v0.1
03.allServerBackup v0.1
############################# Function #############################
00.Config
: 이미지 이름 및 백업 보관일을 설정하는 초기 세팅 파일입니다.
01.getBackupListConfig
: 백업할 서버를 선택할 수 있습니다.
02.selectiveBackup
: 01.getBackupListConfig에서 선택된 서버를 대상으로 이미지 백업을 진행합니다.
03.allServerBackup
: 사용하고 있는 모든 서버에 대해 이미지 백업을 진행합니다.
############################# include #############################
Location : ImageBackup/include
* List
-. allInstanceNo
: 사용하는 Server의 인스턴스 No를 불러옵니다.
-. backupCheck
: 미구현
-. deleteImage
: 백업 보관일보다 오래된 이미지를 삭제합니다.
-. getInstanceNo
: 01.getBackupListConfig 에서 선택된 서버에 대한 인스턴스 No를 불러옵니다.
-. imageList
: 전체 이미지 리스트를 불러옵니다.
############################# Log #############################
AllBackup.log : 03.allServerBackup 실행 시 생성되는 표준 입/출력,에러 로그
CreateBackup.log : 02.selectiveBackup 실행 시 생성되는 표준 입/출력,에러 로그
DeleteBackup.log : 02,03 Backup 실행 시 include/deleteImage 에서 이미지 삭제 시 생성되는 표준 입/출력,에러 로그
========================================
========== Made in ManVSCloud ==========
========================================
아! 그리고 해당 스크립트를 사용하여 발생하는 문제에 대해서 책임지지 않습니다. 충분히 사용이 가능한 환경인지 검토 후 사용하시기 바랍니다.
A to Z
백업 서버를 생성하여 이미지 백업을 관리하는 방법으로 설명 드리도록 하겠습니다.
Access Key를 사용하는 것은 지양하고 있으므로 A to Z 설명은 Sub Account의 Role을 서버에 적용시키는 방법으로 진행하겠습니다.
* Create Server & Sub Account
1. 백업용 서버를 생성했습니다. (물론 기존에 사용하고 있는 서버에도 적용할 수 있습니다.)2. Sub Account를 이용하여 위 생성한 서버에 Role(역할)을 부여할 수 있습니다.
[A 서버] [B 역할] (VPC Server 서비스에 대한 모든 권한) (A서버에게 B역할을 부여하면 A서버는 B역할”VPC Server 서비스를 컨트롤 할 수 있는 권한”을 얻게 된다.)3. 우선 역할 이름을 생성 해줍니다.4. 생성한 역할로 들어가 [정책] 부분에서 해당 역할에 정책을 [추가]합니다. 서버와 이미지 리스트만 보는 것이 아니라 이미지 생성 및 삭제도 필요하므로 “NCP_VPC_SERVER_MANAGER” 정책을 추가했습니다.5. [Role 소유 리소스]에서 이제 위에서 만든 리소스(서버)를 추가합니다. (해당 등록한 서버에 이 역할을 주는 것)
해당 백업을 사용을 하기 위해서는 00.Config 파일을 편집하여 기본 설정을 해주어야합니다.
[root@img-backup-kr1 ~]# vi ~/ImageBackup/00.Config
.
.
.
## 이미지 이름 설정
# * 이미지 생성 시 최대 30 자 제한으로 imgName에는 10자 이하로 설정해주세요.
# * 알파벳 문자로 시작해야합니다.
# * 특수문자 "-" 순서에 따라 백업 보관일을 감지하므로 영문+숫자로만 사용해주세요.
# * 최종 이미지 생성 시 "imgName-instanceNo-생성일자"의 이름으로 생성됩니다.
imgName="이미지명"
## 백업 보관일 설정
# * 일단위 설정입니다. ex) "14" (14일)
saveDay="14"
.
.
.
위에서 설정한 이미지 이름과 백업 보관일을 아래와 같이 실행해줍니다.
[root@img-backup-kr1 ~]# ~/ImageBackup/00.Config
전체 백업을 원하실 경우 ~/ImageBackup/03.allServerBackup 을 바로 실행할 수 있겠지만 원하는 서버만 선택하여 백업할 수 있도록 선택 백업을 진행하도록 하겠습니다.
아래와 같이 01.getBackupListConfig를 실행하면 백업을 원하는 서버를 선택할 수 있습니다. 선택한 서버 번호 앞에 +로 표시가 되고 선택이 끝난 후 ENTER 키를 눌러주면 선택된 서버 목록이 출력되므로 다시 한 번 확인할 수 있습니다.
[root@img-backup-kr1 ~]# ~/ImageBackup/01.getBackupListConfig
백업이 필요한 서버를 선택해주세요:
1 ) img-backup-kr1
2 ) imagetest
3 ) manvscloud-web-pub-kr2
추가할 서버를 선택해주세요. (저장 후 종료를 원하시면 ENTER 키를 눌러주세요.): 2
백업이 필요한 서버를 선택해주세요:
1 ) img-backup-kr1
2+) imagetest
3 ) manvscloud-web-pub-kr2
imagetest 서버가 추가되었습니다.
추가할 서버를 선택해주세요. (저장 후 종료를 원하시면 ENTER 키를 눌러주세요.): 3
백업이 필요한 서버를 선택해주세요:
1 ) img-backup-kr1
2+) imagetest
3+) manvscloud-web-pub-kr2
manvscloud-web-pub-kr2 서버가 추가되었습니다.
추가할 서버를 선택해주세요. (저장 후 종료를 원하시면 ENTER 키를 눌러주세요.):
선택된 서버 목록 : imagetest manvscloud-web-pub-kr2
오늘은 2021년도에 포스팅했던 것 중 가장 인기 많았던 포스팅 TOP 3 소개, 2022년도에 나아갈 방향성을 이야기해보고자 합니다.
Top 3 most popular posts (2021)
1. [LINUX] CANNOT ALLOCATE MEMORY, 캐시 메모리 제거 및 SWAP 생성
[Linux] Cannot allocate memory, 캐시 메모리 제거 및 swap 생성
안녕하세요. ManVSCloud 김수현입니다. 오늘은 최근 제 블로그가 간헐적 끊김이 있어 확인 후 Memory 부족 원인을 파악하고 해결까지에 대한 내용을 작성해보았습니다. Symptom & Identify the cause 어제 블로그에 포스팅 후 블로그 페이지가 정상적으로 출력되지 않는 현상이 발생했습니다.서버 접속 시 Cannot allocate memory 에러가 발생하는 중이었으며 명령어 입출력이 정상적이지않은 상태라 우선 인스턴스 재부팅을 진행하게 되었습니다. -bash: fork: Cannot allocate memo…
이 포스팅은 AWS에서 프리티어로 제 블로그를 운영하던 때에 메모리 최적화가 되지 않아 지속적인 시스템 장애가 발생하여 포스팅으로 쓰게 됐었습니다.
지금 다시보니 저 부분 외에도 해줄 수 있는 방법은 많아보입니다. 소프트웨어 단에서 메모리 제한을 해줄 수 있는 부분도 확인해볼 수 있고 커널 튜닝 부분도 할 수 있었을텐데…라는 생각이 드는 조금 아쉬움이 있는 포스팅이지만 가장 인기 있는 게시물 1위로 선정되었습니다.
2. [AWS] CLOUDFRONT 캐시 적중률 늘리기 (CACHE HIT RATIO)
[AWS] CloudFront 캐시 적중률 늘리기 (cache hit ratio)
안녕하세요. ManVSCloud 김수현입니다. 오늘은 ANOS 2기 스터디 후 6주차 CloudFront 과정을 마친 후 예정되어 있던 포스팅으로CloudFront 캐시 적중률 늘리기에 대한 주제로 글을 써보려합니다. 이 포스팅을 준비하기 위해 생각보다 많은 공부를 하게되어 생각보다 시간이 소요되었지만 평소한 것들보다 만족스럽다는 생각이 들었습니다. 그럼 [AWS] CLOUDFRONT 캐시 적중률 늘리기 (CACHE HIT RATIO)에 대해 알아보겠습니다. What is Cache? 캐시 메모리, 캐시 저장소, 캐시 서버 등 캐시…
2위는 CloudFront 캐시 적중률 늘리기입니다. 이 포스팅 역시 제가 블로그를 운영 중 개발자 모드에서 다수의 이미지를 불러오는데에 짧지않은 소요 시간이 존재한다는 것을 확인하였고 이를 해결하기 위해 CloudFront의 캐싱을 이용하기로 하였습니다.
이 포스팅을 쓰면서 캐시에 대해 다소 많은 공부했던 것 같고 해당 포스팅은 지금 봐도 뭔가 뿌듯함?이 있는 글입니다.
3. PHP8.0.1 컴파일 설치 (APM+WORDPRESS)
PHP8.0.1 컴파일 설치 (APM+wordpress)
안녕하세요. ManVSCloud 김수현입니다. 오늘은 2021-01-07에 나온 PHP 8.0.1 버전을 컴파일 설치해보려고 합니다. 테스트는 WordPress까지 연동하여 정상적으로 플러그인 설치 및 글쓰기가 되는지까지 확인할 것입니다. Environment CentOS Linux release 7.7.1908 (Core) x86_64CPU : Intel(R) Xeon(R) CPU E5-2686 v4 @ 2.30GHz (4core)Memory : 16G (PHP 컴파일 시 out of memory 발생하여 인스턴스 크기를 m4.x…
마지막 3위는 PHP 8 컴파일입니다. 이 포스팅을 쓰게된 계기는 리눅서님이 저에게 PHP 8 버전이 새로 나왔으니 컴파일을 해보라는 과제를 주셔서 하게 되었습니다.
해당 포스팅은 그렇게 쓰는데 어려움이 없었습니다. 컴파일이 익숙해져있었던 때라 이 글을 쓰면서 초보자 분들이 컴파일을 할 때 중요하게 봐야할 점도 하나씩 다 짚어준 거 같아 뿌듯합니다.
ManVSCloud 2022
연말에 2022년도 목표를 설정해두었습니다.
위 이미지는 제가 만들어둔 2022년도 분기별 목표이며 1/4분기에는 SQL에 대해 깊게 공부해볼 생각입니다.
2022년도에 개인적으로 목표를 두고 있는 것은 다음과 같습니다.
SQL
자격증(AWS, Kubernetes, SQL, MongoDB 등)
제 2 외국어
개발 언어(javascript)
Survey
ManVSCloud 2022 설문 조사
2022년도 ManVSCloud 블로그에서 포스팅되기 원하는 주제를 설문 조사합니다.
늘 포스팅 주제를 정하는 게 가장 어려운 것같습니다. 위 개인 공부를 제외하고 ManVSCloud 블로그에서 포스팅되기 원하는 주제를 설문조사를 통해 받아볼까합니다.
시간에 여유가 있으시다면 설문 조사 부탁드리겠습니다.
2021년도 모두 고생 많으셨고 2022년도도 잘 부탁드립니다. 긴 글 읽어주셔서 감사합니다.
오늘은 네이버 클라우드 사용 시 Load Balancer에 Certificate Manager에 등록한 SSL 인증서를 적용하는 방법을 알려드리려 합니다.
물론 아시다시피 SSL 인증서의 경우 발급 기관에서 비용을 주고 구매하여 사용하는 것이 일반적입니다. 그러므로 이번 포스팅에서 Let’s Encrypt를 이용하여 SSL 인증서를 무료로 발급받아 적용하는 방법으로 포스팅을 진행하였으며 전체적인 글의 양이 많아 어느 정도 추가하고자 하는 정보들은 외부 사이트 링크로 대체하였습니다.
웹사이트 보안을 위한 방법, SSL이란? (feat. SSL과 HTTPS의 차이)
안녕하세요! 알기 쉽게 풀어쓴 보안 '알풀보'입니다. '알풀보'는 어려운 보안 용어와 …
Let’s Encrypt
https://letsencrypt.org/ko/
작동 방식
Let’s Encrypt와 ACME 프로토콜의 목적은 HTTPS 서버를 설치할 수 있도록 하고, 사람의 개입 없이 브라우저에서 신뢰할 수 있는 인증서를 자동으로 취득하도록 하는 것입니다. 이것은 웹 서버에서 인증서 관리 에이전트를 실행함으로써 이루어집니다.
기술이 어떻게 작동하는지 이해하기 위해서, Let’s Encrypt를 지원하는 인증서 관리 에이전트와 https://example.com의 설치 과정을 살펴보십시오.
이 프로세스에는 두 가지 단계가 있습니다. 첫 번째로, 에이전트는 웹 서버가 해당 도메인을 제어하는 것을 CA에게…
Let’s Encrypt는 무료로 SSL/TLS 인증서를 발급 및 갱신할 수 있는 글로벌 공인인증기관(Certificate Authority, CA)입니다. 또한 Let’s Encrypt는 비영리기관이며 DV(Domain Validation) 인증서만 제공하고 있습니다.
[한국전자인증] SSL인증서 심사 수준에 따른 레벨 구분방법 (DV, OV, EV)
안녕하세요. 한국전자인증 입니다.
SSL인증서 종류가 여러가지 있습니다.브랜드 레벨이 다르다고 하는데 잘 모르시는 분들이 많으실것 같습니다.
SSL인증서는 인증기관(CA)의 심사 수준에 따라 DV, OV, EV 로 구분되고 각 심사수준은 차이가 있으며, 인증서 발급에 필요한 정보를 요구합니다.
그럼 이제 Let’s Encrypt 설치 및 발급을 진행해보도록 하겠습니다. (설치 환경은 Naver Cloud Platform의 CentOS 7 입니다.)
Let’s Encrypt는 yum으로도 설치가 가능하며 snap으로 설치하는 방법도 있습니다. 이번 포스팅에서는 yum으로 간단하게 설치할 것이며 snap 설치 방법은 댓글로 남겨두도록 하겠습니다.
[root@manvscloud-web-pub-kr1 ~]# certbot certonly --manual -d *.newreka.co.kr -d newreka.co.kr --preferred-challenges dns-01 --server https://acme-v02.api.letsencrypt.org/directory
Saving debug log to /var/log/letsencrypt/letsencrypt.log
Plugins selected: Authenticator manual, Installer None
Starting new HTTPS connection (1): acme-v02.api.letsencrypt.org
Requesting a certificate for *.newreka.co.kr and newreka.co.kr
Performing the following challenges:
dns-01 challenge for newreka.co.kr
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
Please deploy a DNS TXT record under the name
_acme-challenge.newreka.co.kr with the following value:
Q5cYPi74WnFHndsTwT9UKNp38JSdUQ2bkYTXhApHuME
Before continuing, verify the record is deployed.
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
Press Enter to Continue
yum으로 설치가 끝나면 certbot 명령어를 이용하여 인증서 발급이 가능합니다. 다양한 인증 방법이 존재하지만 저는 DNS 인증을 이용하여 발급했습니다. (Apache나 Nginx를 이용한 Web 인증 방법 : certbot –nginx certonly -d manvscloud.com, certbot –apache certonly -d manvscloud.com)
위와 같이 certbot certonly –manual -d *.newreka.co.kr -d newreka.co.kr –preferred-challenges dns-01 –server https://acme-v02.api.letsencrypt.org/directory 명령어를 입력하면 DNS 인증 및 와일드카드 인증서 발급이 가능합니다.
이후 “Please deploy a DNS TXT record under the name” 아래 나오는 값을 해당 도메인의 네임서버에 아래 사진과 같이 추가해줍니다. (TXT Record 입니다.)
Naver Cloud Platform Global DNS
해당 레코드 값이 정상적으로 잘 등록되었다면 아래와 같이 정상적으로 발급될 것입니다. 정상적으로 발급되지 않는다면 해외 차단이 되어있지 않은지, 정상적으로 TXT 조회가 가능한지, 서버의 웹 포트가 차단되어있지 않은지 확인이 필요합니다.
Waiting for verification...
Cleaning up challenges
IMPORTANT NOTES:
- Congratulations! Your certificate and chain have been saved at:
/etc/letsencrypt/live/newreka.co.kr/fullchain.pem
Your key file has been saved at:
/etc/letsencrypt/live/newreka.co.kr/privkey.pem
Your certificate will expire on 2022-03-05. To obtain a new or
tweaked version of this certificate in the future, simply run
certbot again. To non-interactively renew *all* of your
certificates, run "certbot renew"
- If you like Certbot, please consider supporting our work by:
Donating to ISRG / Let's Encrypt: https://letsencrypt.org/donate
Donating to EFF: https://eff.org/donate-le
다음과 같이 /etc/letsencrypt/archive 경로로 이동하면 위에서 생성한 도메인에 대한 디렉토리 및 생성된 인증서를 확인할 수 있습니다.
[root@manvscloud-web-pub-kr1 archive]# cd /etc/letsencrypt/archive
[root@manvscloud-web-pub-kr1 archive]# ll
total 4
drwxr-xr-x 2 root root 83 Dec 6 03:17 newreka.co.kr
[root@manvscloud-web-pub-kr1 archive]# cd newreka.co.kr
[root@manvscloud-web-pub-kr1 newreka.co.kr]# ll
total 20
-rw-r--r-- 1 root root 1862 Dec 6 03:17 cert1.pem
-rw-r--r-- 1 root root 3749 Dec 6 03:17 chain1.pem
-rw-r--r-- 1 root root 5611 Dec 6 03:17 fullchain1.pem
-rw------- 1 root root 1704 Dec 6 03:17 privkey1.pem
2021-09-30일 이전에는 아래와 같이 DST Root CA X3 루트 인증서를 받아 추가해주는 방식을 이용했었는데 올해 9월 30일 이후부터 해당 루트 인증서는 만료되어 더 이상 Let’s Encrypt에서 사용할 수 없게 되었습니다. (ISRG Root X1 인증서를 사용해야합니다.)
2021년 9월 30일 업데이트 – 계획했던 대로 DST Root CA X3 교차 서명은 만료되었고, 이제 우리는 거의 모든 기기에서 신뢰되는 우리의 ISRG Root X1을 사용하고 있습니다. 더 자세한 사항을 알고 싶다면 계속해서 읽어주세요! 커뮤니티 포럼의 프로덕션 체인에 관한 글타래도 갱신했습니다 – 우리 팀과 커뮤니티는 이곳에서 확인할 수 있고 이 만료에 관한 어떠한 질문에 대해서도 당신을 도울 준비가 되어 있습니다. 2021년 9월 30일부터 오래된 브라우저들과 기기들이 Let’s Encrypt 인증서를 신뢰…
그렇다면 위에 생성된 cert1.pem, chain1.pem, fullchain1.pem, privkey1.pem 파일을 이용하여 네이버 클라우드의 Certificate Manage 서비스에 인증서를 등록하면 정상적으로 등록이 되느냐?
그렇지않습니다. 그러므로 cert1.pem 인증서로 부터 루트 인증서와 중간 인증서를 생성하고 체인 인증서를 만드는 방법을 알려드릴 것입니다.
지금까지 s3fs를 이용하여 Server에 Mount 하는 방법을 알아보았습니다. 다음은 goofys를 이용하여 Mount하는 방법입니다.
goofys를 이용한 Mount
goofys는 s3fs보다 빠르다고 많이 알려져있습니다. (물론 제가 테스트할 때는 쓰기 속도가 이상하게 느리게 나오더라구요?)
GitHub – kahing/goofys: a high-performance, POSIX-ish Amazon S3 file system written in Go
a high-performance, POSIX-ish Amazon S3 file system written in Go – GitHub – kahing/goofys: a high-performance, POSIX-ish Amazon S3 file system written in Go
goofys를 설치하기 위해 golang을 먼저 설치하도록 하겠습니다.
[root@manvscloud-dev-01 ~]# yum install fuse
[root@manvscloud-dev-01 ~]# wget https://go.dev/dl/go1.17.3.linux-amd64.tar.gz
[root@manvscloud-dev-01 ~]# tar -xvf go1.17.3.linux-amd64.tar.gz
[root@manvscloud-dev-01 ~]# mv go /usr/local/
rclone의 꽃, rclone config 입니다. 권한 및 용도 등 여러분들의 입맛에 맞게 선택하시면 됩니다? 그런데 좀 많이 길어요.
[root@manvscloud-dev-01 ~]# rclone config
2021/12/02 07:18:27 NOTICE: Config file "/root/.config/rclone/rclone.conf" not found - using defaults
No remotes found - make a new one
n) New remote
s) Set configuration password
q) Quit config
n/s/q> n
name> manvscloud-rclone
Option Storage.
Type of storage to configure.
Enter a string value. Press Enter for the default ("").
Choose a number from below, or type in your own value.
1 / 1Fichier
\ "fichier"
2 / Alias for an existing remote
\ "alias"
3 / Amazon Drive
\ "amazon cloud drive"
4 / Amazon S3 Compliant Storage Providers including AWS, Alibaba, Ceph, Digital Ocean, Dreamhost, IBM COS, Minio, SeaweedFS, and Tencent COS
\ "s3"
5 / Backblaze B2
\ "b2"
6 / Better checksums for other remotes
\ "hasher"
7 / Box
\ "box"
8 / Cache a remote
\ "cache"
9 / Citrix Sharefile
\ "sharefile"
10 / Compress a remote
\ "compress"
11 / Dropbox
\ "dropbox"
12 / Encrypt/Decrypt a remote
\ "crypt"
13 / Enterprise File Fabric
\ "filefabric"
14 / FTP Connection
\ "ftp"
15 / Google Cloud Storage (this is not Google Drive)
\ "google cloud storage"
16 / Google Drive
\ "drive"
17 / Google Photos
\ "google photos"
18 / Hadoop distributed file system
\ "hdfs"
19 / Hubic
\ "hubic"
20 / In memory object storage system.
\ "memory"
21 / Jottacloud
\ "jottacloud"
22 / Koofr
\ "koofr"
23 / Local Disk
\ "local"
24 / Mail.ru Cloud
\ "mailru"
25 / Mega
\ "mega"
26 / Microsoft Azure Blob Storage
\ "azureblob"
27 / Microsoft OneDrive
\ "onedrive"
28 / OpenDrive
\ "opendrive"
29 / OpenStack Swift (Rackspace Cloud Files, Memset Memstore, OVH)
\ "swift"
30 / Pcloud
\ "pcloud"
31 / Put.io
\ "putio"
32 / QingCloud Object Storage
\ "qingstor"
33 / SSH/SFTP Connection
\ "sftp"
34 / Sia Decentralized Cloud
\ "sia"
35 / Sugarsync
\ "sugarsync"
36 / Tardigrade Decentralized Cloud Storage
\ "tardigrade"
37 / Transparently chunk/split large files
\ "chunker"
38 / Union merges the contents of several upstream fs
\ "union"
39 / Uptobox
\ "uptobox"
40 / Webdav
\ "webdav"
41 / Yandex Disk
\ "yandex"
42 / Zoho
\ "zoho"
43 / http Connection
\ "http"
44 / premiumize.me
\ "premiumizeme"
45 / seafile
\ "seafile"
Storage> 4
Option provider.
Choose your S3 provider.
Enter a string value. Press Enter for the default ("").
Choose a number from below, or type in your own value.
1 / Amazon Web Services (AWS) S3
\ "AWS"
2 / Alibaba Cloud Object Storage System (OSS) formerly Aliyun
\ "Alibaba"
3 / Ceph Object Storage
\ "Ceph"
4 / Digital Ocean Spaces
\ "DigitalOcean"
5 / Dreamhost DreamObjects
\ "Dreamhost"
6 / IBM COS S3
\ "IBMCOS"
7 / Minio Object Storage
\ "Minio"
8 / Netease Object Storage (NOS)
\ "Netease"
9 / Scaleway Object Storage
\ "Scaleway"
10 / SeaweedFS S3
\ "SeaweedFS"
11 / StackPath Object Storage
\ "StackPath"
12 / Tencent Cloud Object Storage (COS)
\ "TencentCOS"
13 / Wasabi Object Storage
\ "Wasabi"
14 / Any other S3 compatible provider
\ "Other"
provider> 14
Option env_auth.
Get AWS credentials from runtime (environment variables or EC2/ECS meta data if no env vars).
Only applies if access_key_id and secret_access_key is blank.
Enter a boolean value (true or false). Press Enter for the default ("false").
Choose a number from below, or type in your own value.
1 / Enter AWS credentials in the next step.
\ "false"
2 / Get AWS credentials from the environment (env vars or IAM).
\ "true"
env_auth> 1
Option access_key_id.
AWS Access Key ID.
Leave blank for anonymous access or runtime credentials.
Enter a string value. Press Enter for the default ("").
access_key_id> APIKEY
Option secret_access_key.
AWS Secret Access Key (password).
Leave blank for anonymous access or runtime credentials.
Enter a string value. Press Enter for the default ("").
secret_access_key> KEY-PASSWORD
Option region.
Region to connect to.
Leave blank if you are using an S3 clone and you don't have a region.
Enter a string value. Press Enter for the default ("").
Choose a number from below, or type in your own value.
/ Use this if unsure.
1 | Will use v4 signatures and an empty region.
\ ""
/ Use this only if v4 signatures don't work.
2 | E.g. pre Jewel/v10 CEPH.
\ "other-v2-signature"
region> 1
Option endpoint.
Endpoint for S3 API.
Required when using an S3 clone.
Enter a string value. Press Enter for the default ("").
endpoint> https://kr.object.ncloudstorage.com
Option location_constraint.
Location constraint - must be set to match the Region.
Leave blank if not sure. Used when creating buckets only.
Enter a string value. Press Enter for the default ("").
location_constraint>
Option acl.
Canned ACL used when creating buckets and storing or copying objects.
This ACL is used for creating objects and if bucket_acl isn't set, for creating buckets too.
For more info visit https://docs.aws.amazon.com/AmazonS3/latest/dev/acl-overview.html#canned-acl
Note that this ACL is applied when server-side copying objects as S3
doesn't copy the ACL from the source but rather writes a fresh one.
Enter a string value. Press Enter for the default ("").
Choose a number from below, or type in your own value.
/ Owner gets FULL_CONTROL.
1 | No one else has access rights (default).
\ "private"
/ Owner gets FULL_CONTROL.
2 | The AllUsers group gets READ access.
\ "public-read"
/ Owner gets FULL_CONTROL.
3 | The AllUsers group gets READ and WRITE access.
| Granting this on a bucket is generally not recommended.
\ "public-read-write"
/ Owner gets FULL_CONTROL.
4 | The AuthenticatedUsers group gets READ access.
\ "authenticated-read"
/ Object owner gets FULL_CONTROL.
5 | Bucket owner gets READ access.
| If you specify this canned ACL when creating a bucket, Amazon S3 ignores it.
\ "bucket-owner-read"
/ Both the object owner and the bucket owner get FULL_CONTROL over the object.
6 | If you specify this canned ACL when creating a bucket, Amazon S3 ignores it.
\ "bucket-owner-full-control"
acl> 3
Edit advanced config?
y) Yes
n) No (default)
y/n> n
--------------------
[manvscloud-rclone]
type = s3
provider = Other
access_key_id = APIKEY
secret_access_key = KEY-PASSWORD
endpoint = https://kr.object.ncloudstorage.com
acl = public-read-write
--------------------
y) Yes this is OK (default)
e) Edit this remote
d) Delete this remote
y/e/d> y
Current remotes:
Name Type
==== ====
manvscloud-rclone s3
e) Edit existing remote
n) New remote
d) Delete remote
r) Rename remote
c) Copy remote
s) Set configuration password
q) Quit config
e/n/d/r/c/s/q> q
config에서 살아남으셨나요? 그렇다면 여러분들은 이제 Mount 하실 수 있는 자격을 얻으셨습니다.
[root@manvscloud-dev-01 ~]# rclone mount manvscloud-rclone: /rclone-storage --daemon
위와 같이 Mount 하시면 이제 아래처럼 Mount 및 권한을 얻게 됩니다.
drwxr-xr-x 1 root root 0 Dec 2 07:33 rclone-storage
해당 디렉토리에 접근해서 확인해보시면 manvscloud-rclone에 Mount 한 게 아니라 Object Storage를 통째로 Mount 했더라구요?
[root@manvscloud-dev-01 rclone-storage]# ll
total 0
drwxr-xr-x 1 root root 0 Dec 2 06:45 manvscloud-goofys
drwxr-xr-x 1 root root 0 Dec 2 07:20 manvscloud-rclone
drwxr-xr-x 1 root root 0 Dec 1 23:46 manvscloud-s3fs
각 Bucket별로 Mount 하는 방법을 터득하신다면 댓글로 공유 부탁드립니다! 저 config를 두 번이나 하고 싶진 않군요…
s3fs VS goofys VS rclone
마지막으로 s3fs VS goofys VS rclone 속도 테스트를 진행해보았습니다. dd 명령어를 이용했고 시간이 없어 큰 용량으로 진행하지는 못했습니다.
먼저 전체 결과만 한 번 보도록 하겠습니다.
s3fs
// 쓰기 성능 테스트(Write) count=10,000
[root@manvscloud-dev-01 s3fs-storage]# dd if=/dev/zero bs=4k count=10000 of=mvscfile
10000+0 records in
10000+0 records out
40960000 bytes (41 MB) copied, 1.15784 s, 35.4 MB/s
// 읽기 성능 테스트(Read) count=10,000
[root@manvscloud-dev-01 s3fs-storage]# dd if=mvscfile bs=4k count=10000 of=/dev/zero
10000+0 records in
10000+0 records out
40960000 bytes (41 MB) copied, 0.199183 s, 206 MB/s
// 쓰기 성능 테스트(Write) count=100,000
[root@manvscloud-dev-01 s3fs-storage]# dd if=/dev/zero bs=4k count=100000 of=mvscfile
100000+0 records in
100000+0 records out
409600000 bytes (410 MB) copied, 8.74186 s, 46.9 MB/s
// 읽기 성능 테스트(Read) count=100,000
[root@manvscloud-dev-01 s3fs-storage]# dd if=mvscfile bs=4k count=100000 of=/dev/zero
100000+0 records in
100000+0 records out
409600000 bytes (410 MB) copied, 1.67846 s, 244 MB/s
goofys
// 쓰기 성능 테스트(Write) count=10,000
[root@manvscloud-dev-01 goofys-storage]# dd if=/dev/zero bs=4k count=10000 of=mvscfile
10000+0 records in
10000+0 records out
40960000 bytes (41 MB) copied, 4.17406 s, 9.8 MB/s
// 읽기 성능 테스트(Read) count=10,000
[root@manvscloud-dev-01 goofys-storage]# dd if=mvscfile bs=4k count=10000 of=/dev/zero
10000+0 records in
10000+0 records out
40960000 bytes (41 MB) copied, 0.0197085 s, 2.1 GB/s
// 쓰기 성능 테스트(Write) count=100,000
[root@manvscloud-dev-01 goofys-storage]# dd if=/dev/zero bs=4k count=100000 of=mvscfile
100000+0 records in
100000+0 records out
409600000 bytes (410 MB) copied, 38.3632 s, 10.7 MB/s
// 읽기 성능 테스트(Read) count=100,000
[root@manvscloud-dev-01 goofys-storage]# dd if=mvscfile bs=4k count=100000 of=/dev/zero
100000+0 records in
100000+0 records out
409600000 bytes (410 MB) copied, 0.193719 s, 2.1 GB/s
rclone
// 쓰기 성능 테스트(Write) count=10,000
[root@manvscloud-dev-01 manvscloud-rclone]# dd if=/dev/zero bs=4k count=10000 of=mvscfile
10000+0 records in
10000+0 records out
40960000 bytes (41 MB) copied, 0.959519 s, 42.7 MB/s
// 읽기 성능 테스트(Read) count=10,000
[root@manvscloud-dev-01 manvscloud-rclone]# dd if=mvscfile bs=4k count=10000 of=/dev/zero
10000+0 records in
10000+0 records out
40960000 bytes (41 MB) copied, 0.279922 s, 146 MB/s
// 쓰기 성능 테스트(Write) count=100,000
[root@manvscloud-dev-01 manvscloud-rclone]# dd if=/dev/zero bs=4k count=100000 of=mvscfile
100000+0 records in
100000+0 records out
409600000 bytes (410 MB) copied, 8.38886 s, 48.8 MB/s
// 읽기 성능 테스트(Read) count=100,000
[root@manvscloud-dev-01 manvscloud-rclone]# dd if=mvscfile bs=4k count=100000 of=/dev/zero
100000+0 records in
100000+0 records out
409600000 bytes (410 MB) copied, 4.26804 s, 96.0 MB/s
결론부터 말씀드리자면 이 테스트는 단순 테스트 방법? 정도로만 보시면 좋겠습니다.
정확한 속도 테스트를 진행하려면 같은 속도에서도 여러번 진행하여 평균값을 확인해보아야하고 낮은 용량부터 큰 용량까지 전체적으로 검토해보아야하는데 시간 부족으로 거기까진 할 수 없어 이렇게 Mount 방법과 테스트 방법만 공유해보았습니다.
goofys 같은 경우 Read는 100MB 밑으로 전부 캐싱해버리기때문에 정확한 속도 측정도 어려웠구요. 그런데 쓰기는 왜 이렇게 늦게 나온거지?…
goofys git 페이지에서는 s3fs와 goofys의 벤치마크 결과가 위와 같이 나오고 있습니다. 조금 더 괜찮은 속도 테스트 방법이 있다면 공유 부탁드립니다.
추후에 시간 여유가 생기면 새로운 속도 테스트 방법을 찾아서 다시 한 번 해봐야겠네요.
Personal Comments
지금까지 Object Storage를 서버에 Mount해서 사용하는 방법에 대해 알아보았습니다.
여유가 없어서 속도 테스트까지 완벽하게 하진 못했는데 방법 정도는 어느정도 공유가 되지 않았나 생각합니다? 물론 더 좋은 속도 테스트 노하우가 있으시다면 언제든지 댓글로 공유 부탁드립니다.
오늘은 서버 운영 중 미연에 방지 하지 못한 여러가지 장애 상황으로 인해 VM이 재부팅되어 일시적으로 서비스 중단이 발생하는 경우를 최소화 할 수 있는 방법에 대해 생각해보는 포스팅을 준비했습니다.
장애가 발생하는 이유는 무엇일까?
우선 장애가 발생할 경우 어떠한 원인들이 존재할까요? IT 전공자부터 비전공자까지 다양한 인원들을 대상으로 설문조사를 진행해보았습니다.
여러분들은 어떻게 생각하시나요? 우선 “다양한 원인이 있을 것으로 보인다.”가 가장 정답에 가깝습니다.
장애라는 것은 단편적으로 보고 판단하기 어렵습니다. 다각도로 접근하여 원인 분석을 할 필요가 있고 가장 중요한 것은 이러한 장애로부터 예방하는 것입니다.
또한 재부팅이 되지 않는다고 하여도 서버가 정상적이지 않은 장애 상태라고 볼 수 있는 경우는 어떤 것들이 있을까요?
AWS의 Status Checks를 참고해보면 아래와 같은 예시가 존재합니다.
네트워크 연결 끊김
시스템 전원 중단
물리적 호스트의 소프트웨어 문제
네트워크 연결성에 영향을 주는 물리적 호스트의 하드웨어 문제
시스템 상태 확인 실패
잘못된 네트워킹 또는 스타트업 구성
메모리가 모두 사용됨
파일 시스템 손상
호환되지 않는 커널
위 이미지는 다양한 원인 중에 제가 직접 경험한 예시입니다. Kernel panic / Out of memory and no killable processes
네이버 클라우드에서도 역시 크게 다르지 않습니다. 위의 다양한 원인으로 장애가 발생하게 됩니다.
제 경험상 저 역시 데이터 센터에서 MSP 업무를 하며 다수의 문의를 받아 보았지만 이러한 다양한 원인에 대해 모르시거나 잘 되던 서버가 갑자기 안되는 것을 보니 서버가 있는 곳(데이터 센터)에 문제가 생겼구나라고 인지하시는 분들이 생각보다 많았습니다.
사용하는 서버의 VM 재부팅 현상 자체를 네이버 클라우드 측의 장애로 생각하는 경우도 존재하여 네이버 클라우드 측에 문의하는 경우도 꽤 많을 것이라 생각됩니다.
아래는 위 설문조사의 결과입니다.
4번이 아닌 1,2,3번을 선택하신 분들도 어느정도 존재했습니다. IT 업계에서 다양한 경험해보신 분들은 여러가지 케이스가 존재하는 것을 알고 계시지만 경험이 부족하거나 비전공자 또는 사업을 운영하시는 사장님들은 이러한 세부적인 사항까지 모르실 수 있다고 생각합니다.
이제 위의 여러가지 장애 예시를 알게되었고 알 수 없는 이유로 재부팅이 될 수도 있는 점을 알게되었으니 왜 재부팅이 되는지와 이러한 장애들로부터 어떻게 대비할 수 있을까?에 대해 알아보도록 하겠습니다.
이중화와 FailOver
먼저 HA(High Availability)에 대해 많이 들어보셨을 것입니다.
시스템 및 서비스 장애 발생 시 서비스 전이를 통해 장애 타임을 최소화할 수 있는 고가용성 서비스인데 대표적으로 시스템 Hang이 발생하거나 Shutdown, reboot, OS 디스크 등 장애가 발생할 경우 FailOver가 작동하게 됩니다. (FailOver는 장애 대비 기능으로 Active 서버에서 시스템 장애 발생 시 미리 준비된 Standby 서버 자동 전환하여 서비스 중단을 최소화할 수 있도록하는 장애 조치 기능입니다.)
네이버 클라우드의 VM 재부팅 역시 이러한 FailOver가 진행되고 있습니다. 다양한 불특정 이슈로부터 서비스가 유지되도록 자연스러운 현상이 일어나는 것이죠.
만약 이러한 VM 재부팅/HA 동작이 일어나지 않는다면 어떤 문제가 발생할까요? 운영자가 서버가 중단된 사실을 인지하고 장애를 복구하기 전까지 서비스가 멈춰있는 상태가 유지될 것입니다. 이러한 문제로 인해 다운 타임이 길어지거나 빈번한 다운이 발생하게 된다면 다방면으로 사업에 크리티컬한 피해를 입게될 것입니다.
이제 VM이 재부팅/HA 동작이 되는 현상에 대해 어느정도 이해를 하셨을 것이라 봅니다.
하지만 VM이 재부팅되는 동안 일시적인 서비스 중지나 재부팅 후에 서비스 정상 작동 불가로 이어질 경우 이러한 장애로부터 또는 이를 미연에 방지하기 위해 어떤 점검과 준비를 할 수 있을지 대표적인 다섯가지 예를 알아보도록 하겠습니다.
장애를 어떻게 대비할 수 있을까?
1. 모니터링
가장 첫번째! 장애를 인지하는 것부터가 우선입니다. 장애가 발생했는데도 장애를 인지하지 못하여 장애 타임이 길어지는 일은 없어야할 것입니다.
모니터링을 이용하여 장애 또는 장애에 대한 대비를 할 수 있도록 모니터링 설정을 해야합니다. 대표적으로 디스크, CPU, Memory 사용률에 대한 모니터링을 하여 부하 발생 시 원인 파악 및 조치를 하여 장애 대비를 할 수 있고 프로세스, 서버 DOWN 시 장애 발생 시 빠른 대처가 가능해야합니다.
네이버 클라우드에서는 이러한 모니터링을 할 수 있도록 Cloud Insight(Monitoring) 서비스를 지원합니다. (Cloud Insight(Monitoring) – Configuration – Event Rule)
모니터링 설정 방법을 이곳에서 다루기에는 전체적인 포스팅이 너무 길어져버릴 수 잇으니 추가적인 포스팅을 하도록 하겠습니다.
2. 고가용성 아키텍처
두번째는 고가용성 아키텍처를 구성하는 것입니다. 높은 가용성과 장애 시 복구 시간의 최소화하기 위해 고가용성 아키텍처를 적극 권장합니다.
웹 서버의 경우 하나의 고사양의 서버 하나만 사용하기 보다 사양을 나누어 2개 또는 4개로 나누는 것이 좋고 리전 역시 나누는 것이 좋습니다. 거기에 오토스케일링까지 이용한다면 좋겠죠. 위 아키텍처 이미지들은 웹 서버의 대표적인 일부 예시이며 상황에 따라 더욱 다양하게 사용이 가능합니다.
첫번째 이미지와 같이 단일로 사용하는 것은 정말… 권장드리지 않습니다. (물론 세션에 대한 문제를 당장 처리할 수 없다면 어쩔 수 없지만요?)
단일 서버로 서버 다운의 걱정과 특정 시간에 부하가 있어 고민을 하시던 고객님이 있었습니다. 위와 같은 다양한 아키텍처를 소개해드리고 방안에 대해 설명을 해드리고 작업을 해드린 경험이 있었습니다.
서버 하나가 다운되더라도 다른 리전의 서버가 운영되며 다운 및 자원 부하 시 오토스케일링으로 추가적인 서버 확보가 가능하도록 해주어 고객님께서 장애 및 특정 시간에 Scale Out , 특정 시간 이후 Scale In이 되어 비용 효율적으로 서비스를 원활하게 사용할 수 있게 되었다고 매우 만족하셨습니다.
추가로 DB 서버는 Cloud DB for MySQL를 사용하시는 경우 “고가용성 지원”을 사용하는 것이 좋고 일반 서버에 설치하여 사용하는 경우 이중화 작업을 진행할 수 있습니다.
3. 백업
세번째로 백업을 진행하는 것입니다. 네이버 클라우드에서는 자동 백업을 신청받아 진행하게 됩니다.
Backup 사용 가이드 – Backup
백업 서비스는 클라우드 서버(VM)의 중요 데이터를 정기적으로 백업/보관하여 유사 시 데이터 복구를 통해 고객사의 비지니스 연속성을 보장하기 위해 제공되는 서비스입니다.최근 발생되고 있는 국내외 자연재해 및 전산 사고 발생에서 알 수 있는 것처럼, 사고 발생 시의 데이터의 안전한 복구가 이루어지지 않아 발생될 수 있는 기업 이미지 및 고객 신뢰 감소 등의 문제를 방지할 수 있습니다.
이게 조금 네이버 클라우드를 사용하며 아쉬운 부분 중에 하나인데… 이미지 및 스냅샷 생성을 자동화하여 주기적으로 백업하는 방법이 지금 당장 서비스로 만들어진 게 없습니다.
그렇기때문에 네이버 클라우드에 Backup 서비스 신청서를 작성하여 신청하거나 다른 방법을 찾아보아야합니다. (요즘 이 부분으로 불편함을 겪고 있는 사용자들이 많아 이에 대한 방안 찾기 위해 개발을 배우고 있습니다.)
4. 최적화 및 보안 작업
네번째로 최적화 및 보안 작업입니다! 대부분 최적화가 되지않아 장애로 이어지는 경우를 너무나도 많이 보았습니다.
기술지원 업무를 하다보니 이런 케이스를 많이 보게됩니다. 이미 정해진 리소스 자원으로 감당하기 힘든 것들이 내부에서 작동되고 있어 서버가 “죽여줘~!”라며 소리치는 경우가 아주 드물죠.
서버 내 사용하는 소프트웨어들의 설정값 및 개발 소스 및 DB 쿼리 최적화등이 잘 되어있어야합니다. (특히 최근에 저도 DB 쿼리가 처리되지 않아 서비스에 영향받으시는 고객님들을 자주 보는 것 같네요.) 또한 용량 문제로 장애가 발생하는 경우도 존재합니다. Log 파일이 용량을 전부 사용하여 서비스 운영에 지장이 생기는 경우죠. Log 파일을 Logrotate를 이용하여 관리할 필요도 있으며 그 외에 보안적인 측면도 신경써야할 것입니다.
System Security Checker, App Security Checker, Web Security Checker 등을 이용한 점검 및 IPS, WAF 신청으로 보안을 강화하는 방법이 있습니다.
취약점 공격을 이용하여 공격성 접근으로 시스템 부하 및 서비스 운영 중단이 발생하는 경우도 많이 일어납니다. 특정 사용자분들은 뉴스에나 나오는 이야기겠지…라며 아무렇지 않게 생각하시다가 큰 피해를 입으신 뒤 뒤늦게 보안적인 측면을 고려하시는 분들이 많습니다.
개인적으로 보안 장비 도입이 비용적으로 선택하기 힘들다면 서버 내부에서 오픈 소스를 활용하여 보안 설정을 할 필요가 있고 백업은 무조건! 필수입니다. (IPS, WAF, BACKUP 어디에 비용을 투자할까? 고민되시면 무조건 BACKUP을 권장합니다.)
5. 장애 대응 매뉴얼
마지막으로 장애 대응 매뉴얼을 만들고 적극적으로 활용하는 것입니다. 물론 어떠한 업무에 대해 특정 인원 한 명만 처리가 가능한 상황이라면 보안상 옳지 않으나 특정 서버 담당자가 처리할 수 없는 상황일 때 다른 인원이 정해진 장애 대응 프로세스를 이용하여 대응이 가능한 상태를 만드는 것입니다.
제가 알기로 배달의 민족이 장애에 예민하여 이러한 장애 대응 프로세스가 잘 되어있다고 들었습니다. 또한 개발 환경에서 장애를 만들고 담당자가 아닌 인원들이 장애 시 대응하는 훈련도 하고 있다고 합니다.
아래는 장애 대응에 대한 글인데 내용이 마음에 들어 추가해두었으니 한번쯤 읽어보시면 좋을 것같습니다.
우아~한 장애대응 | 우아한형제들 기술블로그
안녕하세요. 우아한형제들 시스템신뢰성개발팀 박주희입니다.
얼마 전에 시스템신뢰성개발팀에 대해서 소개한 적이 있습니다. 그때, 팀 소개에서 시스템신뢰성개발팀에서 가장 중요한 업무 중 하나는 장애 대응이라고 설명했는데, 오늘은 이 장애 대응에 대해서 조금 더 자세하게 설명해보려고 합니다.
지금까지 대표적인 다섯가지 예시를 알아보았습니다. 물론 위 예시를 제외하고도 더 존재합니다. 예를 들면 이벤트 전 자원 확보라던가? 이벤트, 뉴스, 광고로 인해 평소보다 많은 트래픽과 자원 사용으로 서비스 장애가 발생하는 케이스도 많이 있죠. 이를 인지하고 있음에도 불구하고 대비하지 않는다면 당연히 장애로 이어질 수 있습니다.
장애를 미연에 방지하기 위한 점검과 준비 방법 전부 다 적지는 못했습니다. 또 다른 것들이 생각나신다면 댓글로 적어주시면 감사하겠습니다.
Personal Comments
오늘은 네이버 클라우드 플랫폼 사용 시 VM이 재부팅되는 원인은 무엇이고 이를 어떻게 대비할 수 있을지 알아보았습니다.
많은 사용자들이 운영 중인 서비스가 중지된다면 당황스러울 것입니다. 네이버 클라우드 측에서도 이러한 부분으로부터 사용자들이 조금 더 유연하게 대처할 수 있도록 개선되었으면 하는 점에 대해 생각해보았습니다.
Trouble Shoot 가이드가 보강되면 좋겠지만 이러한 부분은 네이버 클라우드 측에서 모든 케이스별로 Trouble Shoot 가이드를 쓴다는 것은 쉽지 않은 일이 될 것입니다. (실제로 너무 다양한 케이스가 많아서 그걸 모두 예측하고 가이드로 만든다는 것은 어렵다고 보며 만약 만든다고 하더라도 고객별 시스템 환경에 따라 변수가 생길 수 있을 것이라 생각합니다. )
NAVER CLOUD PLATFORM 파트너 소개
성공적인 미래, 네이버 클라우드 플랫폼과 함께 하세요.
[파트너] – [파트너 소개]
그렇기때문에 이러한 트러블 슈팅이나 추가적인 조치 방안의 경우 파트너사를 이용하여 도움받는 것이 더 효율적이라고 생각하며 오히려 네이버 클라우드 측에서는 사용자들이 조금 더 네이버 클라우드를 편하게 사용할 수 있도록 각 서비스별 기능을 업그레이드 했으면 좋겠습니다.
대표적으로 현재 네이버 클라우드 측에서 Linux 서버 운영 시 NAS를 함께 사용할 때 가용성을 위해 오토스케일링을 설정할 경우 NAS의 접근제어로 인해 오토스케일링으로 생성된 서버의 경우 NAS의 접근제어 리스트에 자동으로 추가되지 않으므로 정상적인 부팅이 되지않아 오토스케일링을 원하는대로 사용할 수 없는 문제가 발생합니다.
여러가지 개선되었으면 하는 점이 있지만 가이드적인 부분보다 이러한 기능적인 부분에서 불가능한 요소로 인해 다양한 아키텍처로부터 제한이 생기거나 불편함을 겪는 경우가 줄도록 해야할 것입니다.
speedtest-cli를 이용하여 테스트를 진행할 것입니다. (ubuntu 에서는 apt install python-pip 및 pip install speedtest-cli 를 이용하여 설치가 가능합니다.)
python speedtest-cli 명령어를 실행하여 다음과 같은 결과를 얻었습니다. Host는 ゆゆっちサーバー (Ehime) 지역으로 일본 측 서버와 테스트를 진행하게 되었습니다.
다운로드 속도는 265.39 Mbit/s, 업로드 속도는 103.85 Mbit/s 정도 나오네요.
[root@manvscloud-web-pub-kr1 ~]# python speedtest-cli
Retrieving speedtest.net configuration...
Testing from Naver Business Platform Asia Pacific Pte. (101.79.9.152)...
Retrieving speedtest.net server list...
Selecting best server based on ping...
Hosted by ゆゆっちサーバー (Ehime) [681.87 km]: 65.568 ms
Testing download speed................................................................................
Download: 265.39 Mbit/s
Testing upload speed......................................................................................................
Upload: 103.85 Mbit/s
금일 포스팅은 네이버 클라우드 플랫폼(Naver Cloud Platform) 11월 교육 및 행사 일정 -(1) 입니다.
11월 교육과 행사들을 한 번 보도록 하겠습니다.
Webinar
[웨비나] 클라우드 네이티브 정복하기 : 옵저버빌리티 확보 전략 (NAVER Cloud x NexClipper)
클라우드 네이티브 시대의 도래!
IT 자원의 모니터링을 넘어 리스크를 사전에 감지하고 대비하는 옵저버빌리티(Observability) 확보가 기업의 경쟁력이 되고 있습니다.
시작 / 종료 일시 : 2021년 11월 04일 (목) 14:00:00 ~ 2021년 11월 04일 (목) 14:40:00
아래 유튜브 링크에서 지나간 웨비나를 다시 볼 수 있습니다.
[다시보기] 클라우드 네이티브 정복하기: 옵저버빌리티 확보 전략 by 네이버클라우드 x 넥스클리퍼(넥스클라우드)
11월 4일 진행된 네이버클라우드 x 넥스클리퍼 웨비나 녹화본입니다. LIVE 웨비나를 놓치셨더라도, 다시보기 영상을 활용해서 옵저버빌리티(Observability) 확보 전략을 익혀보세요.[ 웨비나 소개] 클라우드 네이티브 시대의 도래!IT 자원의 모니터링을 넘어 리스크를 사전에…
[웨비나][Solutions Showcase] 트래픽 폭주에도 끄떡없다! 대량 접속 제어 솔루션 넷퍼넬 NetFUNNEL
동시 접속자 수가 폭증할 경우, 단순한 오토스케일링(Auto-Scaling)만으로는 대처하기 어렵습니다.
세세한 포인트까지 놓치지 않고 접속 요청을 제어하는 넷퍼넬(NetFUNNEL)을 만나보세요!
시작 / 종료 일시 : 2021년 11월 04일 (목) 11:00:00 ~ 2021년 11월 04일 (목) 12:00:00
#접속제어 #넷퍼넬 #NetFUNNEL #동시접속제어동시 접속자 수가 폭증할 경우, 단순한 오토스케일링(Auto-Scaling)만으로는 대처하기 어렵습니다.세세한 포인트까지 놓치지 않고 접속 요청을 제어하는 넷퍼넬(NetFUNNEL)을 만나보세요!준비된 시스템 리소스 및 정해진 예…
[웨비나] 누구나 쉽게 이해할 수 있는 IT인프라 정복하기 #2편
IT 인프라에 대해 하나도 모르는 분들은 주목!
네이버 클라우드 플랫폼과 함께 탄탄한 IT 지식 기반을 다져보세요.
IT 인프라 환경의 구성부터 실제 동작 원리까지 모두 알려드립니다.
시작 / 종료 일시 : 2021년 11월 11일 (목) 11:00:00 ~ 2021년 11월 11일 (목) 12:00:00
[11/18] 누구나 쉽게 이해할 수 있는 IT인프라 정복하기! #3편 (스토리지)
[11/25] [Solutions Showcase]기업의 문서중앙화, 가장 쉽고 빠른 방법은? DocuONE CLOUD!
[12/02] 네이버 클라우드 플랫폼과 함께 살펴보는 클라우드 트렌드
[웨비나] Red Hat OpenShift on NAVER Cloud Platform : Ncloud에서 OpenShift 설치/운영하기
네이버 클라우드 플랫폼에서도 쉽고 간편하게 Red Hat OpenShift를 설치하고 운영할 수 있다는 사실!
알고 계셨나요?
간편한 설치부터 CI/CD 구현, 보안 이슈까지 꽉 잡은 Red Hat OpenShift 운영 방법이 궁금하다면 네이버클라우드와 Red Hat이 함께 준비한 웨비나에 참여해 보세요.
시작 / 종료 일시 : 2021년 11월 18일 (목) 14:00:00 ~ 2021년 11월 18일 (목) 15:40:00
요즘 웨비나 교육이 점점 늘어나고 있는 것같습니다. 특히 웨비나 교육의 경우 유튜브로 다시 볼 수 있게 해주어 상당히 좋은 점이 있는듯합니다. 대부분의 교육들이 업무 시간에 있어 듣지 못하는 경우가 많은데 놓친 교육을 다시 볼 수 있다는 건 상당히 강점이라고 생각합니다.
Hands-on Lab
[11월 교육] NAVER CLOUD PLATFORM Hands-on Lab 1차
■ 목적 : 네이버 클라우드 플랫폼의 클라우드 인프라를 생성하고 서비스를 활용하는 실습 교육을 통해 네이버 클라우드 플랫폼에 대한 이해도 증진
[11월 교육] NAVER CLOUD PLATFORM Hands-on Lab 2차
■ 목적 : 네이버 클라우드 플랫폼의 클라우드 인프라를 생성하고 서비스를 활용하는 실습 교육을 통해 네이버 클라우드 플랫폼에 대한 이해도 증진
Hands-on Lab의 경우 워낙 인기가 많은지 금방 금방 마감이 되어버립니다. 현재 1차, 2차 둘 다 마감이 되어버렸네요.
12월 Hands-on Lab을 미리 공개합니다!! 늦기 전에 신청합시다!
[12월 교육] NAVER CLOUD PLATFORM Hands-on Lab 1차
■ 목적 : 네이버 클라우드 플랫폼의 클라우드 인프라를 생성하고 서비스를 활용하는 실습 교육을 통해 네이버 클라우드 플랫폼에 대한 이해도 증진
첫번째로 Hands-on Lab 입니다. Hands-on Lab은 네이버 클라우드 플랫폼(Naver Cloud Platform) 에서 최근까지 월 2회씩 꾸준히 진행되고 있는 교육입니다.
권장하는 대상자는 클라우드 환경 및 네이버 클라우드를 처음 접하시는 분에게 가장 처음으로 추천드립니다.
무료 교육입니다.
저 역시 네이버 클라우드 플랫폼을 접할 때 Hands-on Lab 교육을 들은 경험이 있고 해당 교육이 많은 도움이 되었기에 커뮤니티나 주변에서 “네이버 클라우드 어떻게 시작하면 좋을까요?”라는 질문을 받으면 가장 먼저 Hands-on Lab으로 시작해보라고 추천하고 있습니다.
※ TIP : Hands-on Lab 교육이 끝나고 난 후에도 해당 주차의 일요일까지 실습 계정을 사용할 수 있어 기본적인 실습 경험을 쌓을 수 있습니다.
공인교육 – Associate
[11월] 네이버클라우드플랫폼 공인교육 – Associate
[11월 공인 교육] NAVER Cloud Platform Certified Training – Associate
■ 일정 : 11월 9일(화) – 11월 10일(수) 10:00~18:00, 2일 과정
Naver Cloud Platform에서는 기술자격증이 존재합니다. 이 교육은 그 중에서도 Associate Level 수준의 교육이라고 볼 수 있습니다.
Hands-on Lab 교육 이후 Associate 자격증을 노려보실 계획이라면 추천드립니다.
유료 교육입니다.
수료증이 발급됩니다.
공인교육 – Associate 과정
* 네이버클라우드플랫폼 공인교육 Associate 과정이란?
네이버클라우드플랫폼 서비스에 대해서 이해하고, 서비스를 조합하여 클라우드 인프라 구성이 가능한 수준입니다.
해당 교육이 유료 교육으로 되어있어 비용 부담이 될 수 있습니다. 그렇기때문에 네이버 클라우드에서는 edwith 사이트에서 공인 교육을 무료로 들을 수 있도록 강의를 게재하고 있습니다.
공인교육 – Professional
[11월] 네이버클라우드플랫폼 공인교육 – Professional 과정
[11월 공인 교육] Naver Cloud Platform Certified Training – Professional
■ 일정 : 11월 23일(화) – 11월 26일(금) 10:00~17:00 / 4일 교육 과정
Naver Cloud Platform에서는 기술자격증이 존재합니다. 이 교육은 그 중에서도 Professional Level 수준의 교육입니다.
기존에는 실기 시험이 존재하였으나 2021년도 6월 이후로 실기 시험은 폐지되고 필기로만 시험이 진행됩니다.
유료 교육입니다.
수료증이 발급됩니다.
기존에는 NCA → NCP → NCE 순서로 시험 응시가 가능했지만 2021년도 7월 22일부터는 이전 레벨의 기술자격증이 없이 상위 기술자격증 취득이 가능합니다.
공인교육 – Professional 과정
* 네이버클라우드플랫폼 공인교육 Professional 과정이란?
네이버클라우드플랫폼에 대한 전문적인 지식을 바탕으로 독자적으로 클라우드 인프라 구성 및 다양한 기능을 구현할 수 있는 과정입니다.
해당 교육이 유료 교육으로 되어있어 비용 부담이 될 수 있습니다. 그렇기때문에 네이버 클라우드에서는 edwith 사이트에서 공인 교육을 무료로 들을 수 있도록 강의를 게재하고 있습니다.
저 역시 Professional 자격증을 준비하며 edwith 사이트를 참고했습니다.
Brown-Bag
[11월 브라운백] AI for everyone 시대가 온다
** 브라운백 세미나는 매달 3주차 목요일 오후 12시30분부터 한 시간 가량 진행되는 점심 세미나입니다 : )
■ 일정 : 2021년 11월 18일 (목) 12:30~13:30
■ 목적 : AI 기술 트렌드와 AI 기본 지식에 대해 안내함으로써 누구나 AI를 쉽게 활용할 수 있도록 이끕니다.
Zoom을 이용하여 교육을 들을 수 있어 온라인 환경이라 언제 어디서나 참여가 가능합니다.
식사 쿠폰이 지급됩니다.
점심 시간을 활용한 짧은 교육이므로 다소 어려운 교육이 아닙니다. 간단하게 점심을 먹으며 들을 수 있는 난이도로 가벼운 마음으로 신청하셔도 될 것입니다.
이번 11월 달의 브라운백은 AI에 대한 주제입니다. 저 역시 AI에 대한 관심이 많습니다.
컴퓨터가 인간의 사고 방식과 행동을 모방하려고 한다는 것은 어떻게 보면 무섭기도 하고 흥미로운 주제가 아닌가 생각됩니다.
터미네이터와 트랜스포머 등 영화를 재밌게 보는 편이기도 하고 대표적으로 “아이, 로봇”이라는 영화도 떠오르네요. 이러한 인공지능 분야에 관심이 있으시다면 점심 시간에 식사와 함께 챙겨보는 것도 좋을 것같습니다.
Personal Comments
11월도 교육이 많이 준비된 것같네요.
네이버 클라우드가 서비스 확장 뿐만이 아니라 많은 교육을 통해서 사용자들이 편하게 접근할 수 있도록 다양한 정보를 제공하려 노력하는 부분이 너무 좋은 것같습니다.
분야별 교육을 통해 관심 분야별 교육을 한다는 것은 쉽지 않을텐데 사용자 입장에서는 너무 편리하고 부족한 부분을 채울 수 있으며 정보를 공유할 수 있는 자리가 될 것이라 봅니다.
요즘 웨비나 감상 후 블로그 후기로 잘 남겨주시는 Life on Cloud 님의 블로그를 추가로 소개해드리고자 합니다. 해당 블로그도 한번씩 들어가서 마음에 드시면 자주 구독하시면 좋을 것같네요.
네이버클라우드플랫폼의 ‘누구나 쉽게 이해할 수 있는 IT인프라 정복하기! 1편’ 웨비나 정리 – Life on Cloud
NCP의 ‘누구나 쉽게 이해할 수 있는 IT인프라 정복하기! 1편’ 웨비나를 정리했습니다.
금일 포스팅은 네이버 클라우드 플랫폼(Naver Cloud Platform) 10월 교육 및 행사 일정 -(2) 입니다.
이번 달은 휴가 및 다른 일정으로 이미 지나가버린 교육들도 있네요. 우선 남은 10월 교육과 행사들을 한 번 보도록 하겠습니다.
Webinar
API Gateway를 활용한 비즈니스로직 실행 방법
API를 관리하는 일은 무척 까다롭습니다.
적절한 인프라 구축, 요청량에 따른 확장성 고려, 트래픽 제어 등 많은 리소스를 사용하게 되는데요.
이번 웨비나를 통해 안정적인 API 호출과 트래픽 관리, 모니터링을 제공하는 ‘API Gateway’ 활용법을 알아보겠습니다.
[Solutions Showcase] 트래픽 폭주에도 끄떡없다! 대량 접속 제어 솔루션 넷퍼넬 NetFUNNEL
동시 접속자 수가 폭증할 경우, 단순한 오토스케일링(Auto-Scaling)만으로는 대처하기 어렵습니다.
세세한 포인트까지 놓치지 않고 접속 요청을 제어하는 넷퍼넬(NetFUNNEL)을 만나보세요!
준비된 시스템 리소스 및 정해진 예산 내에서도 안정적인 서비스로 고객의 디지털 비즈니스 경험을 한층 더 향상시켜 드립니다.
[Solutions Showcase] 사례를 통해 알아보는 효과적인 클라우드 백업 방안 with Veritas
엣지부터 코어 시스템, 클라우드까지 데이터의 무결성과 가용성을 보장하는 강력하면서도 간편한 방법을 알고 싶으신가요?
Fortune지 선정, 글로벌 500대 기업의 87% 선택을 받은 Veritas의 데이터 보호 솔루션을 만나보세요!
여러분의 데이터 보호 여정을 안전하게 지켜드립니다.
10월 초에 휴가라 따로 쉬고 있던 사이 상당히 많은 웨비나가 진행되었더라구요… 이미 지나가버린 웨비나…
하지만 알고계시나요? 네이버 클라우드 웨비나는 유튜브에 업로드되어 다시 볼 수 있다는 것!!
NAVER Cloud Platform : 네이버 클라우드 플랫폼 Youtube
API Gateway를 활용한 비즈니스로직 실행 방법은 따로 업로드되지 않았네요. 나머지 두 개의 교육은 아래 유튜브 링크를 이용하여 들어봅시다!
#접속제어 #넷퍼넬 #NetFUNNEL #동시접속제어동시 접속자 수가 폭증할 경우, 단순한 오토스케일링(Auto-Scaling)만으로는 대처하기 어렵습니다.세세한 포인트까지 놓치지 않고 접속 요청을 제어하는 넷퍼넬(NetFUNNEL)을 만나보세요!준비된 시스템 리소스 및 정해진 예…
[Solutions Showcase] 사례를 통해 알아보는 효과적인 클라우드 백업 방안
#클라우드 #백업 #Veritas #데이터보호엣지부터 코어 시스템, 클라우드까지데이터의 무결성과 가용성을 보장하는강력하면서도 간편한 방법을 알고 싶으신가요?Fortune지 선정, 글로벌 500대 기업의 87% 선택을 받은Veritas의 데이터 보호 솔루션을 만나보세요!여러분의 데이…
추가로 이후에 이어질 웨비나는 아래와 같이 예정되어 있어 일정 참고해보시면 좋을 것같습니다.
▶ [10/28] 누구나 쉽게 이해할 수 있는 IT인프라 정복하기! #2편 – 네트워크편
누구나 쉽게 이해할 수 있는 IT인프라 정복하기 #2편
IT 인프라에 대해 하나도 모르는 분들은 주목!
네이버 클라우드 플랫폼과 함께 탄탄한 IT 지식 기반을 다져보세요.
IT 인프라 환경의 구성부터 실제 동작 원리까지 모두 알려드립니다.
▶ [11/4] [Solutions Showcase] 트래픽 폭주에도 끄떡없다! 대량 접속 제어 솔루션 넷퍼넬 NetFUNNEL ▶[11/11] 누구나 쉽게 이해할 수 있는 IT인프라 정복하기! #2편 (네트워크) ▶[11/18] 누구나 쉽게 이해할 수 있는 IT인프라 정복하기! #3편 (스토리지)
Intermediate
Clova & Papago를 활용한 서비스 구축하기
일정 : 10.15 14:00 ~17:00
교육 장소 : 온라인 Zoom 교육
교육목적 : 네이버클라우드 플랫폼의 Clova & Papago 상품 활용 및 웹 구축(flask)
Intermediate Level로 최소 Hands-on Lab 교육 이후 진행하는 것을 권장드리며 특정 주제에 대해 교육을 듣기 전 사전 기본 지식을 요구합니다.
무료 교육입니다.
관심있는 분야에 대한 교육이 진행된다면 바로 신청합시다. 완전 강추! 네이버 클라우드에서는 이렇게 사용할 수 있구나! 라는 걸 배울 수 있으며 상당히 재밌습니다.
이미 날짜가 지나버려서 해당 교육은 제가 따로 포스팅해보도록 하겠습니다.
Education
NAVER Cloud for SMARTWORK 네이버웍스, 워크플레이스, 워크박스 사용자 무료 교육
장소 : 온라인
시작 / 종료 일시 : 2021년 10월 27일 (수) 09:30:00 ~ 2021년 10월 28일 (목) 14:50:00
2021-10-27 (수) ~ 2021-10-28 (목) 2일동안 진행되는 교육입니다.
업무용 협업 도구가 필요하고 관심이 있을 경우 들으면 좋을 것같습니다.
Personal Comments
10월 일정에 휴가를 다녀오니 이미 지나가버린 교육이 상당히 많네요. 다행히 웨비나는 유튜브로 업로드되어 다행인듯합니다.
NAVER Cloud Platform : 네이버 클라우드 플랫폼
네이버 클라우드 플랫폼(NAVER Cloud Platform)은 네이버와 계열사들의 IT 서비스 인프라를 지원하는 네이버클라우드(NAVER Cloud)의 퍼블릭 클라우드 서비스로, 600여 개 서비스 운영 경험을 통해 검증된 높은 품질의 클라우드 서비스를 제공합니다. 해외 주요 거점에 구축되어 있는 글로벌 리전을 통해 신속하고 안정적으로 글로벌 서비스를 운영할 수 있으며 다양한 보안 인증 취득을 통해 공공, 금융, 의료 등 탄탄한 보안이 필요한 산업을 위한 클라우드 서비스도 제공합니다. 전문 기술진의 고객 지원은 물론, 손쉽게…
