1nfratech1nfra Tech

Pod는 Kubernetes가 컨테이너를 실행하는 가장 작은 단위이고, 운영에서는 Pod를 직접 만들지 않고 Deployment로 관리합니다. 이 글에서는 Pod, ReplicaSet, Deployment의 관계와 롤링 업데이트, 롤백, 그리고 컨테이너 상태를 확인하는 Probe를 정리합니다.컨테이너부터 Kubernetes까지 시리즈 7편입니다. 이전 글은 [Kubernetes] 클러스터 구조 정리이고, 전체 순서는 시리즈 목차에 있습니다.1. PodPod는 컨테이너 하나 이상을 묶은 실행 단위입니다. 같은 Pod 안의 컨테이너는 1편에서 본 NET namespace를 함께 써서 IP 하나를 나눠 쓰고, localhost로 서로 통신하며, 볼륨도 함께 붙일 수 있습니다. 대부분은 Pod 하나에 컨테이너 ..

Kubernetes는 여러 서버를 하나의 클러스터로 묶고, 사용자가 선언한 상태대로 컨테이너를 배치하고 유지하는 플랫폼입니다. 이 글에서는 Control Plane과 Node를 이루는 구성 요소, kubectl apply 한 번이 컨테이너 실행까지 이어지는 흐름을 정리하고, kind로 로컬 Docker 위에 노드 3대짜리 클러스터를 만듭니다.컨테이너부터 Kubernetes까지 시리즈 6편이자 2부의 첫 글입니다. 이전 글은 [Docker] Docker Compose로 여러 컨테이너 실행 정리이고, 전체 순서는 시리즈 목차에 있습니다.1. Kubernetes가 필요한 이유5편의 Compose는 서버 한 대 안에서 여러 컨테이너를 묶어 실행합니다. 서버가 여러 대로 늘어나면 어느 서버에 컨테이너를 둘지, 서..

컨테이너를 처음 배우는 분이 Docker부터 Kubernetes, Azure에서의 운영까지 순서대로 따라올 수 있도록 글을 묶은 시리즈 목차입니다. 앞 글에서 배운 내용을 다음 글에서 이어 쓰도록 구성했으니, 처음이라면 1편부터 차례로 읽는 것을 권합니다.1. 학습 순서1부에서는 컨테이너 한 대를 만들고 다루는 방법을, 2부에서는 여러 서버에 컨테이너를 나눠 띄우고 관리하는 Kubernetes를, 3부에서는 Azure의 AKS에서 실제로 배포하고 운영하는 방법을 다룹니다. Kubernetes의 Pod, Service, Volume은 모두 1부에서 다루는 컨테이너, 네트워크, 볼륨을 여러 서버로 넓힌 개념이라 1부를 먼저 보는 것이 이해가 빠릅니다.1부의 컨테이너, 네트워크, 볼륨이 2부의 Pod, Ser..

컨테이너가 여러 개가 되면 docker run 명령을 매번 순서대로 치기 어렵습니다. Docker Compose는 서비스, 네트워크, 볼륨을 YAML 파일 하나에 적고 한 번에 올리고 내리는 도구입니다. 이 글에서는 웹 앱과 Redis로 방문자 수를 세는 예제를 compose.yaml로 만들고, depends_on과 healthcheck, 환경별 설정 분리를 정리합니다.컨테이너부터 Kubernetes까지 시리즈 5편이자 1부 Docker의 마지막 글입니다. 이전 글은 [Docker] 컨테이너 네트워크와 볼륨 정리이고, 전체 순서는 시리즈 목차에 있습니다.1. Compose가 하는 일4편에서는 네트워크를 만들고, 볼륨을 만들고, 컨테이너를 순서대로 띄우는 명령을 하나씩 실행했습니다. Compose는 이 내..

컨테이너는 기본적으로 자기만의 네트워크와 파일시스템을 가집니다. 이 글에서는 컨테이너끼리 이름으로 통신하는 bridge 네트워크, 밖에서 접속하게 하는 포트 매핑, 컨테이너를 지워도 데이터를 남기는 볼륨과 바인드 마운트를 Redis 예제로 정리합니다.컨테이너부터 Kubernetes까지 시리즈 4편입니다. 이전 글은 [Docker] Dockerfile 작성과 멀티 스테이지 빌드 정리이고, 전체 순서는 시리즈 목차에 있습니다.1. 네트워크 드라이버1편에서 본 것처럼 컨테이너는 NET namespace로 자기만의 네트워크 인터페이스와 IP를 가집니다. 이 인터페이스를 어디에 연결할지 정하는 것이 네트워크 드라이버이고, 한 대의 호스트에서는 대부분 bridge를 씁니다. 방식동작용도bridge호스트 안에 가상 ..

Dockerfile은 이미지를 만드는 순서를 적은 파일입니다. 이 글에서는 명령마다 이미지에 무엇이 남는지, 빌드 캐시를 잘 타도록 순서를 정하는 방법, CMD와 ENTRYPOINT의 차이, 그리고 빌드 도구를 최종 이미지에서 빼는 멀티 스테이지 빌드를 Go 웹 서버 예제로 정리합니다.컨테이너부터 Kubernetes까지 시리즈 3편입니다. 이전 글은 [Docker] 이미지와 레이어 정리이고, 전체 순서는 시리즈 목차에 있습니다. 명령어 하나하나의 설명은 [Docker] Dockerfile 명령어 정리에 있습니다.1. Dockerfile이 이미지가 되는 과정docker build를 실행하면 현재 폴더(빌드 컨텍스트)를 BuildKit이라는 빌드 엔진에 보내고, Dockerfile을 위에서부터 한 줄씩 실행..

이미지는 컨테이너를 만드는 읽기 전용 틀이고, 여러 레이어를 겹쳐 만든 파일시스템입니다. 이 글에서는 레이어가 어떻게 쌓이고 공유되는지, 컨테이너가 파일을 바꿀 때 무슨 일이 일어나는지, 이미지 이름의 태그와 digest가 어떻게 다른지 정리합니다.컨테이너부터 Kubernetes까지 시리즈 2편입니다. 이전 글은 [Docker] 컨테이너 개념 정리이고, 전체 순서는 시리즈 목차에 있습니다.1. 이미지와 컨테이너이미지는 앱을 실행하는 데 필요한 파일과 실행 설정(어떤 명령으로 시작할지, 어떤 환경 변수를 쓸지)을 담은 읽기 전용 묶음입니다. 컨테이너는 이 이미지로 만든 실행 중인 인스턴스입니다. 붕어빵 틀 하나로 붕어빵을 여러 개 굽듯이, 이미지 하나로 컨테이너를 여러 개 띄울 수 있습니다. 항목이미지컨테..

컨테이너는 앱과 실행에 필요한 파일을 한 묶음으로 만들어, 호스트의 커널 위에서 격리된 프로세스로 실행하는 방식입니다. 이 글에서는 가상 머신과 무엇이 다른지, 리눅스의 namespace와 cgroup이 격리를 어떻게 만드는지, Docker가 어떤 구성 요소를 거쳐 컨테이너를 띄우는지 정리합니다.컨테이너부터 Kubernetes까지 시리즈 1편입니다. 전체 순서는 시리즈 목차에 있고, Docker 설치는 [Docker] Docker 설치와 자주 쓰는 명령어 정리를 참고합니다.1. 컨테이너가 필요한 이유"제 PC에서는 되는데 서버에서는 안 돼요"는 대부분 실행 환경 차이에서 생깁니다. 파이썬 버전, 설치된 라이브러리, OS 설정이 조금만 달라도 같은 코드가 다르게 동작합니다. 컨테이너는 앱과 앱이 쓰는 라이..

양자화(Quantization)는 모델의 숫자를 더 적은 비트로 줄여 저장하는 기술입니다. 이 글에서는 FP16, INT8, INT4, FP8이 어떻게 다른지, GPTQ와 AWQ 같은 방식이 오차를 어떻게 줄이는지, 그리고 A100 40GB 1장에 7B 모델을 올릴 때 메모리와 속도가 얼마나 달라지는지를 계산으로 정리합니다.1. 양자화란LLM의 가중치(Weight, 학습으로 정해진 숫자)는 보통 FP16이나 BF16으로 저장해서 숫자 하나에 2바이트를 씁니다. 7B 모델이면 가중치만 약 15GB입니다. 양자화는 이 숫자를 8비트나 4비트 같은 더 작은 형식으로 바꿔 저장하는 것입니다. 1mm 눈금 자 대신 5mm 눈금 자로 재는 것과 비슷해서, 적어 둘 칸은 줄지만 눈금 사이 값은 가장 가까운 눈금으로 ..

Kubernetes Secret은 값을 base64로 인코딩만 해 두는 방식이라 매니페스트 저장소에 그대로 올릴 수 없습니다. 이 글에서는 비밀번호 같은 값의 원본을 Azure Key Vault에 두고, AKS의 Secrets Store CSI Driver와 Workload Identity로 Pod가 필요한 값만 파일로 받아 쓰는 구조를 정리합니다.1. 왜 Key Vault에 두는가[CI/CD] GitHub, Jenkins, ArgoCD로 dev/prd 배포 아키텍처 설계에서는 매니페스트를 모두 Git 저장소에 두고 ArgoCD가 그대로 클러스터에 반영했습니다. 이 구조에서 DB 비밀번호를 Kubernetes Secret 매니페스트로 만들어 올리면, 저장소를 읽을 수 있는 사람은 누구나 값을 볼 수 있습..