summary-aws 님의 블로그

Kubernetes 의 네트워킹의 변화과정에서 한계점 극복을 위해 출시된 Amazon VPC Lattice에 대해 확인. 1. Kubernetes의 애플리케이션 네트워킹 변화 과정 - 1.1 기존 Kubernetes 네트워크의 한계점 - 1.2 Gateway API2. Amazon VPC Lattice 란? - Amazon VPC Lattice 장점3. Amazon VPC Lattice 실습 1. Kubernetes의 애플리케이션 네트워킹 변화 과정 단일클러스터를 사용 시단일 클러스터 내부에 배포되는 Kubernetes 서비스들은 클러스터 내부의 DNS 인 CoreDNS 및 Ingress 리소스를 통해서 내부 서비스 간 통신 및 외부로의 통신을 모두 네이티브하게 구현할 수 있음.사용되는 방법들기본..

1. AI 워크로드에 대한 컨테이너 사용2. Build GenAI & ML for Performance and Scale, using Amazon EKS, Amazon FSx and AWS Inferentia - Generative AI & 머신러닝 개요 - vLLM이란? - 생성형 AI 챗봇 애플리케이션 배포 .Amazon EKS에서 vLLM으로 Mistral-7B 배포 .AWS Inferentia 가속기 .AWS Neuron SDK .Deploy WebUI chat application to interact with model .Mistral-7B 데이터 점검 및 생성된 데이터 공유 - FSx for Lustre와 S3 연동 - 동적 프로비저닝을 사용하여..

1. vault 란?2. Kubernetes에 Vault 설치 3. Jenkins + Vault (AppRole)  4. ArgoCD + Vault Plugin (Kubernetes Auth/AppRole) 5. Vault Secrets Operator (VSO) 1. vault 란?Vault는 주로 토큰(Token)을 기반으로 작동하며, 이 토큰은 클라이언트의 정책(Policy)과 연결되어 있습니다. 각 정책은 경로(path) 기반으로 설정되며, 정책 규칙은 클라이언트가 해당 경로에서 수행할 수 있는 작업과 접근 가능성을 제한합니다.Vault에서는 토큰을 수동으로 생성해 클라이언트에 할당할 수도 있고, 클라이언트가 로그인하여 토큰을 직접 획득할 수도 있습니다. Vault의 핵심 워크플로우 Vault의 ..

Amazon EKS Upgrades: Strategies and Best Practices1. 실습환경 확인2. 업그레이드 사전준비  - Preparing for Cluster Upgrades : 업그레이드 전 준비   - In-place 와 Blue-Green 업그레이드 전략 중 선택  - EKS Upgrade Insights 3. Upgrading EKS (1.25 → 1.26)   - Control Plane Upgrade 후 상태 확인, Add-on 업그레이드  - [3.1 데이터부 - 관리형노드그룹] Upgrading EKS Managed Node groups  - [3.2 데이터부 - 카펜터노드] Upgrading Karpenter managed nodes  - [3.3 데이터부 - 셀프노드]..

테스환경구축 - wsl(우분투) 환경 docker 설치 및 kind(k8s) 설치 - Jenkins 설치 및 셋팅 - Gogs  설치 및 셋팅 CI/CD 환경 구축  - ArgoCD (CD),  Jenkins (CI), Gogs(git), 환경 kind(k8s) 윈도우 wsl 환경에 docker 설치, kind 및 관리 툴 설치 활용 구성도 kind 설치 : Windows (WSL2) 사용자 docker 설치# WSL2 에 Docker 설치 : 아래 스크립트 실행 후 20초 대기하면 스크립트 실행 됨 curl -fsSL https://get.docker.com -o get-docker.sh sudo sh ./get-docker.sh ... 약 5분정도.# 설치 확인 docker infosudo docke..

1. K8S Scheduler란?2. 실습환경 구성을 위한 Terraform 설치3. Fargate란?   - Amazon EKS Blueprints for Terraform4. Auto-mode 란?   - sample-aws-eks-auto-mode  K8S Scheduler Scheduler(스케줄러)는 쿠버네티스 클러스터 내에서 생성된 파드를 적절한 노드에 배치하는 컴포넌트역할: 파드(Pod)를 적절한 노드(Node)에 배치해 클러스터의 리소스(CPU, 메모리 등)를 효율적으로 사용하도록 합니다. 동작 방식:파드를 배치할 노드를 선택하기 위해 여러 단계를 거쳐 결정합니다. 파드의 요구사항과 노드의 상태, 제약 조건을 고려합니다. Scheduler의 동작은 크게 2단계로 구분 ① Filtering ..

1. 쿠버네티스의 보안  - 인증/인가  - kube/config - 쿠버네티스의 API 접근 제어2. 실습환경3. EKS IRSA & Pod Identity4. OWASP Kubernetes Top Ten   쿠버네티스(Kubernetes)에서 사용하는 암호화 방식암호화 유형대상 및 목적사용 기술 및 알고리즘특징 및 설명Encryption at Rest(저장 시 암호화)- etcd에 저장되는 데이터 보호- Secret, ConfigMap, PersistentVolumeClaim 등 민감 정보- AES-GCM- AES-CBC- Secretbox- 데이터를 etcd에 저장할 때 암호화하여 디스크 상의 데이터를 보호- API서버 설정(EncryptionConfiguration)으로 적용Encryption i..

1. AutoScaling 이론 및 실습환경2. HPA - Horizontal Pod Autoscaler3. VPA - Vertical Pod Autoscaler4. CAS - Cluster Autoscaler5. Karpenter : K8S Native AutoScaler6. 후기 1. Autoscaling 이론 & 실습환경리소스 부족대응 기술VPA : 서비스를 처리할 파드 자원이 부족한 경우 파드 교체(자동 or 수동) → 파드 Scale UpHPA : 서비스를 처리할 파드 자원이 부족한 경우 신규 파드 Provisioning → 파드 Scale OutCAS : 파드를 배포할 노드가 부족한 경우 신규 노드 Provisioning → 노드 Scale OutKarpenter : Unscheduled 파드..

1. EKS Monitoring(모니터링) vs Observability(관측 가능성) 비교2. 실습환경3. EKS Console   - 3.1 Logging in EKS4. Container Insights metrics in Amazon CloudWatch & Fluent Bit (Logs)   - 4.1 CloudWatch Container observability 설치5. 프로메테우스-스택6. 그라파나 및 그라파나 Alert7. 후기1. EKS Monitoring(모니터링) vs Observability(관측 가능성) 비교  모니터링관측 가능성개념시스템의 성능과 상태를 미리 정의된 메트릭과 로그를 통해 확인하는 과정시스템 내부 상태를 심층적으로 분석하고 문제의 원인을 파악할 수 있도록 하는 능력초..

1. EKS Storage 종류2. 실습환경 셋팅3. EBS CSI 설치 및 테스트   -  Wordpress 배포 및 스냅샷복원4. EFS CSI 설치 및 테스트   - EFS 파일시스템을 다수의 파드 연결5. 후기 1. EKS Storage 종류스토리지특징적용사례퍼시스턴트 볼륨 지원마운트 방식Amazon EBS (Elastic Block Store)블록 스토리지, 특정 EC2 인스턴스에 종속됨단일 노드에서 실행되는 워크로드 (예: 데이터베이스, 상태 저장 애플리케이션) 지원RWO (ReadWriteOnce)Amazon EFS (Elastic File System)공유 가능, 여러 노드에서 동시에 접근 가능다중 노드에서 공유해야 하는 데이터 (예: 로그, ML 모델 저장소)지원RWX (ReadWrite..