최근 LLM이 핫하다못해 뜨거울 지경입니다. 어느 제품을 봐도 LLM을 끼얹고 “with AI!” 이런 딱지를 붙이고, 원래 있던 도메인에 AI를 붙여 무수한 제품이 나오고 있습니다. 그러면서 서비스의 다양한 부분, 깊은 로직에 LLM이 많이 사용되는데요. 이 때, 가장 구성요소 중 가장 핵심적인 건 LLM에 입력으로 들어갈 프롬프트입니다. LLM이 ...

개발자라면 쓸 수 밖에 없는 서비스가 몇 있는데요, 스택이나 관심사마다 갑론을박이 있을 수 있지만 그 중에서도 빠지지 않을 서비스라면 Github이 있습니다. 공개 프로젝트를 찾아보기도 하고, 직접 메인테이너로 활동할 수도 있고, 개인적인 블로그 운영을 할 수도 있고, 회사에서도 사용하기도 하는 서비스라 IT 관련된 섹터에서는 피하기 어려운 서비스인데...

여러분이 지금 보고 있는 블로그는 지킬 + Github Pages 를 사용하고 있는데요, 새 포스팅을 .md파일로 작성하고 Repo에 Push를 하고 나면 Github Action Workflow가 .md 파일을 읽어 정적 리소스로 빌드하고 퍼블리시를 해 줍니다. 한달 전쯤이었을까요? 어느 때와 같이 블로그 글을 추가하고, 포스팅을 하기 위해 Rep...

스케줄링 정리의 마지막입니다. Taint/Toleration은 CKA에서도 많이 다루는 주제이고, 실제로 많은 K8s 작동에서 사용되는 기능이라 지나가며 보셨을 것 같아요. 일단 사전에서 각 단어의 정의를 찾아보았습니다. Taint: 더럽히다, 오염시키다 Toleration: 용인, 관용 (동사형 Tolerate: 용인하다, 참다, 견디다...

취준 시절, 프로그래머스나 백준을 열심히 풀었는데요. 공부해야 한다는 부담감이나 취업을 해야한다는 불안감 속에서 몇 안되는 긍정적인 기분을 느낀게, 연습하던 문제에서 바로 테스트케이스를 통과하거나 다른 사람의 엄청난 문제 풀이를 신기하듯 볼 때였는데요. 그래서 나중에 시간나면 이런 문제좀 풀어봐야지… 했던게 취업하고 정신없다는 핑계로 잊혀져 있었네요....

Karpenter를 구성하면서, Pod 스케줄링에 대한 이해가 부족하다는 것을 느껴서 정리중인 Pod 스케줄링 포스팅 중 세번째 인 Pod Topology Constraints 써보기 입니다. 저번 포스팅에서는 단순히 공식 문서를 토대로 필드 내 값들을 분석해보았는데요. 이번에는 간단하게 올려본 GKE 클러스터에 간단한 샘플 앱을 올려서 정말로 제약조...

Karpenter를 구성하면서, Pod 스케줄링에 대한 이해가 부족하다는 것을 느껴서 정리중인 Pod 스케줄링 포스팅 중 두번째인 Pod Topology Constraints입니다. 이게 실제로 사용되는건 직접 몇 번 보질 못해 공식 문서를 토대로 설정 방법만 정리해봤습니다. Pod Topology Constraints? 공식 문서에서는 Pod T...

최근 Karpenter를 테스트 하고 있는데요. 테스트 과정 중 Karpenter가 분명히 노드 용량이 부족하지 않음에도 계속 새 노드를 띄우려 하더라구요. 카펜터 설정이 잘못된건가, 뭘 잘못 설치했나 하고 알아보던 중 원래 있던 노드에는 스케줄링이 될 수 없어 계속 그런 동작을 시도하더라구요. 그 뒤로, 카펜터 Pod을 특정 노드에서만 띄우도록 설정...

자격증을 따야 해 저는 DevOps라는 타이틀을 달고 업무를 진행중이고, 회사에서 주로 AWS를 사용하고 있습니다. 아직 본격적으로 일을 시작한지 만 2년밖에 되지 않은 상황이라, 여길봐도 저길봐도 아직 배울게 넘쳐납니다. DevOps 롤의 기술 스택을 를 저 나름대로 쪼개 아키텍처(및 인프라), CI/CD, IaC 로 나누어 보고 있는데, CI/C...

서버를 모니터링한다던가 어떤 메트릭을 보아야 한다 하면 가장 먼저 접할 수 있는게 Prometheus인데요. 저는 프로메테우스를 대학교때 처음 알게 되었습니다. 인턴 과제로 서버의 상태를 잘 볼 수 있는 스택 구성 하는 과정 중 메트릭을 보는것은 Prometheus를 사용하게 되었습니다. 메트릭 관련 가장 대표적인 프로젝트었고, 그렇기에 관련 문서도 ...