Category: Amazon Machine Learning

Claude Code를 조직에 도입하면 개인의 습관만으로는 답할 수 없는 질문이 남습니다. 자리를 비웠다 돌아오면 첫 응답이 왜 유난히 느리고 비싼지, Amazon Bedrock으로 사용하는 조직에서는 누가 얼마나 쓰는지를 어디서 확인할 수 있는지 같은 질문입니다. 이 글은 Claude Code 토큰 비용 최적화 시리즈의 2부입니다. 1부(비용 구조와 세션 습관)에서는 비용이 컨텍스트 크기에 비례하고 실제 지불 단가는 프롬프트 캐싱(prompt […]

Claude Code를 팀에 도입하고 나면 비슷한 질문들이 찾아옵니다. 짧은 한 문장의 질문만 했는데 토큰 사용량이 왜 이렇게 높은지, 하루가 끝날 때쯤이면 세션이 왜 이렇게 무거워져 있는지 같은 의문입니다. Claude Code는 메시지를 보낼 때마다 시스템 프롬프트, 프로젝트 컨텍스트, 지금까지의 전체 대화 이력을 다시 전송하고, 비용은 그 컨텍스트 크기에 비례합니다. 그리고 실제로 지불하는 토큰 단가는 프롬프트 캐싱(prompt […]

젭(ZEP) 소개 젭은 온라인 메타버스 플랫폼 ZEP을 운영하는 스타트업입니다. ZEP은 사용자들이 온라인 공간에서도 자연스럽게 만나고 소통할 수 있는 경험을 제공하며, 오프라인의 물리적 제약을 넘어 다양한 활동이 이루어질 수 있는 환경을 만들어가고 있습니다. ZEP은 400만 MAU 규모의 서비스 환경에서 WebRTC 기술을 내재화해 안정적인 동시 스트리밍 경험을 제공하고 있으며, 대규모 동시 접속과 상호작용을 처리하는 게임 서버, 웹 […]

본 글은 AWS Summit Seoul 세션 “200개국 삼성 스마트 TV 앱 데이터를 자연어로 묻다: 에이전틱 AI on AWS”의 내용을 기반으로 작성되었습니다. 개요 생성형 AI는 실험적 프로토타입에서 벗어나, 이제 프로덕션 환경에서 대규모로, 실제 성능 제약 속에서 안정적으로 동작할 것을 요구받고 있습니다. Strands Agents SDK, LangGraph, CrewAI, LlamaIndex 같은 오픈소스 프레임워크의 등장으로 누구나 하루 만에 인상적인 에이전트 […]

본 블로그는 LG CNS 와 AWS 가 공동 작성하였습니다. 품질보증 담당자가 QMS, LIMS, SAP, EDMS를 오가며 자료를 모으고 APQR 리포트 한 건을 완성하는 데는 약 12시간이 걸렸습니다. 종근당과 LG CNS는 Agentic AI로 이 시간을 약 1시간으로 줄였습니다. LG CNS는 AWS 프리미어 파트너로, 다수의 대규모 엔터프라이즈 고객을 대상으로 SM(운영 유지보수)/AM(현대화)/Migration 서비스를 제공하고 있습니다. 이 글은 1941년 […]

들어가며 수요 예측 시스템을 도입해 본 기업이라면 익숙한 패턴이 있습니다. 도입 첫해, 컨설턴트와 함께 수개월에 걸쳐 데이터를 정비하고 모델과 파라미터를 최적화합니다. 시스템은 그 시점의 비즈니스를 잘 반영하여 정확하게 예측합니다. 문제는 신규 채널에 진출하고, 프로모션 전략이 바뀌고, 신제품이 출시되고, 주력 상품의 라이프사이클이 끝날 때에 발생합니다. 비즈니스는 계속 변화하는데, 시스템은 구축 시점의 스냅샷에 멈춰 있습니다. 시스템의 예측을 […]

Bedrock Mantle 기반 GPT‑5.6 연동부터 cached Web Search, AWS PrivateLink 전용망, 관측성과 비용 운영까지 생성형 AI 코딩 에이전트를 엔터프라이즈 기업 환경에 도입할 때는 모델 성능만큼 인증, 데이터 경로, 네트워크 격리, 비용 배분과 감사 가능성이 중요합니다. Codex는 이제 ChatGPT 데스크톱 앱의 Codex 보기, Codex CLI, IDE 확장, Codex SDK와 codex exec 같은 로컬 워크플로에서 Amazon Bedrock을 […]

도입: 코딩 어시스턴트 시대의 새로운 데이터 유출 경로 AI 코딩 어시스턴트(GitHub Copilot, OpenAI Codex, Claude Code)의 도입이 가속화되면서, 개발자들은 자연어 프롬프트를 통해 코드 생성, 디버깅, 리팩토링을 일상적으로 수행하고 있습니다. 그러나 이 과정에서 개발자가 프롬프트에 포함시키는 정보, 즉 API 키, 데이터베이스 비밀번호, 고객 개인정보(PII), 사내 미공개 전략 등이 외부 LLM 서비스로 전송되는 새로운 데이터 유출 경로가 […]

많은 팀이 Claude Code로 자체 에이전트를 만들어 사용하고 있습니다. 예를 들어 데이터 분석 팀에서는 Skill로 리포트 형식을 표준화하고, MCP(Model Context Protocol) 서버로 사내 데이터베이스를 연결하고, 웹 검색으로 시장 동향까지 반영해 매출 리포트 작성을 자동화합니다. 이렇게 만든 에이전트는 개인 도구를 넘어 팀 전체가 활용할 수 있는 자산이 됩니다. 그러나 로컬에서 검증한 에이전트를 조직의 서비스로 확장하는 일은 […]

GS Neotek은 AWS 프리미어 파트너로, 다수의 고객에게 클라우드 마이그레이션·현대화·운영 서비스를 제공하며 생성형 AI 도입을 지원하고 있습니다. 이 글은 여러 조직에 코딩 어시스턴트 도입을 지원하며 축적한 경험을 바탕으로, LLM Gateway 없이도 사용자별 비용을 통제하는 경량 아키텍처를 정리한 것입니다. Amazon Bedrock을 통해 Claude Code와 같은 코딩 어시스턴트를 사용하기 위한 기본 조건은 의외로 단순합니다. 모델 호출을 위한 인증 […]