토큰 비용 40% 절감, 속도는 2배! 코딩 AI '마키' 혁신적인 효율성 자랑
단 3일 만에 전 세계 개발자 커뮤니티가 들썩였습니다. OpenAI의 GPT-4, Anthropic의 Claude 3 Opus 등 강력한 AI 모델들이 코딩 작업을 돕고 있지만, 치명적인 단점이 하나 있었으니 바로 '비싼 구독료'와 '느린 속도'였습니다. 특히 짧은 시간 안에 많은 코드를 분석하고 수정해야 하는 개발자들에게는 이 토큰 제한이 큰 스트레스였죠. 그런데 여기, 기존 AI 코딩 에이전트의 한계를 뛰어넘는 새로운 솔루션이 등장했습니다. 바로 Rust 기반의 경량 TUI(텍스트 기반 사용자 인터페이스) 코딩 에이전트 '마키(Maki)'입니다. 과연 마키는 무엇이길래 개발자들의 마음을 사로잡고 있을까요? 마키가 어떻게 토큰 비용을 40%나 줄이고, 속도는 2배나 빠르게 만들 수 있는지, 그 비밀을 속속들이 파헤쳐 보겠습니다.
기존 AI 코딩 에이전트, 뭐가 문제였을까?
우리가 흔히 사용하는 AI 코딩 도구들은 방대한 양의 코드를 이해하고 생성하기 위해 '토큰'이라는 단위를 사용합니다. 텍스트를 작은 조각으로 나누어 AI가 처리 가능한 형태로 만드는 것이죠. 하지만 코드의 양이 많아지면 토큰 수도 기하급수적으로 늘어나고, 이는 곧 높은 비용으로 직결됩니다. 또한, AI가 모든 정보를 한 번에 처리하려다 보니 응답 속도가 느려지는 문제도 발생했습니다. 개발자들은 이 비싼 비용과 느린 속도 때문에 AI의 잠재력을 온전히 활용하기 어려웠습니다. 마치 고급 레스토랑에서 먹고 싶은 메뉴는 많지만, 지갑 사정 때문에 몇 가지만 골라야 하는 상황과 같았죠. 이런 불편함 속에서 개발자들은 더 효율적이고 경제적인 AI 코딩 도구를 갈망하고 있었습니다.
'마키'는 무엇이길래? 혁신적인 효율성의 비밀
마키는 바로 이러한 문제점을 해결하기 위해 탄생했습니다. 개발자 tontinton은 기존 AI 코딩 에이전트의 토큰 제한과 높은 비용에 좌절감을 느끼고, 직접 '마키'를 만들었습니다. 마키의 가장 큰 특징은 '효율성'입니다. 먼저, '컨텍스트 효율성'을 극대화했습니다. 마키는 15가지 프로그래밍 언어를 파싱하여 코드의 구조를 파악하는 '인덱스' 기능을 사용합니다. 모든 코드를 텍스트 그대로 읽는 것이 아니라, import 문, 타입 정의, 함수 시그니처 등 핵심적인 구조만 추출하여 AI에게 전달하는 방식입니다. 마치 책 전체를 읽지 않고 목차와 각 장의 요약만 봐도 전체 내용을 파악하는 것과 비슷하죠. 이 과정에서 AI는 224개의 토큰을 절약할 수 있으며, 결과적으로 165개의 토큰을 효율적으로 관리할 수 있게 됩니다. 개발자들의 실제 사용 패턴을 분석해보니, 코드 분석이 전체 토큰 사용량의 약 65%를 차지한다는 점을 고려하면, 이 '인덱스' 기능은 엄청난 비용 절감 효과를 가져옵니다.
더불어 '코드 실행' 기능도 독특합니다. 마키는 샌드박스 환경에서 파이썬 인터프리터를 실행하여 시간과 메모리 제한을 둡니다. AI가 코드를 실행한 결과, 최종적으로 필요한 정보만을 추출하여 사용자에게 전달하며, 중간 데이터는 사용자의 토큰 컨텍스트에 포함되지 않습니다. 이는 마치 보고서를 작성할 때, 여러 자료를 참고하되 최종 보고서에는 핵심 내용만 담는 것과 같습니다. 또한, AI 모델은 각 작업의 복잡성에 따라 '약함', '중간', '강함' 중 적절한 등급을 선택하도록 설계되었습니다. 간단한 검색 작업에는 가벼운 모델을, 복잡한 아키텍처 설계에는 강력한 모델을 사용하는 방식으로 효율성을 높였습니다. 이러한 '린 시스템 프롬프트'와 '작업 분배' 전략은 마키가 더 적은 토큰으로도 뛰어난 성능을 발휘할 수 있게 하는 핵심 동력입니다.
실제로 어떻게 쓰이는 걸까? 개발자의 삶을 바꾸는 마키
마키의 또 다른 매력은 사용자 경험에 있습니다. 마키는 JavaScript 런타임이나 React와 같은 프레임워크 없이 순수 Rust로 개발된 네이티브 바이너리입니다. 60 FPS를 지원하는 빠르고 부드러운 TUI 환경은 개발자들에게 시각적인 만족감까지 선사합니다. 심지어 입력 지연을 방지하기 위해 구문 강조는 백그라운드 스레드 풀에서 처리되며, 작은 노트북 화면에서도 편안하게 사용할 수 있도록 설계되었습니다. '투명성' 또한 마키의 중요한 철학입니다. 현재 사용 중인 토큰 수, 예상 비용, 그리고 사용 중인 AI 모델 정보까지 모두 상태 표시줄에 항상 표시됩니다. 각 하위 에이전트별로 별도의 채팅 창을 제공하여 사용자가 원하는 정보에 쉽게 접근할 수 있으며, Ctrl-N/P 키를 이용해 창 전환도 자유롭습니다. Ctrl-F 키로는 빠른 검색 기능도 지원합니다.
마키는 개발자의 실질적인 작업 흐름을 고려한 다양한 기능들을 제공합니다. `/btw` 명령어를 사용하면 현재 세션에 영향을 주지 않고 별도의 질의를 할 수 있으며, `!` 명령어로 쉘 명령어를 실행하고 `!!`로 조용히 실행하는 것도 가능합니다. 마키는 Bash 명령어를 트리-시터(Tree-sitter)로 파싱하여 잠재적으로 위험한 명령어를 미리 감지합니다. 예를 들어, `git diff && rm -rf /`와 같은 코드를 만나면 `git` 명령어와 `rm` 명령어를 모두 인지하여 사용자에게 경고를 보낼 수 있습니다. 이는 일반적인 AI 에이전트가 단순히 텍스트로만 명령어를 인식하는 것과는 차별화되는 부분입니다. 또한, 웹 요청 시 SSRF(Server-Side Request Forgery) 공격을 방지하는 등 보안에도 신경 썼습니다.
마키는 장기적인 협업을 위한 '세션' 및 '메모리' 기능도 지원합니다. 사용자가 마키에게 특정 내용을 기억하도록 지시하면, 마키는 이를 기억하고 향후 작업에 활용합니다. 때로는 마키 스스로 중요한 정보를 파악하여 기억하기도 합니다. '플랜 모드'를 사용하면 에이전트가 읽기 전용으로만 작동하도록 제한할 수 있어, 실수로 코드를 변경하는 것을 방지할 수 있습니다. MCP(Multi-agent Communication Protocol) 서버를 통해 다른 서비스와 연동하는 것도 가능하며, 26가지 테마를 지원하고 이미지 붙여넣기 기능까지 갖추고 있습니다. `--print` 옵션을 사용하면 Claude Code와 호환되는 형식으로 헤드리스 출력을 생성할 수도 있어, 다양한 개발 환경에서 유연하게 활용될 수 있습니다.
AI 코딩, 이제 '마키'와 함께 효율적으로
마키의 '인덱스' 기능은 단순히 코드를 덜 읽는 것을 넘어, 더 깊이 있고 정확한 이해를 가능하게 합니다. 예를 들어, Rust의 `main.rs` 파일이 있다고 가정해 봅시다. 일반적인 AI는 이 파일 전체를 읽어 29줄의 코드를 분석해야 합니다. 하지만 마키의 '인덱스' 기능은 Tree-sitter를 통해 코드를 파싱하여, import 문, 타입 정의, 함수 시그니처 등 핵심적인 구조만 추출합니다. 그 결과, 29줄의 코드가 단 13줄로 압축되어 AI에게 전달됩니다. 이는 55%의 정보량 감소를 의미하며, AI가 핵심에 집중할 수 있도록 돕습니다. 마치 수천 페이지의 보고서 대신, 잘 정리된 요약본과 핵심 그래프 몇 개만으로 내용을 파악하는 것과 같습니다.
'코드 실행' 기능 또한 혁신적입니다. AI가 코드 실행을 위해 작성한 스크립트는 샌드박스 환경에서 실행되며, 그 결과로 나오는 `print()` 출력값만이 사용자의 컨텍스트로 전달됩니다. 예를 들어, `Cargo.toml` 파일과 `cargo metadata` 명령어를 통해 의존성을 분석하는 작업이 있다고 가정해 봅시다. AI는 `asyncio.gather`를 사용하여 파일 읽기와 쉘 명령어 실행을 동시에 수행합니다. 이후, 파싱된 메타데이터와 설정 파일에서 사용되지 않는 의존성을 찾아내고, 그 목록만 사용자에게 보여줍니다. 이 과정에서 약 18,000 토큰이 사용될 수 있었던 정보가 단 40 토큰으로 압축되어 전달됩니다. 이는 약 450배의 토큰 절감 효과를 가져오는 놀라운 결과입니다.
마키는 OpenAI, Anthropic, Ollama, Z.AI 등 다양한 AI 모델을 지원합니다. API 키를 환경 변수로 설정하거나 `maki auth login` 명령어를 통해 OAuth 인증을 거치면 손쉽게 사용할 수 있습니다. OpenAI API와 호환되는 모든 모델과 연동 가능하며, 짧은 프로바이더 스크립트만 작성하면 마키의 강력한 기능을 활용할 수 있습니다. OpenAI OAuth 예제도 포함되어 있어 사용자가 쉽게 시작할 수 있도록 돕습니다. 마키는 tontinton에 의해 개발되었으며, 현재 활발하게 발전하고 있는 프로젝트입니다. 비용 절감, 속도 향상, 뛰어난 사용자 경험까지 갖춘 마키는 앞으로 AI 코딩 도구의 새로운 기준을 제시할 것으로 기대됩니다. 더 이상 비싼 비용과 느린 속도 때문에 AI 코딩의 혜택을 망설이지 마세요. 이제 마키와 함께라면, 효율적인 코딩의 세계를 경험할 수 있을 것입니다.
AI 코딩 에이전트 시장은 끊임없이 진화하고 있으며, 마키는 그 선두에 서서 개발자들에게 실질적인 가치를 제공하고 있습니다. 토큰 효율성을 극대화한 '인덱스' 기능과 샌드박스 환경에서의 '코드 실행' 기능은 기존 AI 코딩 도구들의 고질적인 문제점을 해결하는 동시에, 개발자들의 작업 생산성을 혁신적으로 향상시킬 잠재력을 보여줍니다. 무료 오픈소스 도구임에도 불구하고, 강력한 기능과 뛰어난 사용자 경험을 제공한다는 점은 많은 개발자들에게 매력적인 선택지가 될 것입니다. 물론, 마키 역시 아직 발전 중인 프로젝트이기에 지속적인 업데이트와 개선이 필요하겠지만, 이미 보여준 성과는 분명합니다. 앞으로 마키가 AI 코딩 에이전트 시장에 어떤 새로운 바람을 불러일으킬지 귀추가 주목됩니다. 개발자라면 한 번쯤 마키를 직접 사용해보고, 그 놀라운 효율성을 경험해 보시길 적극 권장합니다.
원문 참고: https://maki.sh/
댓글 쓰기