노트북 앞의 연산 장치, 문서 카드와 반투명 말풍선을 연결한 구성

Edge0 연재 2: Microsoft Learn과 Apple Translation 실행 환경

2026년 9월 13일 기준으로 이 연재의 샘플은 Edge0-35B, Microsoft Learn CLI, macOS Translation 프레임워크를 사용합니다. 1편에서 정한 역할 분담에 따라 추론 서버와 Python 에이전트 호스트를 별도 터미널에서 실행합니다. 이번 글은 Edge0와 모델 설치, 스트리밍 서버 실행, 공식 문서 검색, 한국어와 영어 번역, 질문 정규화를 다룹니다. 전체 파일은 샘플 Gist의 README.md, apple_translate.swift, microsoft_expert_agent.py에서 확인할 수 있습니다. 실행 조건과 설치 순서부터 살펴보겠습니다. 첫 번째 터미널에서 서버를 시작한 뒤 검색 도구와 번역 CLI를 준비하고, 두 번째 터미널에서 에이전트를 실행할 수 있는 상태까지 구성합니다. ...

2026년 9월 14일 · 6 분 ·  rkttu
은색 노트북 위의 유리 블록과 옆에 쌓인 저장 장치로 표현한 로컬 모델 추론

Edge0 연재 1: 16GB Mac의 35B 로컬 LLM과 근거 기반 에이전트

2026년 9월 13일 기준으로 Edge0는 Apple Silicon용 MLX 백엔드와 Edge0-35B-A3B-preview 모델을 공개하고 있습니다. 저는 M2 MacBook Air 16GB에서 이 모델을 실행한 뒤 Microsoft Learn 자료를 근거로 답하는 기술 전문가 에이전트를 구성했습니다. 이 연재는 35B급 모델의 실행 조건, 검색 자료에 따른 답변 변화, 한국어 입출력 구성, 스트리밍 성능 측정, 사내 PoC로 확장할 때의 조건을 다룹니다. 전체 실행 코드는 Edge0 Microsoft Technology Expert Agent Gist에 정리했습니다. 첫 글에서는 모델을 실행한 경험부터 살펴보겠습니다. 외부 근거를 제공한 실험과 입력 자료의 길이를 줄인 결과를 비교한 뒤 나머지 연재에서 구현할 에이전트의 구조를 설명하겠습니다. ...

2026년 9월 13일 · 5 분 ·  rkttu