로컬 LLM은 언어 모델을 내 컴퓨터에서 직접 실행하는 방식이다. 자료 처리 위치를 선택할 수 있다는 장점과 함께 메모리·속도·설치·관리 조건을 살펴야 한다. 외부 전송을 줄이려는 목적과 비용을 줄이려는 목적은 필요한 점검이 다를 수 있다. 무엇을 통제하려는지 먼저 정하고 실행 프로그램과 실제 작업에서 그 목적이 충족되는지 확인한다. 1. 내 컴퓨터에서 답을 만드는 방식로컬 LLM은 내 컴퓨터에서 추론하는 언어 모델이다.로컬에서는 모델 파일과 실행 프로그램을 준비한 뒤 PC의 CPU와 GPU, 메모리로 답을 생성한다. 서비스 회사의 서버가 계산한 답을 받는 방식과 계산 위치가 다르다. 설치가 끝났다는 사실과 원하는 품질로 실행된다는 사실은 구분한다. 이미 내려받은 모델을 실행하는 것과 최신 인터넷 자료를..

ChatGPT와 Codex에서 모델을 고를 때는 작업 범위와 오류의 영향을 먼저 정한다. 모델과 추론 수준을 각각 이해하고 같은 과제로 결과·시간·사용량을 비교하는 방법을 정리한다. 같은 모델이라도 입력 자료와 연결 도구, 완료 조건이 다르면 결과도 달라질 수 있다. 모델 이름만 비교하기보다 내가 맡길 일을 한 문장으로 적고 검증 가능한 작은 과제를 준비하는 것부터 시작한다. 1. 작은 수정과 큰 판단 나누기단순 수정과 큰 설계 판단에 다른 출발점을 둔다.문구 하나를 바꾸는 일과 원인이 모호한 장애를 분석하는 일은 다르다. 작업이 얼마나 길고 불명확한지, 틀렸을 때 되돌릴 수 있는지 살핀다. 성능 이름표보다 지금 해결할 문제를 기준으로 출발점을 정한다. 작은 수정에서도 결과 확인은 필요하다. 다만 작업이..

Claude 모델을 고를 때는 가장 강한 모델을 항상 쓰기보다 작업의 난도와 오류 비용을 먼저 본다. 모델과 effort를 나누어 조절하고 재시도와 사람의 검토 시간까지 비교하는 기준을 정리한다. 복잡한 설정을 만들기 전에 정답을 확인할 작은 과제로 비교하는 편이 이해하기 쉽다. 어떤 조건에서 성공했고 어디를 사람이 다시 고쳤는지 남기면 다음 모델 선택에 쓸 근거가 생긴다. 1. 작업의 범위부터 정의하기모델의 크기보다 맡길 작업의 난도를 먼저 본다.파일 이름 변경과 큰 구조 설계는 필요한 판단의 폭이 다르다. 먼저 고칠 대상과 유지할 기능, 끝났다고 판단할 결과를 적는다. 작업을 명확히 한 뒤 그 범위를 감당하는 모델로 작은 시험을 시작한다. 파일 이름 변경처럼 범위가 분명한 일은 작은 과제로 모델을 시..