AI 2. 작업마다 AI 모델과 추론도를 미리 정해 두기: 내가 쓰는 배분 기준

요즘 제 프로젝트는 시작할 때 작업 목록부터 만듭니다. 그리고 작업마다 어느 모델에게, 어느 정도의 추론도로 맡길지를 같이 적습니다. 이 블로그도 그렇게 시작했고, 직접 만든 캘린더 서버 저장소의 작업표는 이렇게 생겼습니다.

원격 PC 수리 사이트 저장소에는 기준을 문장으로 적어 두었습니다.

• 돈, 보안, 법적 문구가 걸리면 가장 좋은 모델. 결제 장부, 관리자 보안 검토, 개인정보처리방침 같은 것.
• 화면 완성도가 중요한 곳은 그 다음 모델.
• 정해진 스펙대로 붙이는 코딩과 서버 설정은 중간 모델.
• 문구 다듬기, 단순 변환, 체크리스트는 가장 가벼운 모델.

캘린더 서버에서 CalDAV 핵심과 반복 일정 전개를 가장 높게 잡은 이유는 틀렸을 때 티가 안 나기 때문입니다. 반복 일정의 예외 날짜나 시간대 처리가 틀리면 휴대폰 달력에 일정이 조용히 하나 빠집니다. 반대로 골격 만들기나 백업 스크립트는 틀리면 바로 보이니 가벼운 모델로 충분합니다.

토큰을 아끼려고 같이 정한 규칙도 있습니다.

• 세션 하나에 작업 하나. 끝나면 새 세션을 엽니다.
• 세션을 열 때는 작업 목록 전체가 아니라 그 작업 칸만 붙여 넣습니다.
• 표의 모델로 시작하고, 막히면 그때 한 단계 올립니다.
• 작업이 끝나면 결과를 작업 문서에 적어서, 다음 세션은 그 문서만 읽으면 되게 합니다.

솔직히 다 지키지는 못합니다. 이 블로그만 해도 골격 작업 다음의 사이트 뼈대(표에는 중간 모델)를 같은 세션에서 가장 높은 모델로 이어서 해 버렸고, 테마부터 배포까지도 한 세션에서 이어 갔습니다. 흐름이 좋을 때 끊기가 아깝더군요. 대신 작업 문서에 “이 작업은 표와 다른 모델로 했다” 고 남겨 두었습니다.

하나 덧붙이면, 추론도는 대화 도중에 AI 가 스스로 바꿀 수 없어서 제가 앱에서 직접 맞춰야 합니다. 그래서 작업 시작 보고에 “이 작업은 추론도 xhigh 인데 지금은 high 입니다” 같은 줄을 넣게 해 두었습니다.

표를 만들어 두는 진짜 이득은 모델을 고르는 순간이 아니라 작업을 나누는 순간에 있었습니다. 작업마다 “이건 어려운가” 를 따져 보다 보면, 어려운 작업이 너무 크면 쪼개게 됩니다.