핵심 명제: "도구는 Code로 구현되고, Code를 LLM이 운영하며, 최종 가치와 판단의 책임은 인간이 소유한다."
---
1. 프롬프트 요령의 한계와 판단의 공백
최근 수많은 조직이 AI 에이전트와 LLM을 실무에 도입하고 있습니다. 하지만 현장에서 마주하는 진짜 문제는 "프롬프트를 얼마나 유려하게 작성하는가"가 아닙니다.
실무의 성패를 가르는 본질은 "무엇을 기계에게 맡기고, 무엇을 사람이 끝까지 검토하며, 어디서 멈춰야 하는가"에 대한 합의가 없다는 데 있습니다.
- AI가 초안을 순식간에 만들어내지만, 그 초안의 사실성과 비즈니스 맥락을 검토하는 데 더 많은 인지 에너지가 소모됩니다.
- 자동화가 과속하면서 중간 검토 과정이 생략되고, 결국 최종 결과물에 대한 책임 경계가 흐려집니다.
- 기계에게 시키지 말아야 할 가치판단(Value Judgment)을 위임하면서 엉뚱한 결론에 도달합니다.
---
2. Fixed · Flexible · Decision 3단 인지 분담의 실제
이 문제를 해결하기 위해 우리는 실무 워크플로우를 세 가지 계층으로 엄격하게 격리해야 합니다.
`
[1. Fixed (고정)] ➔ 결정론적 순수 Code (불변식, 스키마, 린터, 2-Phase 커밋)
│
▼
[2. Flexible (유연)] ➔ 확률적 LLM 에이전트 (맥락 해석, 관계 분해, 초안 발산)
│
▼
[3. Decision (판단)] ➔ 인간 MITL (문제 정의, 가치판단, 멈춤선 판정, 출고 책임)
`
1) Fixed Layer (Code의 영역)
- 불변식 수호: 1글자도 훼손되지 않는 UTF-8 원문 바이트 보존(C05), API 스키마 검증, Exit Code 0/1 린터.
- 멱등성 보장: 몇 번을 실행해도 동일한 규칙과 제약이 유지되는 하드웨어적 안전망입니다.
2) Flexible Layer (LLM의 영역)
- 맥락적 탐색: 비정형 텍스트의 7대 관계 프레임(원인-결과, 전제-결론, 딜레마-해결) 분해.
- 다양성 발산: 사람이 미처 생각하지 못한 반례 시뮬레이션과 대안적 시나리오 제시.
3) Decision Layer (인간의 영역)
- 목적과 우선순위: "지금 우리에게 무엇이 가장 중요한 문제인가?"를 결정.
- 인간 멈춤선(User Stoplines): 불확실성이 발생하거나 가치 충돌이 일어날 때 작업을 즉시 정지시키고 대안을 심의하는 주권 행사.
---
3. 실패 모드를 조기에 발견하는 '인간 멈춤선' 선언법
숙련된 전문가는 AI에게 모든 권한을 위임하지 않습니다. 작업을 시작하기 전, 반드시 다음 3가지 멈춤선(Stopline)을 선언합니다.
1. 사실성 결핍 멈춤선: 인용 출처나 데이터 증거가 없을 경우, 추측으로 답변하지 않고 즉시 멈춰서 질문할 것.
2. 권한 및 비용 멈춤선: 예산, 외부 배포, 권한 변경 등 비가역적 영향이 있는 작업은 인간의 명시적 승인을 거칠 것.
3. 가치 딜레마 멈춤선: 상충하는 우선순위가 발생했을 때 임의로 타협하지 않고 2가지 대안과 근거를 제시하고 정지할 것.
이 멈춤선이 작동할 때, AI는 통제 불능의 블랙박스가 아니라 가장 믿음직한 실무 파트너가 됩니다.
---
4. 우리 팀의 판단 루프 진단 체크리스트
내일부터 당장 우리 팀의 AI 협업에 적용할 수 있는 4가지 질문입니다:
- [ ] Q1. 역할 분담: 우리 팀의 워크플로우에서 '코드 검증'과 'LLM 발산'과 '인간 판단'의 경계가 명확히 분리되어 있는가?
- [ ] Q2. 멈춤선 정의: AI가 혼자 판단하면 안 되는 위험 지점에 명확한 멈춤선(Stopline)이 설정되어 있는가?
- [ ] Q3. 장부 기록: AI와 협업하여 내린 주요 결정의 근거가 사후에 추적 가능하게 기록(
decision-ledger)되고 있는가? - [ ] Q4. 피드백 축적: 실패와 성공의 경험이 다음 협업 규칙으로 갱신되고 있는가?
---
사활가 고경만의 한 줄 정리:
"AI를 쓴다는 것은 생각을 기계에 넘기는 것이 아니라, 기계의 계산력 위에서 인간의 고유한 질문과 판단을 더 날카롭게 벼리는 일이다."
