- 목록
AI 기술, 특히 대형 언어 모델(LLM)은 방대한 데이터를 기반으로 다양한 작업을 수행하며, 여러 분야에서 전문가를 대체할 수 있을지에 대한 논의가 활발합니다. 그러나 자연주의적 의사결정(NDM) 연구에서 인간 전문가의 의사결정 과정을 살펴보면, LLM이 전문가를 대체하기에는 여러 가지 한계가 분명히 드러납니다. 특히 RPD 모델(Recognition-Primed Decision Model)을 통해 인간 전문가의 직관과 경험이 어떻게 작용하는지를 이해하면, LLM의 한계를 더 명확하게 볼 수 있습니다.
1. NDM 연구에서의 전문가의 의사결정
- RPD 모델은 전문가가 과거 경험을 바탕으로 패턴을 인식하고, 그에 따라 즉각적으로 결정을 내리는 과정을 설명합니다. 이 모델에서, 전문가는 복잡한 상황에서도 빠르게 상황을 파악하고, 여러 대안을 직관적으로 시뮬레이션하며 최선의 선택을 합니다.
- 상황 인식은 전문가가 환경에서 중요한 정보를 신속하게 인지하고, 그 맥락을 이해하여 즉각적인 결정을 내리는 능력을 말합니다. 이는 시간이 부족한 상황에서도 빠르게 의사결정을 내려야 하는 전문가에게 필수적인 능력입니다.
NDM 연구는 고위험, 고불확실성 상황에서의 전문가의 의사결정을 다룹니다. 이 연구는 전문가의 직관, 상황 인식, 경험이 어떻게 결정을 이끌어내는지를 설명하며, 이러한 의사결정 과정을 잘 보여주는 것이 RPD 모델입니다.
2. LLM의 패턴 인식 vs. 실제 전문가의 직관적 판단
LLM은 방대한 데이터에서 패턴을 인식하고, 이를 기반으로 결정을 도출할 수 있습니다. 그러나 전문가의 직관적 판단과는 본질적으로 다릅니다. LLM은 수많은 데이터를 처리하는 데 강점을 가지고 있지만, 다음과 같은 한계가 있습니다:
- 패턴 인식의 차이: LLM도 패턴을 인식할 수 있지만, 이는 과거 데이터를 기반으로 학습된 패턴에 국한됩니다. 반면, RPD 모델에 따르면 전문가들은 과거의 경험에서 패턴을 직관적으로 인식하며, 새로운 문제에도 적응할 수 있습니다. 예측 불가능한 상황이나 데이터가 부족한 상황에서 인간 전문가의 직관이 결정적으로 작용합니다/
- 시뮬레이션과 평가 능력: RPD 모델에서 전문가들은 다양한 행동 대안을 머릿속에서 시뮬레이션하며, 각 대안의 결과를 평가하여 최적의 선택을 합니다. LLM은 주어진 데이터를 기반으로 예측을 할 수 있지만, 실시간으로 상황을 시뮬레이션하고 평가하는 능력에서는 인간 전문가의 직관과 경험을 따라가기 어렵습니다.

3. 전문가의 경험과 암묵지 vs. LLM의 데이터 기반 학습
RPD 모델은 전문가들이 경험을 통해 쌓은 암묵적인 지식이 의사결정 과정에서 중요한 역할을 한다고 설명합니다. 이 암묵지는 명시적으로 기록되거나 학습되지 않은, 오랜 시간에 걸쳐 형성된 지식입니다.
- 암묵지의 역할: 전문가들은 자신이 쌓아온 경험을 바탕으로 빠르고 직관적인 결정을 내립니다. 이러한 암묵지(Tacit Knowledge)는 인간 전문가에게만 있는 고유한 자산으로, 데이터만으로는 학습하기 어려운 영역입니다. 반면, LLM은 주어진 데이터에서 명시적으로 기록된 정보만을 학습하기 때문에 이러한 암묵적인 판단을 내리는 능력에는 한계가 있습니다.
- LLM의 데이터 기반 학습: LLM은 패턴과 데이터를 기반으로 학습하며, 정형화된 문제를 해결하는 데 강점을 보입니다. 그러나 LLM은 인간 전문가가 다양한 경험에서 얻는 직관적 판단이나 상황 인식을 학습하거나 모방하기는 어렵습니다.
4. LLM이 전문가를 대체할 수 있는 조건
그럼에도 불구하고, LLM이 전문가의 일부 역할을 대체하거나 보완할 수 있는 특정 조건이 있습니다. 특히 명확하게 정의된 작업이나 규칙적인 패턴을 따르는 환경에서는 LLM이 더 효과적일 수 있습니다.
- 구조화된 환경: LLM은 명확한 규칙과 패턴을 따르는 작업에서 전문가를 대체할 가능성이 큽니다. 예를 들어, 법률 문서 분석, 의료 진단의 일부, 또는 금융 데이터 분석에서는 LLM이 인간 전문가보다 더 빠르고 정확하게 데이터를 처리할 수 있습니다.
- 도메인 특화 학습: LLM이 특정 도메인에 특화된 데이터를 학습하고, 그 도메인 내에서 발생하는 문제에 대한 솔루션을 제공할 수 있다면, 인간 전문가의 보조 도구로서 훌륭하게 작동할 수 있습니다. 이를 통해 전문가의 의사결정 속도를 높이고, 실수를 줄이는 역할을 할 수 있습니다.
5. LLM이 전문가를 대체하기 어려운 이유
LLM이 전문가를 대체하는 데 있어 여전히 중대한 한계가 존재합니다. 특히 RPD 모델을 통해 강조된 전문가의 직관과 경험을 LLM이 모방하기는 매우 어렵습니다.
- 예측 불가능한 상황에서의 한계: LLM은 과거 데이터를 기반으로 작동하기 때문에, 비정형적이거나 예측 불가능한 상황에서는 적절한 결정을 내리기 어렵습니다. 반면, 전문가들은 경험을 바탕으로 유연하게 대응할 수 있습니다.
- 윤리적 판단과 책임: 전문가들은 윤리적 고려와 책임을 기반으로 의사결정을 내립니다. LLM은 결과에 대한 책임을 질 수 없으며, 윤리적 측면을 고려한 의사결정을 내리는 데 한계가 있습니다.
6. 결론: LLM은 전문가를 대체할 수 있는가?
LLM은 구조화된 환경이나 정형화된 작업에서 전문가의 일부 역할을 대체할 수 있습니다. 그러나 RPD 모델에서 설명하는 인간 전문가의 직관, 경험, 상황 인식 능력은 LLM이 대체하기 어렵습니다. 특히 비정형적 상황이나 윤리적 판단이 요구되는 환경에서는 인간 전문가의 역할이 필수적입니다. 따라서 LLM은 전문가를 완전히 대체하기보다는, 의사결정 지원 도구로 활용되며 전문가의 의사결정을 보완하는 방향으로 발전할 가능성이 큽니다.
< 참고자료 >
- NDM에서의 전문성
- NDM은 실험실이 아닌, 주로 불확실하고 복잡한 실제 현실에서 전문가들이 어떻게 의사결정을 내리는지를 연구합니다. 전문가들이 특정한 패턴을 인식하거나 직관적으로 의사결정을 내리는 과정은 매우 중요하며, 이는 단순한 지식의 축적만으로 설명될 수 없습니다.
- 참고 연구: Klein, G. (1998). Sources of Power: How People Make Decisions. MIT Press.
이 책에서 저자는 전문가들이 상황 인식(situation awareness), 직관 및 경험에 기초한 암묵적 지식을 통해 빠르고 정확한 결정을 내릴 수 있음을 설명하고 있습니다.
- LLM과 전문가의 차이
- LLM은 구조화된 데이터를 학습하여 의사결정을 돕는 데 유용하지만, 전문가는 직관과 경험을 바탕으로 예측 불가능한 상황에서 문제를 해결할 수 있습니다. NDM 이론에 따르면, 인간 전문가의 결정은 데이터 패턴 인식에만 의존하지 않고, 실제 현장에서의 경험을 바탕으로 하는 직관과 암묵적인 지식이 포함되어 있습니다
- 참고 연구: Endsley, M. R. (1995). Toward a Theory of Situation Awareness in Dynamic Systems. Human Factors, 37(1), 32-64.
이 논문에서는 전문가의 상황 인식 능력이 중요한 요소로, 실시간으로 상황을 해석하고 적응하는 능력이 강조됩니다. LLM은 이러한 능력을 완전히 모방하기 어렵습니다.
- LLM이 전문가를 대체하기 어려운 이유
- LLM은 데이터를 기반으로 학습한 모델로, 구조화된 환경에서는 효과적으로 작동할 수 있지만, 비정형적이고 예측 불가능한 상황에서는 창의적이고 직관적인 문제 해결이 어려운 한계를 보입니다. 특히, LLM은 윤리적 판단이나 책임성에 대한 기준이 부족하기 때문에, 중요한 의사결정 과정에서는 인간 전문가의 개입이 필수적입니다.
- 참고 연구: Dreyfus, H. L., & Dreyfus, S. E. (1986). Mind Over Machine: The Power of Human Intuition and Expertise in the Era of the Computer. Free Press.
이 책에서는 인간의 직관적 능력과 경험이 컴퓨터가 수행할 수 없는 중요한 요소라고 설명하며, LLM과 같은 AI 모델이 완전한 전문가의 대체가 어려운 이유를 논의하고 있습니다.
작성: 해경(고경만), Insightive NDM Companion (GPTs), Wolfram.