단순 프롬프트를 넘어: 복잡한 실무 문제 해결을 위한 AI PM

생성형 AI를 비롯한 인공지능 기술이 발전하면서 다양한 업무에 AI를 활용하려는 시도가 늘고 있습니다. 하지만 단일한 AI 모델에 단순 지시만으로는 실제 현업에서 마주하는 복잡한 문제들을 완벽히 해결하기는 어렵습니다. 이러한 한계를 극복하고 AI를 실무에 효과적으로 적용하기 위해서는 사람과 여러 AI가 유기적으로 협업하는 AI 프로젝트 매니지먼트(AI PM)가 중요한데요. 본 글에서는 AI PM이란 무엇이며, 왜 필요한지, 그리고 실무에서 어떻게 구현할 수 있는지를 논리적으로 살펴보겠습니다.

AI Project Management란?

AI 프로젝트 매니지먼트(AI PM)는 여러 AI 도구와 사람이 협업하는 구조를 설계하고 관리하는 것을 뜻합니다. 쉽게 말해 각기 다른 AI 모델들을 서로 연계하여 하나의 목표를 향해 일하도록 조율하는 과정입니다. 각 AI를 오케스트라의 연주자에 비유한다면, AI PM은 지휘자 역할을 맡아 다양한 AI 모델과 시스템이 조화를 이루게 하는 일련의 관리 활동이라고 할 수 있습니다​

이 때, 필요에 따라 인간 전문가가 중간에 투입되어 AI의 결과를 검증하거나 추가 지침을 제공함으로써 AI와 사람의 협업 체계를 구축하는 것도 AI PM의 범주에 포함됩니다.

AI PM은 단순히 프롬프트 엔지니어링으로 AI의 좋은 답변을 이끌어내는 수준을 넘어선 개념입니다. 프롬프트 엔지니어링이 개별 AI 모델에게 명령을 잘 설계하는 기술이라면, AI PM은 다수의 AI 모델과 툴을 한데 묶어 복잡한 업무를 해결하도록 만드는 전략적 관리에 가깝습니다. 실제 전문가들도 “프롬프트 엔지니어링은 비교적 단순하고 위험이 낮은 작업이지만, 다중 AI 통합(오케스트레이션)은 더 높은 복잡도와 통합 관리 능력을 요구한다”라고 지적합니다​

요컨대 AI PM은 AI 지휘 및 통합 관리라고 볼 수 있으며, 이를 통해 개별 AI 도구들이 단독으로는 할 수 없는 더 큰 가치의 업무를 수행하도록 합니다.

왜 AI PM이 필요한가?

첫째, 현실 세계의 복잡한 문제는 한 번의 AI 응답만으로 해결되지 않는 경우가 많습니다. 예를 들어 대형 언어 모델(LLM)인 ChatGPT 같은 AI에게 한꺼번에 복잡한 지시를 내리면, 모델이 일부 작업을 놓치거나 부정확하게 수행하는 경우가 흔합니다​

따라서 문제를 여러 하위 작업으로 분해하고 그 단계별로 AI를 활용하는 접근이 필요합니다. 이렇게 해야 AI의 강점을 살리면서도 각 단계의 품질을 관리할 수 있는데, 이러한 다단계 활용 전략을 총괄하는 것이 바로 AI PM의 역할입니다.

둘째, 하나의 AI 모델로 모든 업무를 해결할 수 없기 때문입니다. AI마다 잘하는 분야와 한계가 있기 때문에, 실무에서는 여러 종류의 AI 챗봇/에이전트를 조합하여 사용해야 할 때가 많습니다. 단일한 '만능 AI'를 찾기보다는 각 기능에 특화된 모델들을 적재적소에 활용하고 이들의 결과를 취합하여 최종 솔루션을 얻는 편이 더 효율적입니다​.

실제로, 기업들이 AI를 도입하는 전략도 전문화된 각 모델들을 API로 연결하고 데이터 흐름을 조정하여 업무 프로세스를 최적화하는 방향으로 변화하고 있습니다​. 이런 AI 간 협업 체계를 만들기 위해서라도 AI PM은 필수적입니다.

셋째, 현재의 AI는 뛰어나지만 완벽하지는 않으므로 인간의 개입과 피드백이 필요합니다. 최신 생성형 AI가 높은 수준의 답변을 제공한다고 해도, 사실상 80점 정도의 완성도에 그치는 경우가 많고 종종 그럴듯하지만 잘못된 정보(환각)를 내놓기도 합니다. 따라서 인간이 중간 검증자나 감독자로서 AI 출력물을 확인하고 보완하는 절차가 중요합니다​.

AI PM 체계에서는 이러한 사람의 피드백을 통합하여 AI의 성능을 지속적으로 향상시키고, AI가 놓친 부분을 메우는 프로세스를 구축합니다. AI가 8할을 하면 남은 2할을 사람이 채워 전체적으로 100점짜리 결과를 만들어내는 것이 AI PM의 목표인 것입니다.

AI PM의 역할과 구현 방식

AI PM의 핵심 역할은 필요한 여러 AI 모델을 적절히 조합하고 그 상호작용을 설계하여, 개별 AI들이 실질적인 업무 해결에 기여하도록 만드는 것입니다. AI PM은 마치 프로젝트 매니저가 여러 팀원을 조율하듯이, 여러 AI 에이전트들을 관리하고 그 사이의 데이터 흐름과 작업 순서를 최적화합니다. 가령 한 에이전트가 생성한 결과를 다음 에이전트가 입력으로 활용하거나, 동시에 작동하는 AI들의 우선순위를 조정하는 등의 방식으로 AI 간 협업을 실현합니다. 이렇게 각 전문 분야를 맡은 여러 AI들이 혼돈에 빠지지 않고 일관된 목적을 향해 나아가도록 지휘함으로써, 개별 AI가 따로 작동할 때 발생하는 한계를 극복할 수 있습니다​.

실제 구현 사례를 살펴보면 더 쉽게 이해할 수 있습니다. 차량 호출 서비스를 예로 들면, 이 서비스 회사는 운전자-승객 매칭, 동적 요금 산정, 수요 예측 등 각각의 업무에 다른 AI 모델을 활용할 수 있습니다. AI PM이 없다면 각각의 모델은 각자 동작하여 서로 정보를 주고받지 못하므로, 수요가 급증하는 상황에서 매칭이 늦어지거나 요금이 적절히 조정되지 않아 비효율이 발생할 수 있습니다​.

반면 AI PM을 통해 수요 예측 AI의 결과를 배차 AI가 실시간 공유받고, 요금 산정 AI가 예측 데이터와 연동되어 요금을 자동 조정하도록 지휘하면, 수요가 많은 지역에 운전자를 사전 배치하고, 적절한 피크 요금을 책정하는 등 각 기능이 유기적으로 결합되어 효율과 고객 만족도가 크게 높아집니다​. 이렇듯 AI PM은 여러 전문 AI들의 협업을 설계함으로써 어느 한 AI 단독으로는 불가능한 업무까지 달성하고, 종합적인 문제 해결을 가능하게 합니다.

AI PM은 다양한 산업과 분야에서 활용될 수 있습니다. 예를 들어 IT 부문의 시스템 운영 자동화, 인사(HR) 분야의 인재 선발 및 교육, 고객 서비스 분야의 상담 챗봇과 담당자 연계, 공급망 관리의 수요 예측 및 물류 최적화, 재무 분야의 위험 분석 및 보고서 자동화 등 광범위한 업무 프로세스에 적용이 가능합니다​

각 산업별로 업무 특성에 맞게 여러 AI 도구를 조합하는 시나리오를 구상하고 도입하는 것이 중요하며, 이러한 구현 과정 전체를 관리하는 것이 AI PM의 역할입니다.

마지막으로 정리하면, AI 시대에 업무 혁신을 극대화하기 위해 AI PM의 도입은 더 이상 선택이 아닌 필수입니다. 개별 AI 모델에 의존하는 파편화된 접근으로는 복잡한 실무 문제를 풀기 어렵고, AI PM을 통해 여러 AI와 사람을 아우르는 거버넌스를 구축한다면 AI가 제공한 80점짜리 답변을 100점 솔루션으로 발전시킬 수 있습니다. 실제 기업 환경에서 지속가능한 AI 활용 성과를 얻으려면, 한 방에 모든 것을 해결하는 'AI 만능열쇠'를 찾기보다는 여러 전문 AI를 전략적으로 결합하고 인간의 판단을 더하는 오케스트레이션 전략이 필요합니다.

그리고, AI PM을 효과적으로 운영하려면 조직 내에서도 새로운 역량과 전략이 요구됩니다. AI PM은 전략적 기획 능력을 갖추고 AI 활용 목표를 조직의 비즈니스 목표와 일치시켜야 합니다. 또한, 경영진이나 현업 부서가 복잡한 AI 시스템을 이해하고 협업을 이끌어낼 수 있도록 쉽게 설명할 수 있는 소통 능력이 필수적입니다. 아울러 데이터 보안, 윤리, 모델 한계 등에 대한 리스크 관리 역량도 중요합니다​.

조직 차원에서는 이러한 AI PM 인력을 양성하고, AI 통합을 지원하는 내부 인프라와 문화를 조성해야 합니다. AI PM은 AI 활용을 고도화하기 위한 지름길이며, 이를 뒷받침할 수 있는 사람의 역량과 전략적 준비가 갖추어질 때 비로소 AI가 실무에 가져다주는 혁신의 열매를 최대한으로 얻을 수 있을 것입니다.