요즘 채용공고를 보면서 ‘AI Product Manager’ 또는 ‘AI PM’이라는 직책 보셨나요? ChatGPT가 세상을 뒤흔든 이후, 정말 많은 기업들이 AI PM을 찾고 있습니다. 하지만 막상 “AI PM이 뭐에요?”라고 물어보면, 명확한 답을 주는 사람을 찾기가 쉽지 않은 것 같습니다.
저도 역시 처음에는 혼란스러웠습니다. LLM이 등장하기 전부터 ‘인텔리전스’라는 이름으로 이 필드에서 일해왔지만, 언제부터가 진짜 AI PM인지 스스로도 확신이 서지 않았거든요. “내가 지금 AI PM인건가?” 하는 의문이 계속 들었어요.
그래서 오늘은 실제로 인텔리전스에서 AI까지 이 필드에서 몇 년간 일해온 경험을 바탕으로, AI PM이 정확히 무엇인지, 어떤 오해들이 있는지 솔직하게 이야기해보려고 합니다. AI PM을 꿈꾸고 계시거나, 단순히 궁금하셨던 분들에게 조금이나마 도움이 되면 좋겠어요.
AI PM이 된 과정
처음 맡은 프로덕트는 ‘Contextual Suggestion’을 메인 기능으로 한 서비스였어요. 사용자의 다양한 컨텍스트를 추출해서 필요한 정보들을 큐레이션하여 제공하는 거였죠. 그때 저는 AI PM이었을까요?
솔직히 엄밀한 의미에서는 아니었던 것 같아요. 백그라운드에서 동작하는 컨텍스트 추출 기술들이 ‘Rule’ 기반의 동작이었거든요. 특정 조건을 기획하고 그 조건에 어떤 정보를 제공할지 정의하는, 모든 조건과 동작의 요구사항을 작성하는 전형적인 Product Manager의 역할이었던 것 같습니다.
두 번째로 담당한 것은 Voice Assistant 프로덕트였어요. 음성 기술 및 딥러닝 기술을 활용해서 사용자의 의도를 이해하는 부분을 포함한 프로덕트였죠. 엄밀히 말하면 이건 AI Product라고 볼 수 있을 것 같아요. 하지만 그때 제가 담당한 기능은 AI 기술을 바탕으로 한 기능이 아니어서, 저 개인적으로는 AI PM이라고 하기는 어려웠던 것 같습니다.
진짜 전환점은 LLM이 등장하고 나서였어요. Voice Assistant 프로덕트에 LLM을 접목하기 시작하면서, RAG(Retrieval-Augmented Generation) 기반의 기능을 담당하게 됐거든요. 이때부터가 진짜 AI PM으로서의 시작이었던 것 같아요.
왜냐하면 이전과는 완전히 다른 종류의 기획이 필요했거든요. 명확한 규칙으로 정의할 수 없는 ‘지능적’ 동작을 기획해야 했고, AI 모델의 특성과 한계를 이해해서 기능을 설계해야 했어요. 그리고 프롬프트 엔지니어링을 통해 AI의 행동을 조정하는 일도 해야 했고요.
현재는 앱이나 서비스 레벨이 아니라 이제 AI 모델 자체를 담당하고 있습니다. 전형적인 AI PM이 된 거죠. 모델에 어떤 기능이 필요한지 정의하고, LLM 특성상 발견할 수 있는 새로운 능력을 발굴해서 패키징하여 활용할 수 있도록 제공하는 일을 하고 있어요. 그리고 LLM이 앞으로 어떤 기술을 통해서 어떤 방향으로 갈지, 어떻게 경쟁 모델과 차별화할지에 대한 고민을 계속 하고 있습니다.
AI PM에 대한 오해들
제가 경험하면서 느낀 것 중 하나는, 많은 사람들이 AI PM에 대해 오해하고 있다는 점이에요. 그중에서 가장 큰 오해는 “앱이나 서비스가 아닌 모델을 하는 PM만 AI PM이다”라는 생각인 것 같습니다.
하지만 그건 아닌 것 같아요. 앱이나 서비스를 하고 있어도 AI 기술을 다룬다면 AI PM이라고 할 수 있을 것 같거든요. 예를 들어서 요즘 앱들에 수많은 LLM을 활용한 기능들이 추가되고 있잖아요? 이런 기능들을 기획하는 PM 또한 AI PM이라고 볼 수 있다고 생각해요. AI의 기능을 테스트하고 활용 가능성이 있는지 확인하는 등의 평가를 통해서 기능을 기획하고 요구사항을 작성하는 거니까요.
또 다른 오해는 AI PM이 되려면 반드시 AI 기술 전문가여야 한다는 생각인데, 이것도 아닌 것 같아요. 물론 AI에 대한 이해는 필요하지만, 모든 기술적 세부사항을 알 필요는 없을 것 같습니다. 중요한 건 AI가 무엇을 할 수 있고 무엇을 할 수 없는지를 파악하고, 그것을 바탕으로 현실적인 제품 전략을 세울 수 있는 능력과 실제 모델을 학습하는 연구자들과의 커뮤니케이션이 더 필요하다고 생각합니다.
AI PM의 두 가지 유형
제 경험을 정리해보면, AI PM은 크게 두 가지로 나눌 수 있을 것 같아요.
첫 번째는 AI 모델 PM입니다. AI 모델은 단순히 LLM만을 이야기하는 게 아닙니다. LLM, LMM(Large Multimodal Model)을 넘어 LWM(Large World Model) 그리고 세세하게는 음성 인식 모델, 음성 생성 모델, 딥러닝이나 머신러닝 기반의 모델을 모두 포함합니다. AI 모델 PM은 이 모델들에 요구사항을 추가하고 어떤 기능을 제공해야 하는지에 대한 방향성을 제공하는 역할을 해요. 그리고 그를 기반으로 연구자들이 모델의 학습을 할 수 있도록 하는 것입니다.
두 번째는 AI 경험 PM이에요. 기존의 프로덕트에 AI를 활용해서 신규 기능을 추가하거나 새로운 경험을 만들어내는 역할을 합니다. AI 경험 PM은 현재 문제를 정의하고 이 문제를 AI를 활용해서 풀기에 적합한지를 판단할 수 있어야 해요.
AI PM 핵심 역량
몇 년간 이 일을 하면서 느낀 것은, AI PM에게는 일반적인 PM 역량 외에도 특별히 필요한 역량들이 있다는 점이에요.
첫 번째는 프롬프트 엔지니어링이에요. AI를 활용하는 것은 기본적인 역량인 것 같습니다. 단순히 질문을 던지는 게 아니라, AI가 원하는 답을 정확히 도출해낼 수 있는 프롬프트를 작성할 수 있어야 해요. 이게 생각보다 어렵거든요. “사용자 리뷰를 분석해줘”와 “다음 사용자 리뷰들을 1-5점 감정 점수로 분류하고, 각 점수별 주요 키워드 3개씩 추출해서 JSON 형태로 정리해줘”는 완전히 다른 결과를 가져올 수 있어요.
두 번째는 AI를 평가하는 역량입니다. AI를 냉정하게 평가하고 활용할 수 있는 기준을 수립하는 것이 정말 중요해요. AI는 때로 놀라운 결과를 보여주지만, 때로는 엉뚱한 답을 내놓기도 하거든요. “와, 이거 정말 대단하다”라는 감탄에서 멈추지 않고, 실제 서비스에서 얼마나 안정적으로 작동할지, 어떤 상황에서 실패할지, 사용자들이 받아들일 만한 품질인지를 끊임없이 질문해야 해요.
세번째는 전략 수립 역량이에요. 방향성을 정의하고 그를 토대로 AI 모델을 발전시킬 수 있도록 해야 하고, 수많은 AI들이 나오는 시대에 어떻게 차별화할 수 있는지에 대한 전략을 수립해야 합니다. 단순히 “우리도 ChatGPT 같은 기능을 추가하자”가 아니라, 우리 사용자들에게는 어떤 AI 경험이 정말 필요한지, 우리가 가진 데이터와 기술로는 어떤 차별화가 가능한지를 계속 고민해야 해요.
마지막은 연구자, 개발자들과의 커뮤니케이션 역량입니다. AI로 어떤 문제를 해결할 것인지, 어떤 기능을 제공해야하는지를 커뮤니케이션 할 수 있어야하고 그를 토대로 최적의 모델이 개발 될 수 있도록 하는 역할을 해야합니다. 어쩌면 기존의 PM에서 필요한 역량과 같은 맥락인 것이죠.
인사이트
이런 경험을 통해 몇 가지 인사이트를 얻을 수 있었어요.
첫 번째로는, AI PM은 완전히 새로운 직종이 아니라 기존 PM 역할의 진화된 형태라는 점입니다. 핵심은 여전히 사용자 문제 해결이고, AI는 그 문제를 해결하는 새로운 도구일 뿐인 것 같아요. 다만 이 도구가 워낙 강력하고 특별해서 별도의 전문성이 필요한 거죠.
두 번째는, 균형 감각이 정말 중요하다는 것이에요. AI에 대한 과도한 기대도, 지나친 회의도 모두 위험할 수 있거든요. AI의 가능성을 믿으면서도 현실적 한계를 인정하고, 기술의 발전 속도에 발맞추면서도 사용자의 실제 니즈에 집중할 수 있어야 할 것 같아요.
마지막으로, AI PM은 계속 학습하는 사람이어야 한다는 점이에요. 이 분야는 정말 빠르게 변하고 있어서, 몇 개월 전의 상식이 지금은 통하지 않는 경우가 많거든요. 새로운 모델이 나오면 직접 써보고, 새로운 기법이 등장하면 어떻게 적용할 수 있을지 고민하는 호기심과 실행력이 필요할 것 같습니다.
AI PM을 꿈꾸는 분들에게
AI PM에 관심이 있으시다면, 거창한 것부터 시작하실 필요는 없을 것 같아요. 현재 하고 계시는 일에서 AI를 활용할 수 있는 작은 기회들을 찾아보시면 어떨까요? ChatGPT로 업무 효율을 높여보거나, 간단한 프롬프트 실험을 해보는 것만으로도 좋은 출발점이 될 수 있을 거예요.
그리고 가장 중요한 것은, AI PM이 되기 위해 모든 것을 포기하고 새로 시작해야 한다고 생각하지 않으셨으면 해요. 기존에 쌓아온 PM 경험과 도메인 지식은 그대로 강력한 무기가 될 것 같습니다. 거기에 AI에 대한 이해와 활용 능력만 더해진다면, 정말 강력한 AI PM이 될 수 있지 않을까 싶어요.
AI 시대는 이제 막 시작된 것 같아요. 앞으로 AI PM이 어떤식으로 더 발전해나갈지 저도 궁금합니다.