하루가 다르게 AI가 발전하는 요즘 AI활용을 하지 못한다면 나도 모르게 도태 될 수 있습니다. 그래서 Lenny‘s Podcast에서 다룬 AI Prompt Engineering 2025를 기반으로 쉽게 프롬프트 엔지니어링에 대해서 입문 할 수 있도록 하고자 합니다. AI를 업무에서 활용하시는 분들, AI 제품을 만들고 계시는 분들 등 많은 분들에게 도움이 되길 바래봅니다.
프롬프트 엔지니어링 입문
Q1. 프롬프트 엔지니어링이 정말 중요한가요?
정말 중요합니다! 프롬프트 엔지니어링의 핵심은 AI와의 효과적인 소통 방식을 찾는 것입니다, 잘못된 프롬프트는 AI의 문제 해결 성공률을 떨어뜨릴 수 있는 반면, 좋은 프롬프트는 문제 해결을 성공으로 만들 수 있습니다.
특히 AI 제품을 만들고자 한다면 프롬프트 엔지니어링의 중요성은 더 높아집니다. 어떤 모델을 활용하는가 어떤 목표를 가지고 있는가? 에 따라서 프롬프트를 얼마나 효과적이고 완벽하게 만들 수 있는가에 따라서 제품의 출시 결정 또는 UX의 수정 등 많은 부분에 영향을 미칠 수 있습니다.
AI 모델이 발전해도 프롬프트 엔지니어링의 중요성은 계속될 것이라는 전문가 의견이 지배적입니다. 이는 인공 사회적 지능(Artificial Social Intelligence) 의 필요성, 즉 AI와 어떻게 상호작용을 효과적으로 할 수 있는가? 를 의미하기 때문입니다. 우리가 엄청나게 똑똑한 사람을 만나도 서로 대화가 통하지 않는다면 아무 의미가 없는 것과 마찬가지라고 볼 수 있습니다.
Q2. 프롬프트 엔지니어링의 종류가 있나요?
크게 두 가지 모드를 이야기 할 수 있습니다:
1. 대화형 모드(Conversational Mode)
- 대부분의 사람이 일상적으로 사용하는 방식
- 챗봇 사용 중에 “이메일을 더 정중하게 써줘”, “농담을 추가해줘” 같이 대화 중간에 지시를 수정하여 개선
- 즉석에서 결과를 조정하는 방식으로 ChatGPT 나 Gemini 앱을 활용하는 것과 같이 캐쥬얼한 활용에 사용
2. 제품 중심 모드(Product-Focused Mode)
- AI 제품 관점에서 특정 제품 개발에 사용되는 프롬프트의 완벽성을 추구
- 단일 프롬프트를 수많은 입력에 대해 반복적으로 개선하여 높은 정확도를 확보
- 대부분의 AI 프롬프트 엔지니어링 연구가 이 모드에 집중 됨
- 제품 개발 뿐 아니라 딥리서치나 명확한 목표를 달성하고자 할 때 이 모드를 활용 할수 있음
Q3. 가장 기본적이면서 효과적인 프롬프트 기술은 무엇인가요?
퓨샷 프롬프팅(Few-shot Prompting) 이 가장 기본적이면서도 강력한 기술입니다. 일반적으로 AI에게 몇가지 예시를 제공해주는 방식으로 성능을 향상 시킬 수 있습니다.
용어 정리:
- 제로 샷(Zero-shot): 예시를 전혀 주지 않음
- 원 샷(One-shot): 한 개의 예시를 줌
- 퓨 샷(Few-shot): 여러 개의 예시를 줌
효과적인 형식:
- XML 형식: LLM이 익숙한 형식으로, RHF 훈련에 사용됨
- Q&A 형식:
Q: [질문/입력]A: [답변/출력]과 같이 질문과 답변을 쌍으로 제공 - 불릿 포인트: 팟캐스트 제목 제안을 위해 과거 성공 제목들을 나열
예를 들어, 자신의 글쓰기 스타일로 이메일을 작성하게 할 때 기존 이메일 몇 개를 AI에 제공하여 스타일을 알려주는 것과 같은 방식입니다.
다만 이 부분은 범용적으로 현재 활용되는 모델들에게 일반적으로 적용됩니다. 요즘 나오는 온디바이스 경량화된 모델이나 특정 작업에 특화된 Vertical AI등을 활용할 때는 다를 수 있습니다.
어떤 프롬프트 기법이 이제 안 통할까?
Q4. 역할 프롬프팅은 여전히 효과가 있나요?
정확도 기반 작업에서는 더 이상 효과가 없습니다.
역할 프롬프팅이란 AI에 특정 역할을 부여하는 기술입니다(예: “너는 수학 교수다”). GPT-3 초기 모델에서는 정확도 기반 작업에서 성능이 향상된다고 여겨졌지만, 현재는 통계적으로 유의미한 효과가 없음이 밝혀졌어요.
연구에 따르면 역할 부여가 정확도를 0.01% 정도만 향상시켜 사실상 효과가 없습니다. 다만 표현 기반 작업(글쓰기, 요약, 스타일 변환 등)에서는 여전히 유용할 수 있어요.
Q5. “팁을 주겠다”는 식의 보상 프롬프팅은 어떤가요?
전혀 효과가 없습니다.
보상/처벌 프롬프팅은 AI에게 특정 행동에 대한 보상(예: “팁을 주겠다”)이나 처벌(예: “경력에 매우 중요하다”)을 약속하거나 위협하는 방식인데요, 이러한 프롬프트는 AI의 훈련 방식과 관련이 없으며 대규모 연구 결과 효과가 없음이 입증되었습니다.
일부에서는 AI가 강화 학습으로 훈련되었기 때문에 보상/처벌이 작동할 것이라고 주장하지만, 이는 AI의 실제 훈련 방식과는 거리가 있어요.
고급 프롬프트 엔지니어링 (실전편)
Q6. 복잡한 문제를 AI가 잘 해결하게 하려면?
분해(Decomposition) 기술을 활용하세요!
AI가 복잡한 작업을 한 번에 처리하기 어려울 때, 작업을 하위 문제로 나누어 단계적으로 해결하도록 요청하는 기술입니다.
단계:
- 먼저 AI에게 전체 문제를 해결하기 위해 필요한 하위 문제들을 나열하도록 요청
- AI가 나열한 각 하위 문제를 하나씩 해결하도록 지시
- 그 정보를 바탕으로 최종 문제를 해결
혹은 만약에 프롬프트를 구체적으로 작성한다고 할때 질문했던 하위 문제들을 단계로 표시하여 순차적으로 진행할 수 있도록 제공하는 방법도 있습니다.
Q7. AI가 스스로 더 나은 답변을 하게 만들 수 있나요?
자기 비판(Self-Criticism) 기술 을 활용 할 수 있습니다.
AI가 답변을 생성한 후, 스스로 응답을 검토하고 비판하며 개선하도록 요청하는 일종의 ‘자기 반성’ 기술이에요. 우리가 어떤 일을 하고 포스트모텀과 같은 과정을 거치는 것처럼 AI에게도 동일한 과정을 거칠 수 있도록 지시하는 것입니다.
실전 팁
- AI가 답변을 생성한 뒤에 다시 한번 검토하고 수정하라는 피드백을 제공
- 프롬프트를 작성할 때 마지막 단계로 ‘자기 비판‘ 단계를 추가하고 다시한번 심사숙고 할 수 있도록 작성
일반적으로 1~3회 정도 반복하는 것이 적절하며, 그 이상은 효과가 미미하거나 모델이 이상하게 반응할 수 있다고 합니다.
Q8. 더 정확한 결과를 얻으려면?
추가 정보(Additional Information) 제공을 하는 것입니다.
프롬프트에 작업과 관련된 충분한 정보를 제공하여 AI의 이해도를 높이고 더 정확한 결과를 도출하는 기술이에요.
정보 유형:
- 이메일 작성 시: 개인 이력이나 업무 관련 정보
- 데이터 분석 시: 회사 프로필
- 전문 분야 작업 시: 관련 연구 자료나 문서
효율적인 정보 제공 방법:
- 대화형 모드: 가능한 많은 정보를 제공
- 제품 중심 모드: 비용과 지연 시간을 고려하여 필요한 정보만 선별
- 정보 배치: 프롬프트 시작 부분에 배치 (캐싱 효과 + 모델 혼란 방지)
Q9. 정확도를 더 높이는 방법이 있나요?
앙상블(Ensembling) 기술을 활용하세요!
동일한 문제에 대해 여러 다른 프롬프트나 모델을 사용하여 다양한 답변을 얻은 후, 가장 흔하거나 합리적인 답변을 최종 결과로 선택하는 방법입니다.
작동 방식:
- 하나의 문제에 대해 여러 개의 다른 프롬프트 사용
- 각 프롬프트에서 나온 다양한 답변들을 수집
- 가장 흔하게 나타나는 답변을 최종 결과로 채택
혼합 전문가(Mixture of Reasoning Experts) 예시:
- 어떤 AI는 ‘영어 교수’ 역할로
- 다른 AI는 ‘축구 역사가’ 역할로
- 또 다른 AI는 인터넷 접근 권한을 가진 채
- 각각 ‘레알 마드리드 트로피 개수’ 같은 질문에 답하게 하고
- 가장 흔한 답변을 최종 결과로 선택
역할 부여가 AI 모델의 특정 ‘뇌 영역’을 활성화시켜 다른 성능을 발휘하게 함으로써 더 나은 전체 성능을 얻을 수 있어요.
마무리
프롬프트 엔지니어링은 이제 단순히 개발자만을 위한 기술이 아닐 것입니다. 일상 속에서 나의 부가적인 일들을 자동으로 처리하고 싶을 때. 혹은 업무 속에서 자잘한 것들을 대신 처리하게 하고 싶을 때 등, 나의 살의 본질을 향상시키기 위해서는 프롬프트 엔지니어링이 하나의 방법이 될 것입니다.
그리고 내가 사용하는 AI 모델, AI 제품에 따라서 프롬프트 엔지니어링은 최적화되어야 한다는 것을 잊지 말아야 합니다. 특히 AI 제품을 개발하고 있는 사람이라면 더욱 더 고려를 해야하는 것입니다.
마지막으로 AI가 일상에 만연하게 되자 프롬프트 엔지니어링을 악용하여 활용하는 경우들도 늘어나고 있습니다. 기본적인 프롬프트 엔지니어링을 알고 활용한다면 악용되어 사용되는 케이스들을 방지하고 AI를 더 효과적으로 활용 할 수 있을 것이라고 생각합니다.
