반복 문의 자동응대, 우리 팀 챗봇에 넣을 프롬프트는 이렇게 설계합니다

같은 질문에 매번 비슷한 답을 반복하는 업무가 있다면, 그건 AI로 자동응대할 후보입니다. 선사 고객지원팀의 문의 유형을 보면 선박 스케줄 확인, Free Time 계산, BL 정정 절차 안내처럼 답변 구조가 거의 고정된 경우가 많습니다. 문제는 "챗봇을 붙이면 되겠지"라는 생각만으로는 실제로 쓸만한 답이 안 나온다는 점입니다. 프롬프트를 어떻게 설계하느냐가 결과물의 품질을 가릅니다.

                                                                              프롬프트 설계 3단계 개요

 

1단계: 반복 문의를 유형별로 쪼갠다 모든 문의를 하나의 프롬프트로 처리하려 하면 답변이 뭉뚱그려집니다. 먼저 문의를 "정보 조회형"(스케줄, 컨테이너 위치 등 정답이 하나인 질문)과 "판단형"(Free Time 초과 여부, BL 정정 가능 여부처럼 조건에 따라 답이 달라지는 질문)으로 나눕니다. 정보 조회형은 데이터만 정확히 연결하면 되지만, 판단형은 프롬프트에 판단 기준을 명확히 넣어줘야 합니다.

2단계: 판단 기준을 프롬프트에 명시적으로 넣는다 "Free Time이 지났는지 알려줘"라는 식으로만 지시하면 AI가 임의로 기준을 추정합니다. 대신 아래처럼 조건을 구체적으로 명시해야 합니다.

프롬프트 예시: "아래 정보를 보고 Free Time 초과 여부를 판단해줘. 반입일: [날짜], Free Time 부여일수: [일수], 계산 기준: 반입일 익일부터 영업일 기준(주말·공휴일 제외)으로 계산. 초과 시 초과일수와 예상 Demurrage 청구 대상 기간을 함께 표로 정리해줘."

이렇게 계산 규칙(기산일, 영업일/달력일 여부)까지 프롬프트에 넣어야, 담당자가 매번 검증하지 않아도 되는 수준의 답이 나옵니다.

                                                                     정보조회형 vs 판단형 프롬프트 차이

 

3단계: 답변 형식과 escalation 조건을 고정한다 챗봇이 모든 걸 판단하게 두면 안 됩니다. "화주가 이의를 제기하는 경우", "판단 근거가 불명확한 경우"처럼 사람에게 넘겨야 하는 조건을 프롬프트에 못 박아둬야 합니다.

프롬프트 예시: "위 판단 결과를 화주에게 안내하는 문구를 작성해줘. 다만 화주가 '터미널 혼잡으로 반출이 지연됐다'는 등 화주 과실이 아니라는 주장을 하면, 자동 답변하지 말고 '담당자 확인 후 안내드리겠습니다'로 응답하고 사내 담당자에게 이관 표시를 해줘."

이 한 문장이 없으면 챗봇이 감면 여부까지 스스로 판단해서 잘못된 약속을 하는 사고로 이어질 수 있습니다.

                                                                         체크리스트 - 도입 전 체크리스트

 

도입 전 체크리스트 실제 적용하기 전에는 반드시 과거 문의 데이터로 프롬프트를 검증해야 합니다. 최소 20~30건의 실제 문의 사례를 넣어보고, 판단이 갈리는 애매한 사례(경계값 근처)에서 챗봇이 어떻게 답하는지 확인하는 과정이 빠지면, 실제 배포 후 오답이 누적됩니다.

내 생각

AI 자동화 도입을 검토할 때 가장 많이 하는 실수는 "일단 붙여보고 고치자"는 접근입니다. 하지만 고객 응대는 한 번의 오답이 신뢰 문제로 직결되기 때문에, 판단 기준과 이관 조건을 먼저 명확히 설계하고 나서 붙이는 순서가 맞다고 봅니다. 저희 팀도 정보 조회형 문의부터 먼저 자동화하고, 판단형은 사람이 최종 확인하는 구조로 단계적으로 넓혀가는 방식을 권합니다.

결론을 내리며

반복 문의 자동응대는 챗봇을 도입하는 것 자체가 목적이 아니라, 프롬프트에 판단 기준과 이관 조건을 얼마나 명확히 넣느냐가 성패를 가릅니다. 정보 조회형부터 시작해서 판단형으로 단계적으로 확대하는 것이 실무에서 가장 안전한 순서입니다.

오늘 내용이 실무에 도움이 되셨다면, 관련 글도 함께 참고해보세요.

참고: 본문은 실제 업무 처리 경험을 바탕으로 재구성한 오리지널 콘텐츠이며, 특정 기사나 자료를 요약한 것이 아닙니다. 프롬프트 예시는 참고용이며, 실제 도입 시에는 사내 데이터 보안 정책과 선사별 Free Time·감면 기준에 맞게 조정이 필요합니다.