고객 지원에서 ChatGPT 활용하기: 효과적인 구현을 위한 도전 극복

ChatGPT의 출현은 인공지능 세계, 특히 고객 지원 분야에 혁신을 가져왔습니다. 이 강력한 언어 모델은 자연스러운 대화와 효율적인 프로세스를 위한 새로운 가능성을 열어주었습니다. 그러나 ChatGPT가 모든 문제에 대한 만능 솔루션이 아니라는 점을 이해하는 것이 중요합니다. 그 잠재력을 효과적으로 활용하기 위해 기업은 특정 사용 사례와 이러한 고급 기술을 구현할 때 발생하는 도전을 신중하게 고려해야 합니다.

많은 기업들이 저지르는 일반적인 실수는 도구에 집중하고 그것이 해결해야 할 문제를 간과하는 것입니다. Ultimate의 최고 과학 책임자인 Jaakko Pasanen은 ChatGPT와 같은 대형 언어 모델(LLM)을 구현하기 전에 특정 응용 프로그램과 요구 사항을 식별하는 것이 중요하다고 강조합니다. 생성 AI로 해결하려는 문제는 무엇인지 질문하는 것이 필수적입니다. 다양한 응용 프로그램은 서로 다른 요구 사항과 관련된 위험이 있으므로 기술을 특정 요구에 맞추는 것이 중요합니다.

LLM과 생성 AI는 고객 지원을 향상시키기 위해 다양한 방식으로 적용될 수 있습니다. 고객과의 상호작용을 보다 자연스럽게 만들기 위해 대화형 레이어를 추가하거나, 지식 기반에서 정보를 끌어와 즉각적이고 최신의 답변을 제공하는 고객 대면 응용 프로그램이 포함됩니다. 이 기술들은 지원 티켓을 구조화하고 요약하며, 사실적인 답변을 특정 음성 톤으로 변환하고, 고객 데이터를 의도에 따라 분류하며, 심지어 대화 디자이너를 위한 예시 답변을 작성하는 데 도움을 줄 수 있습니다. 이러한 잠재적 응용 프로그램을 이해함으로써 기업은 고객 지원 운영을 개선하기 위해 LLM을 더 잘 활용할 수 있습니다.

ChatGPT 및 유사한 LLM을 고객 지원에 구현할 때의 주요 도전 중 하나는 훈련 데이터 외의 질문에 직면했을 때 부정확한 정보를 생성하는 경향입니다. 이 '환각' 문제는 고객에게 잘못된 정보를 제공하고 신뢰를 손상시킬 수 있습니다. 예를 들어, 고객이 '가장 빠른 결제 옵션'에 대해 질문했을 때, 지식 기반에 이 정보가 없다면 LLM 기반 봇이 답변을 만들어낼 수 있습니다. 이 문제는 고객 지원 맥락에서 생성 AI를 사용할 때 신중한 구현과 안전 장치의 필요성을 강조합니다.

AI 환각 문제를 해결하기 위해서는 집중된 LLM 시스템을 만드는 것이 중요합니다. 이는 세 가지 주요 구성 요소를 포함합니다: 적절한 훈련 데이터 제공, 검색 엔진으로 모델을 기반화하기, 사실 확인 메커니즘 구현하기입니다. 고객 지원 요구에 맞는 관련성 높은 고품질 데이터로 언어 모델을 훈련시키면 부정확한 응답의 위험을 크게 줄일 수 있습니다. 또한, 내부 맞춤형 검색 엔진을 사용하면 LLM이 관련 정보에만 접근하도록 유도할 수 있습니다. 마지막으로, 생성된 답변의 정확성을 검증하기 위해 별도의 모델을 사용하는 것은 AI 기반 고객 지원 시스템에 신뢰성을 추가하는 추가적인 방법입니다.

고객 지원을 위한 LLM 채택의 또 다른 주요 도전은 구현 및 유지 관리의 자원 집약적 특성입니다. 단일 LLM을 호스팅하는 것은 매우 비용이 많이 들 수 있으며, 수만 달러에 이를 수 있습니다. 게다가 이러한 모델의 방대한 크기는 지연과 같은 문제를 초래할 수 있으며, 이는 즉각적인 응답이 기대되는 고객 지원 시나리오에서 특히 문제가 됩니다. OpenAI와 같은 API를 사용하는 것이 더 간단한 해결책처럼 보일 수 있지만, 이 또한 잠재적인 다운타임과 API 요청의 누적 비용 등 고유한 문제를 동반합니다. 이러한 요소들은 고객 지원 시스템에 LLM을 구현할 때 기술적 신뢰성, 확장성 및 재정적 고려 사항 간의 신중한 균형을 필요로 합니다.

LLM의 자원 집약적 특성을 해결하기 위해 기업은 '적당한 크기'의 언어 모델을 사용하는 것을 고려할 수 있습니다. 더 큰 모델이 일반적으로 자연어 이해에서 더 나은 성능을 보이지만, 크기만이 AI 모델의 효과성을 결정하는 유일한 요소는 아닙니다. 훈련 데이터의 품질과 전반적인 인프라도 동일하게 중요한 역할을 합니다. 이러한 측면에 집중함으로써 수백억 개의 매개변수를 가진 모델보다 수십억 개의 매개변수를 가진 모델로도 훌륭한 결과를 얻을 수 있습니다. 이 접근 방식은 성능과 자원 효율성 간의 균형을 맞추는 데 도움을 줄 수 있으며, 다양한 규모의 기업이 고객 지원에 AI를 구현하는 것을 더 실현 가능하고 지속 가능하게 만듭니다.

도전 과제가 있음에도 불구하고 고객 지원에서 LLM과 생성 AI의 미래는 밝아 보입니다. 이 분야의 빠른 발전 속도는 놀라우며, 새로운 개발이 몇 주 또는 며칠 내에 등장하고 있습니다. 예를 들어, 최근의 혁신은 더 작지만 강력한 모델을 만들어 더 작은 장치에서 실행할 수 있게 했습니다. 이러한 기술의 구현에 있어 현실적인 접근이 중요하지만, 낙관할 이유는 분명히 존재합니다. LLM이 계속 발전하고 더 효율적으로 변함에 따라, 고객 지원을 혁신할 잠재력을 가지고 있으며, 보다 자연스럽고 정확하며 효율적인 상호작용을 제공할 수 있습니다. 그러나 성공적인 통합을 위해서는 최첨단 기술와 실용적인 고려 사항, 실제 고객 지원 문제 해결에 중점을 둔 신중한 접근이 필요합니다.