AI 에이전트 출력을 억지로 인간처럼 꾸미면 생기는 부작용

무엇인가요

개발자 Kuber Mehta는 자신의 블로그에서 최근 유행하는 “LLM 출력을 사람처럼 만들어라”는 프롬프트 기법을 비판했습니다. “나는 ADHD가 있다고 생각하고 답해라”처럼 짧고 친근한 말투를 강요하는 지시가 실제로는 작업 결과가 아니라 작업 과정 자체에 끼어들어 정보 손실을 일으킨다는 것입니다.

그는 세 가지 문제를 짚었습니다. 첫째, 인간다운 짧은 문장을 강요하면 기술적으로 정확한 표현이 손실되는 ‘손실 압축’이 발생합니다. 둘째, 매끄럽게 다듬어진 말투는 에이전트가 할루시네이션을 일으키거나 불확실한 상태라는 신호를 숨겨버려 문제를 알아채기 어렵게 만듭니다. 셋째, 여러 에이전트가 순차적으로 협업할 때 하위 에이전트의 요약이 다시 요약되는 과정에서 정보가 계층적으로 유실됩니다. 그가 제안하는 대안은 에이전트를 데이터베이스나 API처럼 다루는 것입니다. 내부적으로는 정확한 상태값·오류·근거를 유지하고, 사람에게 보여줄 마지막 화면(렌더러)에서만 인간화를 적용하라는 구조입니다.

왜 주목할까요

• AI 기능을 만드는 팀이라면 한 번쯤 넣어봤을 “더 친근하게 답해줘” 지시가 실은 디버깅과 품질을 해칠 수 있다는 반례를 구체적으로 짚었습니다.
• ‘인간화는 최종 경계에서만’이라는 원칙은 챗봇뿐 아니라 멀티에이전트 파이프라인을 설계하는 팀에게 바로 적용 가능한 설계 기준입니다.
• AI 콘텐츠의 “사람 같은 말투” 트렌드가 마케팅 카피 영역에서도 번지고 있어, 제품팀 이상으로 콘텐츠팀에도 참고할 지점이 있습니다.

국내 관점 코멘트

국내에서도 고객 상담 챗봇, 사내 업무 자동화 에이전트를 만드는 팀이 늘면서 “말투를 더 친근하게”, “AI 티 나지 않게”라는 요구가 흔합니다. 하지만 이런 요구가 최종 사용자 화면이 아니라 내부 로직 단계(예: 에이전트가 다른 에이전트에게 결과를 넘기는 중간 단계)에까지 섞여 있으면, 정작 오류를 잡아야 할 때 원인 추적이 어려워지는 경우가 많습니다.

당장 실행할 수 있는 점검은 간단합니다. 지금 쓰고 있는 시스템 프롬프트를 열어 “친근하게”, “사람처럼”, “딱딱하지 않게” 같은 지시가 어느 단계에 들어가 있는지 확인해보는 것입니다. 최종 사용자에게 보여주는 화면에만 남기고, 내부 로그·중간 결과는 구조화된 형식으로 분리하는 것만으로도 디버깅 시간을 크게 줄일 수 있습니다.