AI는 이 서비스에서 어디까지 맡아야 할까
AI를 서비스에 넣을 때 답변 품질 외에 무엇을 설계해야 할까요? 사용자의 다음 행동, 근거 확인, 실패 시의 흐름과 운영 역할을 함께 생각해봤습니다.
서비스에 AI를 넣는다고 하면 대화창이나 추천 기능부터 떠오른다.
하지만 AI가 있다는 사실만으로 사용자의 일이 쉬워지는 것은 아닐 것이다. 답변은 괜찮은데 다음에 무엇을 해야 하는지 모르거나, 기존 작업을 다시 해야 한다면 기대한 효과가 줄어든다.
그래서 기능을 정하기 전에 먼저 묻고 싶다.
사용자가 지금 하는 일의 어느 부분을 AI에게 맡기는 것이 도움이 될까?
사용자에게 필요한 순간 찾기
여러 요청을 검토하는 서비스를 가상으로 생각해보자.
운영자가 매번 긴 내용을 읽고 필요한 정보를 찾아야 한다면 AI가 요약을 도울 수 있다. 하지만 짧고 정형화된 요청이라면 기존 필터나 정렬이 더 빠를 수도 있다.
목적이 비슷한 요청을 모으는 것이라면 분류가 도움이 되고, 결과를 사용자에게 설명하는 데 시간이 오래 걸린다면 답변 초안이 도움이 될 수 있다.
같은 AI 기술이라도 어디에 두느냐에 따라 사용 흐름은 달라진다. 반복되는 일과 실제로 판단이 막히는 지점을 먼저 나눠봐야겠다.
요약과 추천, 실행은 다른 역할이다
AI가 요청을 요약하는 일과 처리 방향을 추천하는 일, 실제로 상태를 변경하는 일은 영향이 다르다.
요약이 틀리면 원문과 비교해 수정할 수 있다. 잘못된 추천은 판단에 영향을 줄 수 있고, 실행까지 이어지면 다른 사람의 업무에도 변화가 생긴다.
그래서 AI가 어떤 역할을 맡는지 사용자가 알 수 있어야 한다.
추천이라면 제안과 확정된 결과를 구분해 보여주고, 실행이 필요하다면 무엇이 바뀌는지 확인할 수 있어야 한다. 검토자의 수정도 실제 처리 결과에 연결돼야 한다.
AI의 출력을 받아들이는 단계와 행동이 일어나는 단계를 설계 안에서 분명하게 나누고 싶다.
근거를 확인하는 흐름도 UX에 포함하기
결과가 자연스럽게 읽히면 맞는 내용처럼 느껴질 수 있다. 하지만 사용자가 판단해야 하는 정보라면 어디에서 나온 내용인지 확인할 방법이 필요하다.
요약 옆에서 해당 원문을 확인할 수 있는지, 추천의 주요 근거가 무엇인지, 정보가 언제 기준인지 볼 수 있으면 좋겠다.
근거를 모두 길게 펼쳐놓으면 읽는 부담이 생길 수 있다. 핵심 내용은 짧게 보여주고 필요한 부분을 선택해 확인하는 방식도 검토할 수 있다.
다만 출처 링크가 있다는 사실만으로 정확성이 보장되는 것은 아니다. 제안에 사용한 자료와 실제 근거가 연결되는지 시스템에서도 확인해야 한다.
설계에서는 사용자가 어떤 부분을 검토해야 하는지 이해할 수 있도록 돕는 것이 중요해 보인다.
AI가 답하지 못할 때에도 일이 이어져야 한다
자료가 부족하거나 AI 처리가 실패하면 어떤 흐름으로 돌아갈까.
결과 없이 계속 기다리게 하거나, 부족한 정보를 채운 것처럼 답을 만들게 해서는 업무가 더 어려워질 수 있다.
원문을 직접 보고 처리할 수 있는지, 빠진 정보를 보완할 수 있는지, 다시 시도할 수 있는 조건이 무엇인지 생각해야 한다.
사용자가 AI 결과를 거절하거나 수정했을 때도 이후 단계로 이어져야 한다. 기존 업무 방식으로 전환해도 입력한 내용이 사라지지 않도록 하는 것도 필요하다.
AI가 잘 작동하는 순간의 화면만 설계하면 실제 운영에서 자주 만나는 공백을 놓칠 수 있겠다.
조직 안에서 결과를 다루는 방법
AI를 넣으면 검토와 운영의 역할도 달라질 수 있다.
누가 결과를 확인하는지, 어떤 요청은 사람에게 넘기는지, 오류를 발견하면 어디에 남기는지 정해야 한다. 사용자 화면과 운영 화면이 같은 기준을 공유해야 한다.
수정한 결과를 모두 학습에 사용한다고 가정해서도 안 된다. 보관과 활용 범위, 권한, 검토 기준을 별도로 정해야 할 것이다.
운영 기록은 개선에 도움이 될 수 있다. 어떤 유형에서 수정이 많은지, 결과를 읽는 시간보다 다시 확인하는 시간이 더 긴지 살펴보면 AI의 역할 자체를 조정할 근거가 된다.
사용량보다 일을 마치는 결과
AI 기능을 많이 사용한다고 서비스가 나아졌다고 단정하기 어렵다.
앞의 가상 사례라면 전체 검토 시간이 줄었는지, 수정과 재처리는 늘지 않았는지, 운영자와 사용자가 결과를 이해하는지를 함께 봐야 한다.
확인 비용이 더 커졌다면 요약 범위를 줄이거나 일부 요청에만 적용하는 선택도 가능하다. AI를 사용하지 않는 방식과 비교해볼 필요도 있다.
나는 AI를 설계할 때 가능하면 이 질문을 다시 확인하고 싶다.
사용자가 AI를 쓰는 단계를 거친 뒤, 원래 하려던 일을 더 잘 마칠 수 있을까?
그 답을 사용 흐름과 실제 운영에서 확인할 수 있다면, AI가 서비스 안에서 맡을 역할도 조금씩 더 분명해질 것 같다.