모든 서비스

일주일 안에 끝내는 작은 검증 실험

실험은 제품이 성공할 것이라는 증거를 모으는 행사가 아닙니다. 다음 결정을 바꿀 수 있는 정보를 얻는 과정입니다. 앱을 만들기 전에 사람이 서비스를 대신 제공해도 중요한 가설을 시험할 수 있습니다.

가장 먼저 틀려서는 안 되는 가정을 고르기

점심 추천 서비스에 필요한 가정은 여러 가지입니다. 팀이 메뉴 선택을 불편해하는지, 추천을 신뢰하는지, 반복해서 쓰는지, 누가 돈을 내는지입니다. 모두 한 번에 확인하려고 하면 결과가 나빠도 이유를 구분할 수 없습니다.

아직 문제의 강도가 불확실하다면 첫 질문은 ‘추천 알고리즘이 정확한가?’보다 ‘도움이 제공되면 실제 선택에 사용하고 다음에도 요청하는가?’입니다. 사업에 미치는 영향이 크고 근거가 적은 가정부터 확인하세요.

한 장의 실험 카드로 범위를 제한하기

가설
점심 장소를 정하는 담당자는 조건에 맞는 추천이 유용하면 다음 주에도 스스로 요청할 것이다.
참여 조건
주중 팀 점심을 정하는 담당자 5명. 평소 선택 방식과 모집 경로를 기록한다.
제공 방법
1주 동안 정해진 시간에 예산과 음식 제약을 받고, 사람이 후보 세 곳과 선택 이유를 전달한다.
관찰
추천 전달 여부, 실제 선택 여부, 선택하지 않은 이유, 다음 주 자발적 재요청을 팀별로 기록한다.
판단 시점
다음 주의 재요청 관찰 기간이 끝난 뒤 판단한다. 추천 마지막 날 바로 성공으로 결론내리지 않는다.
진행 기준
5개 팀 중 3개 이상이 자발적으로 재요청하면 더 긴 반복 사용 실험을 검토한다.
중단·수정 기준
재요청이 없으면 개발 범위를 늘리지 않고 문제 강도와 전달 방식을 다시 확인한다.

지표의 분모와 관찰 기간을 미리 정하기

‘재사용률 60%’만 적으면 무슨 일이 있었는지 알기 어렵습니다. 모집한 5개 팀 중 3개 팀인지, 추천을 실제로 받은 3개 팀이 모두 돌아온 것인지 구분해야 합니다. 모집 수, 정상 전달 수, 선택 수, 재요청 수를 함께 남기세요.

예를 들어 두 팀이 휴가여서 추천을 받지 못했다면 이를 서비스 거절과 같은 것으로 세지 않습니다. 그렇다고 결과에서 조용히 빼서 비율을 높이지도 않습니다. 처음 정한 분모의 결과와 실제 노출된 집단의 결과를 함께 쓰고 관찰이 부족했다는 한계를 표시합니다.

말 대신 행동을 보되, 행동의 이유도 확인하기

‘유용했어요’라는 답은 피드백입니다. 추천한 식당에 갔다는 답은 사용의 단서입니다. 운영자가 재촉하지 않아도 다시 요청한 행동은 반복 필요의 단서입니다. 이 셋을 같은 성공 지표로 합치지 마세요.

재요청도 무료라는 조건이나 운영자와의 친분 때문에 생길 수 있습니다. 참여 경로, 제공한 혜택, 재촉 여부를 기록해야 결과를 이해할 수 있습니다. 작은 표본의 결과는 다음 실험을 정하는 데 쓰고, 시장 전체에 일반화하지 않습니다.

결과가 애매할 때는 세 가지로 나눠보기

반복 사용 다음에는 지불 의사와 운영 비용

무료 반복 사용이 확인되어도 유료 수요가 확인된 것은 아닙니다. 다음 실험에서는 실제 결제 주체에게 제공 범위와 가격을 명확히 제안해야 합니다. 아직 제공하지 못하는 기능을 가능한 것처럼 약속하지 마세요.

수동 실험 동안 팀당 추천에 걸린 시간, 정보 확인 비용, 문의 대응 시간을 기록합니다. 한 팀에는 쉬운 작업도 여러 팀이 동시에 요청하면 지속하기 어려울 수 있습니다. 자동화할 부분은 이 기록을 바탕으로 정하면 됩니다.

실험이 끝나면 캔버스에 남길 것

실험 전 가설, 관찰한 행동, 한계, 바꾼 판단을 짧게 적습니다. ‘실험 후’ 버전을 저장하고 다음에는 한 가지 조건만 바꿔보세요. 결과가 좋지 않아도 불필요한 개발을 줄이거나 고객군을 좁혔다면 의사결정에 쓰인 실험입니다.

이어 읽기

아이디어를 검증 가능한 린 캔버스로 바꾸기답을 유도하지 않는 고객 인터뷰내 캔버스에 적용하기