지금 읽는 곳막연한 가설이 만드는 문제목차
STEP 2 중급·실무 › 2-4. 데이터 분석·퍼포먼스 테크 › 과목 88 › 레슨 02
가설 설정의 정석: "상세페이지를 고치면 매출이 오를 것이다" 대신 "상세페이지 상단에 리뷰 평점을 배치하면 구매 전환율이 15% 상승할 것이다"
막연한 가설로 시작한 실험은 결과가 나와도 "그래서 뭘 배웠나"라는 질문에 답하지 못한 채 끝나는 경우가 많습니다.
핵심요약
- 좋은 가설은 '무엇을 바꾸는지·왜 효과가 예상되는지·어떤 지표가 얼마나 바뀔지' 세 요소를 모두 담아야 한다
- 막연한 가설은 실험 종료 후에도 성공·실패를 판정할 기준 자체가 없다
- '왜'에 해당하는 근거는 과거 데이터·사용자 피드백·업계 벤치마크에서 가져와야 한다
- 숫자 목표(몇 % 상승)를 미리 정해두면 표본 크기 계산과 결과 해석이 모두 명확해진다
- 가설은 실험 전에 문서로 기록해두고, 사후에 임의로 수정하지 않아야 한다
막연한 가설이 만드는 문제
"상세페이지를 개선하면 매출이 오를 것이다"라는 가설로 실험을 시작하면, 실제로 상세페이지의 어떤 요소를 바꿀지, 그 변경이 왜 매출에 영향을 줄 것이라 기대하는지, 얼마나 오르면 성공이라고 판단할지가 전혀 정해지지 않은 상태입니다. 이런 상태로 실험을 진행하면 결과가 나온 뒤에도 "매출이 3% 올랐는데 이게 성공인가"를 판단할 기준이 없어, 팀마다 다르게 해석하는 혼란이 생깁니다. 가설은 실험을 시작하기 전에 이미 성공·실패의 판정 기준까지 포함하고 있어야 합니다.
세 요소로 가설을 분해하는 법
좋은 가설은 세 가지 요소로 분해할 수 있습니다. 첫째는 '무엇을 바꾸는가'로, "상세페이지 상단에 리뷰 평점을 배치한다"처럼 구체적인 변경 내용을 명시합니다. 둘째는 '왜 그런 효과가 예상되는가'로, "리뷰 평점이 상단에 있으면 구매 결정 전 신뢰를 빠르게 확보할 수 있기 때문"처럼 인과관계에 대한 논리를 담습니다. 셋째는 '어떤 지표가 얼마나 바뀔 것인가'로, "구매 전환율이 15% 상승할 것이다"처럼 측정 가능한 목표 수치를 명시합니다. 이 세 요소가 모두 담긴 문장이라야 실험 설계와 결과 해석 양쪽에서 명확한 기준이 됩니다.
'왜'에 해당하는 근거는 어디서 가져와야 하나
가설의 두 번째 요소인 '왜'는 임의로 추측하기보다, 실제 근거에서 도출해야 신뢰할 수 있는 실험이 됩니다. 근거로 쓸 수 있는 자료는 앞서 다룬 GA4 경로 탐색에서 발견한 사용자 이탈 패턴, 고객센터에 접수된 문의·불만 사항, 경쟁사가 이미 채택한 UX 패턴, 업계에서 공개된 실험 사례 등이 있습니다. 이런 근거 없이 "그냥 이게 나을 것 같다"는 직관만으로 가설을 세우면, 그 가설이 채택된 이유를 나중에 팀에 설명하기 어려워지고, 실험이 실패했을 때 왜 예상이 빗나갔는지 되짚어보기도 어렵습니다.
목표 수치는 어떻게 정해야 하나
가설에 담을 목표 수치(몇 % 개선)는 근거 없이 임의로 크게 잡으면 안 됩니다. 과거에 비슷한 유형의 변경을 시도했을 때 실제로 관찰된 개선폭, 또는 업계에 공개된 유사 사례의 개선폭을 참고해서 현실적인 범위로 설정하는 것이 좋습니다. 이 목표 수치는 다음 레슨에서 다룰 표본 크기 계산에도 직접 쓰이는데, 목표 수치를 작게 잡을수록 그 작은 차이를 통계적으로 검출하기 위해 훨씬 많은 표본이 필요해진다는 점도 함께 고려해야 합니다.
가설을 문서로 기록해두어야 하는 이유
가설은 실험을 시작하기 전에 문서로 명확히 기록해두고, 실험 도중이나 결과를 본 뒤에 임의로 수정하지 않아야 합니다. 결과가 기대와 다르게 나왔을 때 "사실 우리가 보려던 건 이 지표가 아니라 저 지표였다"는 식으로 사후에 가설을 바꾸면, 이는 실험이 아니라 원하는 결론에 데이터를 끼워 맞추는 것에 가까워집니다. 가설을 사전에 기록해두는 습관은 이런 사후 합리화를 방지하고, 실험 결과를 있는 그대로 받아들이는 조직 문화를 만드는 데 중요한 역할을 합니다.
가설 백로그를 관리하는 법
한 번에 하나의 가설만 검증하다 보면, 어떤 가설을 먼저 테스트할지 우선순위를 정하는 것도 중요한 문제가 됩니다. 실무에서는 예상 효과 크기, 구현 난이도, 근거의 확실성 세 가지 기준으로 여러 가설의 우선순위를 매기는 방식이 흔히 쓰입니다. 효과는 클 것으로 예상되는데 구현이 간단하고 근거도 확실한 가설부터 먼저 테스트하는 것이 한정된 트래픽과 시간을 가장 효율적으로 쓰는 방법입니다.
여러 이해관계자와 가설을 합의하는 절차
가설은 마케팅 담당자 혼자 세우고 끝내기보다, 디자이너·개발자·상품 담당자와 함께 합의하는 과정을 거치는 것이 좋습니다. 특히 '왜' 부분에 해당하는 인과관계 논리는 다른 직군이 봤을 때 허점이 보일 수 있는데, 예를 들어 디자이너는 "리뷰 평점을 상단에 배치하면 오히려 상품 이미지 노출이 줄어 반대 효과가 날 수 있다"는 반박을 제기할 수 있습니다. 이런 사전 검토를 거치면 가설의 논리적 허점을 실험 전에 미리 걸러낼 수 있고, 실험 결과가 나왔을 때도 여러 직군이 같은 기준으로 결과를 해석할 수 있게 됩니다. 이 검토 과정에 걸리는 시간이 아깝게 느껴질 수 있지만, 실험을 이미 실행한 뒤에 논리적 허점이 뒤늦게 발견되어 처음부터 다시 설계해야 하는 상황에 비하면 훨씬 적은 비용입니다. 여러 직군이 함께 검토하는 자리를 매번 새로 마련하기 부담스럽다면, 정기 회의 안건에 가설 검토 항목을 고정으로 포함시켜두는 것도 실무적인 대안이 됩니다.
하나의 화면에 여러 가설이 얽혀 있을 때의 정리법
상세페이지처럼 여러 요소(가격, 이미지, 리뷰, 배송 정보 등)가 함께 있는 화면은 개선하고 싶은 가설이 동시에 여러 개 떠오르기 쉽습니다. 이럴 때는 모든 가설을 한 번에 테스트하려 하지 말고, 각 가설을 개별 문서로 분리해서 하나씩 우선순위에 따라 순차적으로 검증하는 것이 원칙입니다. 여러 가설을 한 실험에 뒤섞으면 앞서 다룬 변수 격리 원칙이 깨져, 결과가 나와도 어떤 가설이 실제로 유효했는지 알 수 없게 됩니다.