답변
광고주 리포팅 체계의 실험군·대조군을 설계할 때 통계적 오류를 피하려면 아래 원칙을 먼저 지켜야 합니다. 광고주 리포팅 체계는 보고 주기(일간 대시보드·주간 요약·월간 정산 리포트)와 보고 형식(실시간 대시보드 vs 정리된 문서)을 광고주의 의사결정 리듬에 맞춰 설계해야 하는 영역이다. 지표를 많이 넣을수록 신뢰도가 올라간다고 여기기 쉽지만, 실제로는 광고주가 매번 확인할 핵심지표를 3~5개로 좁히고 나머지는 부속 자료로 분리해야 리포트가 실제로 읽히고 의사결정에 쓰인다. 광고주 리포팅 체계의 실험군·대조군을 나눌 때는 무작위 배정(랜덤화)이 원칙이다 — 지역·시간대·이미 성과가 좋은 세그먼트를 임의로 실험군에 몰아주면 결과가 왜곡된다(선택 편향). 통계적 오류를 피하려면 사전에 최소 표본크기(필요 전환수)와 목표 검정력을 정해두고, 그 기준에 도달하기 전에 중간 결과만 보고 조기 종료하지 않아야 한다 — 이른 종료는 우연한 변동을 실제 효과로 오판하는 흔한 원인(peeking problem)이다. 실험군·대조군 사이에 같은 사람이 양쪽에 동시에 노출되는 오염(contamination)이 생기면 결과를 신뢰할 수 없다 — 오디언스를 완전히 분리하거나(지역 분할, 리스트 분할), 최소한 겹치는 비율을 사전에 확인해야 한다. 실험을 설계할 때는 시작 전에 최소 표본크기와 종료 기준을 문서로 먼저 확정해두시면, 중간에 결과가 흔들려도 원칙대로 끝까지 갈 수 있습니다.