추천 인지 지표 기준 비교
요약
| 대시보드 (가입 이후 전체) | 7일 창 (ABT 기준) | 1일 창 | |
|---|---|---|---|
| 판정 | 가입 이후 한 번이라도 인지 | 최근 7일에 인지 | 당일 인지 |
| 분모 | 유저-일 · 34,511 (ABT A군) | 유저 · 28,531 (ABT A군) | 유저-일 · 34,511 (ABT A군) |
| 비인지 (8/31주) | 15.75% | 48.27% | 55.73% |
| ABT A/B 격차 | -2.51%p | -9.45%p | -9.41%p |
| 일별 진폭 | 3.59%p (상대 22.1%) | 5.40%p (상대 12.2%) | 3.78%p (상대 6.7%) |
같은 유저, 같은 분모, 같은 5단계 분류예요. 인지·채택을 언제까지 거슬러 세는지만 달라요. 그것만으로 ②비인지가 15.75%에서 55.73%까지 벌어져요.
감도는 판정 기간을 하루로 좁혀도 더 커지지 않아요. 7일 창과 1일 창의 ABT A/B 격차가 -9.45%p와 -9.41%p로 거의 같아요. 대시보드 누적만 -2.51%p로 4분의 1 수준이에요.
방향은 세 기준 모두 같아요. 배포 후 ②비인지가 줄었고, 판정 기간을 좁힐수록 변화폭이 커져요. 배포 성과 판정은 가운데 기준(7일 창)을 써요. ABT가 그 저울로 위너 판정을 받았기 때문이에요.
① 예시 · 한 유저의 판정 추적
두 기준이 같은 사람 같은 날에 어떻게 다르게 판정하는지
| 날짜 | 그날 한 일 | 대시보드 | 7일 창 (ABT) | 1일 창 |
|---|---|---|---|---|
| 3/2 (월) | 추천3 슬롯을 봄 | ③인지·안씀 | ③인지·안씀 | ③인지·안씀 |
| 3/6 (금) · 같은 주 | 방문, 추천 행동 없음 | ③인지·안씀 | ③인지·안씀 | ②비인지 |
| 3/9 (월) · 다음 주 | 방문, 추천 행동 없음 | ③인지·안씀 | ②비인지 | ②비인지 |
| 9/3 (목) · 6개월 후 | 방문, 추천 행동 없음 | ③인지·안씀 | ②비인지 | ②비인지 |
| 날짜 | 그날 한 일 | 대시보드 | 7일 창 (ABT) | 1일 창 |
|---|---|---|---|---|
| 4/6 (월) | 추천으로 채택 (2회차) | ⑤재사용 | ⑤재사용 | ⑤재사용 |
| 4/10 (금) · 같은 주 | 방문, 추천 행동 없음 | ⑤재사용 | ⑤재사용 | ②비인지 |
| 9/3 (목) · 5개월 후 | 방문, 추천 행동 없음 | ⑤재사용 | ②비인지 | ②비인지 |
세 기준이 갈리는 지점이 표 안에 그대로 있어요. 같은 주 안(3/6, 4/10)에서는 1일 창만 ②비인지로 떨어지고, 다음 주로 넘어가면(3/9) 7일 창도 따라 떨어져요. 대시보드는 6개월이 지나도 끝까지 안 내려와요.
박OO처럼 채택 이력이 있으면 격차가 더 벌어져요. 대시보드의 ⑤재사용은 한 번 올라가면 내려오지 않는 자리라, 5개월간 추천을 쓰지 않은 사람도 ⑤에 남아 있어요.
이게 같은 유저 집단인데 ②비인지가 15.75%, 48.27%, 55.73%로 세 갈래로 나오는 이유예요. 사람이 다른 게 아니라 "비인지"라는 말의 뜻이 세 기준에서 다른 거예요.
한 문서 안에서 기준을 섞어 쓰지 않는 게 중요해요. 섞으면 같은 이름의 지표가 15.75%와 55.73%로 동시에 등장해요. 표마다 판정 기간을 적어두면 헷갈리지 않아요.
② 두 기준의 정의 대조
소스와 분모, 5단계 분류 규칙은 동일해요. 판정 기간만 바꿨어요
| 항목 | 대시보드 기준 | 7일 창 판정 (ABT 분석기준) | 1일 창 판정 |
|---|---|---|---|
| 소스 | segment_daily | recommend_event_base 직접 집계 | recommend_event_base 직접 집계 |
| 분모 | 템플릿페이지 방문 유저 | 같음 (주별 중복 제거) | 같음 (일별 중복 제거) |
| 세그먼트 | 콜드 · 비인지 · 인지·안씀 · 첫사용 · 재사용 | 같음 | 같음 |
| 우선순위 | 콜드 > 재사용 > 첫사용 > 인지·안씀 > 비인지 | 같음 | 같음 |
| 인지 판정 | aware_first가 그날 이전이면 인지 | 그 주에 인지 이벤트가 있으면 인지 | 그날 인지 이벤트가 있으면 인지 |
| 채택 판정 | 1·2회차 채택일이 그날 이전이면 사용 | 그 주에 추천 채택이 있으면 사용 | 그날 추천 채택이 있으면 사용 |
| ①콜드 판정 | 템플릿 채택 이력 없음 (누적) | 같음 (누적 유지) | 같음 (누적 유지) |
| 유저 1명이 차지하는 행 | 방문한 날마다 1행 | 방문한 주마다 1행 | 방문한 날마다 1행 |
바꾼 건 두 줄이에요. 인지와 채택을 aware_first <= p_date 처럼 누적으로 보지 않고, 그 창 안의 이벤트만으로 봤어요. ①콜드는 신규 유저를 가리키는 정의라 세 기준 모두 누적을 그대로 뒀어요.
7일 창은 유저 1명이 방문한 주마다 1행이라 분모 자체가 작아요. 06-01 주에 대시보드·1일 창은 37만 유저·일이고 7일 창은 28만 유저·주예요. 그래서 ①콜드 비중도 4.5%와 5.5%로 조금 달라요.
③ 기준별 세그먼트 비중
2026-06-01 ~ 09-06 주별. 같은 데이터를 판정 기간만 바꿔 세 번 그렸어요. 8/25 전체배포는 08-24 주부터 반영돼요
모양이 완전히 달라요. 대시보드 기준은 ⑤재사용이 아래를 두껍게 채우고 ②비인지가 얇은 띠로 남아요. 판정 기간을 좁히면 그 띠가 화면 절반 이상으로 커져요. 누적 기준에선 과거에 한 번 인지·채택한 사람이 전부 위 단계에 쌓여 있기 때문이에요.
그래도 8월 말 꺾이는 지점은 세 기준에서 모두 같은 자리에 나타나요. 방향은 같고 진폭만 다르다는 뜻이에요.
④ 배포 전후 변화 대조
처치 0%였던 08-17 주와 완전 처치 주인 08-31 주의 차이
| 세그먼트 | 대시보드 | 7일 창 (ABT) | 1일 창 |
|---|---|---|---|
| ①콜드 | +0.15 | +0.28 | +0.15 |
| ②비인지 | -2.17 | -8.73 | -8.97 |
| ③인지·안씀 | +1.44 | +8.28 | +8.86 |
| ④첫사용 | +0.16 | +0.22 | +0.11 |
| ⑤재사용 | +0.42 | -0.05 | -0.15 |
| 기준 | 08-17 주 (0%) | 08-31 주 (100%) | 변화 |
|---|---|---|---|
| 대시보드 | 17.92 | 15.75 | -2.17 |
| 7일 창 (ABT) | 57.00 | 48.27 | -8.73 |
| 1일 창 | 64.70 | 55.73 | -8.97 |
②비인지와 ③인지·안씀은 세 기준 모두 방향이 같아요. 판정 기간을 좁힐수록 변화폭이 커져서 대시보드 대비 4배까지 벌어져요. 누적 기준에선 이미 인지 도장이 찍힌 사람이 분자에서 빠져 있어 움직일 여지 자체가 작아요.
⑤재사용만 방향이 갈려요. 누적에선 과거 채택자가 계속 쌓여 +0.42%p 늘고, 창 기준에선 그날·그 주에 실제로 채택한 사람만 세니까 거의 변화가 없어요. 12일짜리 배포로 재사용 스톡이 늘 수는 없으니 누적 쪽 +0.42%p는 배포 효과가 아니라 유저 구성 변화로 보는 게 맞아요.
확인하지 못한 것도 남겨요. 창 기준에서 ④첫사용과 ⑤재사용을 가르는 기준은 그날(또는 그 주) 채택이 생애 첫 추천 채택인지로 잡았어요. 대시보드처럼 2회차 도달을 쓰지 않았으니 ④·⑤ 절대값을 기준 간에 나란히 놓지는 말아 주세요. ②비인지와 ③인지·안씀은 정의가 같아 비교해도 괜찮아요.
⑤ 기준별 감도와 안정성
ABT 기간 08-11~08-17을 세 기준으로 다시 판정한 결과, 그리고 배포 후 안정 구간 08-25~09-06의 일별 진폭
| 기준 | 분모 | A 대조군 | B 실험군 | 격차 |
|---|---|---|---|---|
| 대시보드 | 34,511 유저-일 | 22.31 | 19.80 | -2.51 |
| 7일 창 (ABT) | 28,531 유저 | 61.87 | 52.42 | -9.45 |
| 1일 창 | 34,511 유저-일 | 66.58 | 57.17 | -9.41 |
| 기준 | 최저 | 최고 | 절대 진폭 | 상대 진폭 |
|---|---|---|---|---|
| 대시보드 | 14.96 | 18.55 | 3.59%p | 22.1% |
| 7일 창 (ABT) | 42.30 | 47.70 | 5.40%p | 12.2% |
| 1일 창 | 55.24 | 59.02 | 3.78%p | 6.7% |
감도는 창을 좁혀도 더 커지지 않아요. 7일 창 -9.45%p와 1일 창 -9.41%p가 사실상 같아요. 반면 대시보드 누적은 -2.51%p로 4분의 1 수준이에요. 한 번 인지 도장이 찍힌 유저가 분자에서 영구히 빠지기 때문에, 개선을 실을 자리 자체가 작아요.
ABT 문서의 -14.62%p는 또 다른 저울이에요. 추천1 노출 유저를 분모로 두고 인지·비인지 이진으로 재요. 위 표의 -9.45%p는 세 기준을 같은 5단계 분류로 맞추고 판정 기간만 바꾼 값이라 세로로 비교할 수 있어요. 두 숫자 다 맞지만 섞어 쓰면 안 돼요.
안정성은 직관과 반대로 나와요. 절대 진폭은 7일 창이 5.40%p로 가장 크고, 상대 진폭은 대시보드가 22.1%로 가장 커요. 1일 창이 6.7%로 가장 안정적이에요. 그날 방문한 유저만 분모에 넣고 그날 인지만 분자에 넣으니 요일 효과가 서로 상쇄돼요.
주말에는 분모가 5.2만에서 2.1만으로 줄어요. 대시보드는 분자가 작아서 이 구성 변화가 비율에 크게 찍혀요. 일요일인 08-30과 09-06에 세 기준 모두 올라가는데, 상대적으로는 대시보드가 가장 심하게 흔들려요.
그래도 1일 창을 표준으로 올리는 건 권하지 않아요. 절대 수준이 56%라 목표치를 세울 수가 없고, ①콜드만 누적 판정을 유지해서 한 표 안에 기간 기준이 두 개 섞여요. 노이즈가 아니라 이 두 가지가 배제 이유예요.