한줄 요약
지호님 기준 뭘로 할까요
추천 인지 지표를 재는 저울이 세 개예요. 같은 유저·같은 분모·같은 5단계 분류인데 판정 기간만 달라서, ②비인지가 15.75% · 48.27% · 55.73% 로 갈려요. 어느 걸 표준으로 둘지 정해야 문서마다 숫자가 달라지는 일이 없어요.

추천 인지 지표 기준 비교

요약

대시보드 (가입 이후 전체)7일 창 (ABT 기준)1일 창
판정가입 이후 한 번이라도 인지최근 7일에 인지당일 인지
분모유저-일 · 34,511 (ABT A군)유저 · 28,531 (ABT A군)유저-일 · 34,511 (ABT A군)
비인지 (8/31주)15.75%48.27%55.73%
ABT A/B 격차-2.51%p-9.45%p-9.41%p
일별 진폭3.59%p (상대 22.1%)5.40%p (상대 12.2%)3.78%p (상대 6.7%)

같은 유저, 같은 분모, 같은 5단계 분류예요. 인지·채택을 언제까지 거슬러 세는지만 달라요. 그것만으로 ②비인지가 15.75%에서 55.73%까지 벌어져요.

감도는 판정 기간을 하루로 좁혀도 더 커지지 않아요. 7일 창과 1일 창의 ABT A/B 격차가 -9.45%p와 -9.41%p로 거의 같아요. 대시보드 누적만 -2.51%p로 4분의 1 수준이에요.

방향은 세 기준 모두 같아요. 배포 후 ②비인지가 줄었고, 판정 기간을 좁힐수록 변화폭이 커져요. 배포 성과 판정은 가운데 기준(7일 창)을 써요. ABT가 그 저울로 위너 판정을 받았기 때문이에요.


① 예시 · 한 유저의 판정 추적

두 기준이 같은 사람 같은 날에 어떻게 다르게 판정하는지

김OO 3/2(월)에 추천3 슬롯을 한 번 봤고, 이후 추천 관련 행동 없음
날짜그날 한 일대시보드7일 창 (ABT)1일 창
3/2 (월)추천3 슬롯을 봄③인지·안씀③인지·안씀③인지·안씀
3/6 (금) · 같은 주방문, 추천 행동 없음③인지·안씀③인지·안씀②비인지
3/9 (월) · 다음 주방문, 추천 행동 없음③인지·안씀②비인지②비인지
9/3 (목) · 6개월 후방문, 추천 행동 없음③인지·안씀②비인지②비인지
박OO 4/6(월)에 추천으로 템플릿을 채택(2회차), 이후 추천 관련 행동 없음
날짜그날 한 일대시보드7일 창 (ABT)1일 창
4/6 (월)추천으로 채택 (2회차)⑤재사용⑤재사용⑤재사용
4/10 (금) · 같은 주방문, 추천 행동 없음⑤재사용⑤재사용②비인지
9/3 (목) · 5개월 후방문, 추천 행동 없음⑤재사용②비인지②비인지

세 기준이 갈리는 지점이 표 안에 그대로 있어요. 같은 주 안(3/6, 4/10)에서는 1일 창만 ②비인지로 떨어지고, 다음 주로 넘어가면(3/9) 7일 창도 따라 떨어져요. 대시보드는 6개월이 지나도 끝까지 안 내려와요.

박OO처럼 채택 이력이 있으면 격차가 더 벌어져요. 대시보드의 ⑤재사용은 한 번 올라가면 내려오지 않는 자리라, 5개월간 추천을 쓰지 않은 사람도 ⑤에 남아 있어요.

이게 같은 유저 집단인데 ②비인지가 15.75%, 48.27%, 55.73%로 세 갈래로 나오는 이유예요. 사람이 다른 게 아니라 "비인지"라는 말의 뜻이 세 기준에서 다른 거예요.

한 문서 안에서 기준을 섞어 쓰지 않는 게 중요해요. 섞으면 같은 이름의 지표가 15.75%와 55.73%로 동시에 등장해요. 표마다 판정 기간을 적어두면 헷갈리지 않아요.

이상 여부: 해석 주의

② 두 기준의 정의 대조

소스와 분모, 5단계 분류 규칙은 동일해요. 판정 기간만 바꿨어요

항목대시보드 기준7일 창 판정 (ABT 분석기준)1일 창 판정
소스segment_dailyrecommend_event_base 직접 집계recommend_event_base 직접 집계
분모템플릿페이지 방문 유저같음 (주별 중복 제거)같음 (일별 중복 제거)
세그먼트콜드 · 비인지 · 인지·안씀 · 첫사용 · 재사용같음같음
우선순위콜드 > 재사용 > 첫사용 > 인지·안씀 > 비인지같음같음
인지 판정aware_first가 그날 이전이면 인지그 주에 인지 이벤트가 있으면 인지그날 인지 이벤트가 있으면 인지
채택 판정1·2회차 채택일이 그날 이전이면 사용그 주에 추천 채택이 있으면 사용그날 추천 채택이 있으면 사용
①콜드 판정템플릿 채택 이력 없음 (누적)같음 (누적 유지)같음 (누적 유지)
유저 1명이 차지하는 행방문한 날마다 1행방문한 주마다 1행방문한 날마다 1행

바꾼 건 두 줄이에요. 인지와 채택을 aware_first <= p_date 처럼 누적으로 보지 않고, 그 창 안의 이벤트만으로 봤어요. ①콜드는 신규 유저를 가리키는 정의라 세 기준 모두 누적을 그대로 뒀어요.

7일 창은 유저 1명이 방문한 주마다 1행이라 분모 자체가 작아요. 06-01 주에 대시보드·1일 창은 37만 유저·일이고 7일 창은 28만 유저·주예요. 그래서 ①콜드 비중도 4.5%와 5.5%로 조금 달라요.

이상 여부: 정의 1개 변수만 변경

③ 기준별 세그먼트 비중

2026-06-01 ~ 09-06 주별. 같은 데이터를 판정 기간만 바꿔 세 번 그렸어요. 8/25 전체배포는 08-24 주부터 반영돼요

대시보드 기준 가입 이후 전체 누적
7일 창 판정 (ABT 분석기준) 그 주 7일 안의 행동
1일 창 판정 그날 하루의 행동
②비인지만 겹쳐 보기 세 기준 동시 비교

모양이 완전히 달라요. 대시보드 기준은 ⑤재사용이 아래를 두껍게 채우고 ②비인지가 얇은 띠로 남아요. 판정 기간을 좁히면 그 띠가 화면 절반 이상으로 커져요. 누적 기준에선 과거에 한 번 인지·채택한 사람이 전부 위 단계에 쌓여 있기 때문이에요.

그래도 8월 말 꺾이는 지점은 세 기준에서 모두 같은 자리에 나타나요. 방향은 같고 진폭만 다르다는 뜻이에요.

이상 여부: 방향 일치

④ 배포 전후 변화 대조

처치 0%였던 08-17 주와 완전 처치 주인 08-31 주의 차이

세그먼트별 변화폭 %p
세그먼트대시보드7일 창 (ABT)1일 창
①콜드+0.15+0.28+0.15
②비인지-2.17-8.73-8.97
③인지·안씀+1.44+8.28+8.86
④첫사용+0.16+0.22+0.11
⑤재사용+0.42-0.05-0.15
②비인지 수준 %
기준08-17 주 (0%)08-31 주 (100%)변화
대시보드17.9215.75-2.17
7일 창 (ABT)57.0048.27-8.73
1일 창64.7055.73-8.97

②비인지와 ③인지·안씀은 세 기준 모두 방향이 같아요. 판정 기간을 좁힐수록 변화폭이 커져서 대시보드 대비 4배까지 벌어져요. 누적 기준에선 이미 인지 도장이 찍힌 사람이 분자에서 빠져 있어 움직일 여지 자체가 작아요.

⑤재사용만 방향이 갈려요. 누적에선 과거 채택자가 계속 쌓여 +0.42%p 늘고, 창 기준에선 그날·그 주에 실제로 채택한 사람만 세니까 거의 변화가 없어요. 12일짜리 배포로 재사용 스톡이 늘 수는 없으니 누적 쪽 +0.42%p는 배포 효과가 아니라 유저 구성 변화로 보는 게 맞아요.

확인하지 못한 것도 남겨요. 창 기준에서 ④첫사용과 ⑤재사용을 가르는 기준은 그날(또는 그 주) 채택이 생애 첫 추천 채택인지로 잡았어요. 대시보드처럼 2회차 도달을 쓰지 않았으니 ④·⑤ 절대값을 기준 간에 나란히 놓지는 말아 주세요. ②비인지와 ③인지·안씀은 정의가 같아 비교해도 괜찮아요.

이상 여부: ④·⑤ 절대값 비교 주의

⑤ 기준별 감도와 안정성

ABT 기간 08-11~08-17을 세 기준으로 다시 판정한 결과, 그리고 배포 후 안정 구간 08-25~09-06의 일별 진폭

ABT A/B 격차 ②비인지 %
기준분모A 대조군B 실험군격차
대시보드34,511 유저-일22.3119.80-2.51
7일 창 (ABT)28,531 유저61.8752.42-9.45
1일 창34,511 유저-일66.5857.17-9.41
일별 진폭 ②비인지 · 13일
기준최저최고절대 진폭상대 진폭
대시보드14.9618.553.59%p22.1%
7일 창 (ABT)42.3047.705.40%p12.2%
1일 창55.2459.023.78%p6.7%

감도는 창을 좁혀도 더 커지지 않아요. 7일 창 -9.45%p와 1일 창 -9.41%p가 사실상 같아요. 반면 대시보드 누적은 -2.51%p로 4분의 1 수준이에요. 한 번 인지 도장이 찍힌 유저가 분자에서 영구히 빠지기 때문에, 개선을 실을 자리 자체가 작아요.

ABT 문서의 -14.62%p는 또 다른 저울이에요. 추천1 노출 유저를 분모로 두고 인지·비인지 이진으로 재요. 위 표의 -9.45%p는 세 기준을 같은 5단계 분류로 맞추고 판정 기간만 바꾼 값이라 세로로 비교할 수 있어요. 두 숫자 다 맞지만 섞어 쓰면 안 돼요.

안정성은 직관과 반대로 나와요. 절대 진폭은 7일 창이 5.40%p로 가장 크고, 상대 진폭은 대시보드가 22.1%로 가장 커요. 1일 창이 6.7%로 가장 안정적이에요. 그날 방문한 유저만 분모에 넣고 그날 인지만 분자에 넣으니 요일 효과가 서로 상쇄돼요.

주말에는 분모가 5.2만에서 2.1만으로 줄어요. 대시보드는 분자가 작아서 이 구성 변화가 비율에 크게 찍혀요. 일요일인 08-30과 09-06에 세 기준 모두 올라가는데, 상대적으로는 대시보드가 가장 심하게 흔들려요.

그래도 1일 창을 표준으로 올리는 건 권하지 않아요. 절대 수준이 56%라 목표치를 세울 수가 없고, ①콜드만 누적 판정을 유지해서 한 표 안에 기간 기준이 두 개 섞여요. 노이즈가 아니라 이 두 가지가 배제 이유예요.

이상 여부: 감도 동등 · 안정성 역전