제 7 장
시험 및 검증 결과
본 장은 시험 항목과 판정 기준을 먼저 확정하고, 수행 결과를 그 형식에 채우는 방식으로 작성한다. 항목을 먼저 고정하는 이유는 구현을 마친 뒤에 기준을 정하면 통과하기 쉬운 기준으로 기울기 때문이다.
시험은 아직 수행하지 않았다. 아래 결과표는 골격이며, 결과 항목은 시험 수행 후 기록한다.
1) 시험 환경 및 항목
시험 환경
| 항목 | 내용 |
|---|---|
| 대상 환경 | 〔확인 필요: 시험 서버 사양과 배포 형태〕 |
| 클라이언트 | 〔확인 필요: 시험 대상 단말과 브라우저〕 |
| 모델 | 제 4 장에서 선정한 모델과 설정 |
| 시험 데이터 | 아래 ‘시험 데이터’ 참조 |
| 수행 기간 | 〔확인 필요〕 |
| 수행자 | 〔확인 필요〕 |
기능 시험 항목
각 항목은 제 2 장의 기능 요구사항에 대응한다. 요구사항 하나가 시험 항목 없이 남지 않도록 대응 관계를 명시한다.
| ID | 대상 | 시험 내용 | 판정 기준 |
|---|---|---|---|
| TC-11 | FR-11 | 필수 항목을 갖춘 공고 등록 | 공고가 모집중 상태로 공개된다 |
| TC-12 | FR-11 | 유효성 규칙 위반 공고 등록 | 등록이 거부되고 사유가 반환된다 |
| TC-13 | FR-12 | 마감 시각 도달 | 상태가 마감으로 전이된다 |
| TC-14 | FR-12 | 클라이언트의 상태 직접 변경 시도 | 거부된다 |
| TC-15 | FR-13 | 조건에 맞는 공고 조회·알림 | 조건에 맞는 공고만 노출된다 |
| TC-21 | FR-21 | 동일 공고 중복 지원 | 거부된다 |
| TC-22 | FR-21 | 확정된 경기와 시간이 겹치는 지원 | 거부된다 |
| TC-23 | FR-22 | 후보 열람 시 매칭 호출 | 순위와 근거가 반환된다 |
| TC-24 | FR-22 | 매칭 응답 형식 검증 | 스키마를 벗어난 응답은 반영되지 않는다 |
| TC-25 | FR-23 | 조건 충족 후보가 모집 인원 미만 | 완화가 적용되고 완화 항목이 표시된다 |
| TC-26 | FR-24 | 참여자 확정 | 확정·미선정 알림이 각각 발송된다 |
| TC-27 | FR-24 | 확정자 취소 | 다음 순위가 대기자로 승격된다 |
| TC-31 | FR-31 | 종료 경기의 기록 입력 | 기록이 저장되고 영상 업로드가 요청된다 |
| TC-32 | FR-32 | 경기 영상 업로드 | 색인이 비동기로 시작되고 진행 상태가 표시된다 |
| TC-33 | FR-32 | 식별 신뢰도가 임계 미만인 장면 | 색인은 되나 스탯 산출에서 제외된다 |
| TC-34 | FR-33 | 근거 검색 후 판정 | 판정에 근거 장면 식별자가 함께 반환된다 |
| TC-35 | FR-33 | 근거가 검색되지 않는 주장 | 판정 불가가 반환되고 스탯에 반영되지 않는다 |
| TC-36 | FR-34 | 스탯 갱신 | 변동 폭 상한을 넘지 않는다 |
| TC-37 | FR-34 | 스탯 변동 이력 | 변동마다 근거 장면과 검증 결과가 남는다 |
| TC-38 | FR-35 | 신뢰도 산출과 등급 표시 | 표본 미달 시 검증중으로 표시된다 |
| TC-41 | FR-41 | 사전 취소·지각 취소·노쇼 | 구분되어 집계된다 |
| TC-42 | FR-42 | 이의 제기 접수 | 접수되고 처리 경로가 동작한다 |
비기능 시험 항목
| ID | 대상 | 측정 방법 | 목표 |
|---|---|---|---|
| NT-01 | NFR-01 | 후보 목록 요청부터 순위 표시까지의 소요 시간 | 〔확인 필요〕 |
| NT-02 | NFR-02 | 추천 상위 후보가 실제 확정으로 이어진 비율 | 〔확인 필요〕 |
| NT-03 | NFR-03 | 정답 근거 집합에 대한 Hit Rate / Recall@5 측정 | 90% / 90% |
| NT-04 | NFR-04 | 단일 경기로 인한 스탯 변동 폭 | 상한 이내 |
| NT-05 | NFR-05 | 신규 종목의 스탯 항목·플레이 이벤트 정의 후 동작 확인 | 코드 변경·배포 없이 동작한다 |
| NT-06 | NFR-06 | 좌표 저장 단위와 영상 촬영 동의 확인 경로 점검 | 구장 단위 저장, 동의 없는 영상 미색인 |
| NT-07 | NFR-07 | 경기 1건당 에이전트 호출 비용 실측(분석 프레임 포함) | 〔확인 필요〕 |
| NT-08 | NFR-08 | 영상 업로드부터 색인 완료까지 소요 시간 | 〔확인 필요〕 |
시험 데이터
매칭과 검증은 데이터가 쌓여야 동작을 확인할 수 있다. 계정 몇 개로는 순위 산출도 신뢰도 산출도 의미 있는 값이 나오지 않는다. 따라서 시험 전에 아래를 준비한다.
- 종목·포지션·실력대가 분포된 이용자 표본
- 종료 상태까지 진행된 과거 경기와 그 경기 영상
- 검색 성능 측정을 위한 정답 근거 집합 — 어떤 주장에 어떤 장면이 근거인지 사람이 미리 표시해 둔 자료
- 검증이 누적된 계정과 미검증 계정이 섞인 구성
〔확인 필요: 표본 규모와 생성 방식〕 실제 이용 데이터를 쓸 수 없는 단계이므로 생성 데이터를 사용하며, 생성 방식과 한계를 결과와 함께 기록한다.
2) 시험 결과
판정 구분
| 구분 | 정의 |
|---|---|
| 통과 | 판정 기준을 그대로 만족한다 |
| 부분 통과 | 주요 동작은 만족하나 일부 조건에서 기준에 미치지 못한다 |
| 실패 | 판정 기준을 만족하지 못한다 |
| 미실시 | 선행 기능 미구현 등으로 수행하지 못했다 |
부분 통과와 실패는 반드시 3절에 이슈로 기록한다.
기능 시험 결과
시험 수행 후 기록한다.
| ID | 판정 | 비고 |
|---|---|---|
| TC-11 ~ TC-42 | — | — |
비기능 측정 결과
시험 수행 후 기록한다.
| ID | 측정값 | 목표 대비 | 비고 |
|---|---|---|---|
| NT-01 ~ NT-08 | — | — | — |
에이전트를 거치는 항목(NT-01, NT-02, NT-03, NT-07, NT-08)은 측정값과 함께 측정 시점의 모델과 설정을 기록한다. 모델이나 설정이 바뀌면 값이 달라져 비교가 성립하지 않기 때문이다.
3) 발견 이슈 및 조치
기록 양식
시험 수행 후 기록한다.
| ID | 관련 항목 | 증상 | 원인 | 조치 | 재시험 결과 |
|---|---|---|---|---|---|
| — | — | — | — | — | — |
원인 칸에는 증상이 아니라 원인을 적는다. 증상만 남기면 같은 이슈가 다시 나왔을 때 이전 조치를 참고할 수 없다.
미해결 사항
조치하지 못한 항목은 숨기지 않고 남긴다. 각 항목에 대해 미해결로 남긴 판단 근거(영향 범위, 조치 비용, 우회 방법)를 함께 기록하고, 제 9 장의 향후 과제로 연결한다.