수집부터 폐기까지 데이터 품질이 실제 용도에 맞는지 계속 확인하기

## 데이터 용도에 맞춰 필요한 품질 기준 정하기 품질을 데이터가 특정 의사결정, 서비스, 분석 또는 의무를 지원할 수 있는 정도로 보십시오. 데이터 세트가 형식적으로 잘 구성되어 있어도 특정 용도에는 적합하지 않을 수 있으므로, 데이터가 ‘좋다’는 일반적인 약속이 아니라 맥락에서 시작해야 합니다. - 의도한 사용자, 의사결정, 결과물, 오류가 초래할 결과를 명시하십시오. - 해당 용도에서 중요한 품질 특성별로 허용 가능한 최소 임계값을 기록하십시오. - 관찰 가능한 증거와 적합성에 관한 가정을 구분하십시오. - 목적, 사용자 또는 운영 환경이 바뀌면 적합성을 다시 평가하십시오. ## 데이터와 수정 작업마다 담당자 정하기 품질을 명확한 의사결정 권한이 수반되는 공동의 운영 책임으로 삼으십시오. 고위 리더는 작업에 자금을 지원하고 우선순위를 정하며, 최종 책임자는 잔여 위험을 수용하고, 전문가는 통제를 설계하며, 데이터를 생성하거나 다루는 사람은 이를 일상 업무에 적용합니다. - 중요한 데이터 세트, 통제, 문제, 개선 조치마다 이름이 명시된 책임자를 지정하십시오. - 누가 예외를 수용할 수 있고 누구에게 반드시 알려야 하는지 정의하십시오. - 기여자가 각자의 역할과 관련된 표준과 점검 방법을 익히도록 교육하십시오. - 역량 격차, 반복되는 결함, 기한이 지난 조치를 정기적으로 검토하십시오. ## 데이터가 실제로 어떻게 쓰이는지 묻고 수정 순서 정하기 데이터 생산자가 예상하는 사용 방식뿐 아니라 데이터가 실제로 어떻게 사용되는지에 관한 증거를 수집하십시오. 사용자마다 필요한 최신성, 세부 수준, 포괄 범위 또는 정밀도가 다를 수 있으며, 한 가지 개선이 특정 용도에는 도움이 되지만 다른 용도에는 해가 될 수도 있습니다. - 생산자, 처리 담당자, 분석가, 운영자, 수신자를 대표할 수 있는 사람들을 인터뷰하십시오. - 각 용도를 의사결정, 의존 관계, 실패의 영향, 불확실성에 대한 허용 범위와 연결하십시오. - 사용자 가치, 방지할 수 있는 피해, 도달 범위, 구현 비용을 기준으로 개선 과제의 우선순위를 정하십시오. - 수요가 변하거나 결과가 중대한 새로운 용도가 등장하면 우선순위를 다시 검토하십시오. ## 계획부터 폐기까지 단계마다 확인할 것 정하기 수명주기를 서로 연결된 순환 구조로 모델링하십시오. 계획하고, 확보하고, 준비 및 유지관리하고, 사용하고, 공유한 뒤 보존하거나 폐기합니다. 초기에 유입된 결함은 나중에 의사결정을 하거나 공개할 때까지 드러나지 않을 수 있으므로, 품질 활동은 이러한 모든 단계에서 데이터를 따라가야 합니다. - 모든 단계에 대해 진입 기준, 종료 기준, 검증, 증거, 책임을 정의하십시오. - 중요한 필드를 원천부터 변환 과정을 거쳐 최종 결과물까지 추적하십시오. - 문제의 원인을 제거할 수 있는 가장 이른 단계로 해당 문제를 돌려보내십시오. - 검토자가 무슨 일이 있었는지 재구성할 수 있도록 충분한 데이터 계보와 의사결정 이력을 보존하십시오. ## 데이터를 수집하는 시점에 잘못된 값 막기 데이터를 포착하는 시점에 예방 가능한 결함을 막으십시오. 수집 규칙은 예상 값을 쉽게 제공할 수 있게 하고, 정당한 예외를 숨기지 않으면서 불가능한 값을 거부하며, 각 레코드의 출처와 의미를 설명하기에 충분한 맥락을 보존해야 합니다. - 필수 필드, 형식, 범위, 식별자, 참조 값을 검증하십시오. - 누락되거나 중복되거나 서로 충돌하거나 예기치 않게 변경된 레코드를 탐지하십시오. - 출처, 수집 시각, 정의, 알려진 변환을 기록하십시오. - 하위 단계의 사용자가 원천 책임자에게 결함을 보고할 수 있도록 피드백 경로를 제공하십시오. ## 데이터 처리 전후로 건수와 합계 맞춰 보기 데이터가 표준화, 연결, 변환, 마이그레이션 또는 갱신되는 동안 그 의미를 보호하십시오. 실용적인 범위에서 안정적인 점검을 자동화하되, 모호한 관계, 중대한 이상, 해석을 바꿀 수 있는 변경 사항은 사람이 계속 검토해야 합니다. - 문서화된 규칙과 대표적인 경계 사례를 기준으로 변환을 테스트하십시오. - 처리 전후의 건수, 합계, 키, 핵심 속성을 대조하십시오. - 드리프트, 오래된 레코드, 스키마 변경, 끊어진 링크, 설명되지 않는 데이터 양의 변화를 모니터링하십시오. - 정의와 통제를 이를 구현하는 시스템과 함께 버전 관리하십시오. ## 쓰거나 공유하기 전에 데이터가 그 용도에 맞는지 확인하기 분석, 운영 배포 또는 외부 공유 전에 데이터가 해당 용도에 여전히 정확히 적합한지 확인하십시오. 기술적으로 유효한 데이터라도 맥락이나 보호 조치가 없으면 피해를 일으킬 수 있으므로 접근, 개인정보 보호, 공개, 품질 통제를 함께 적용하십시오. - 중요한 결과물을 원천 증거 및 알려진 한계와 대조하여 검토하십시오. - 정의, 데이터 계보, 품질 조사 결과, 허용된 용도를 데이터와 함께 게시하거나 전달하십시오. - 결함으로 인해 이전 결론이 바뀌면 수정 사항을 기록하고 영향을 받는 수신자에게 알리십시오. - 보존 또는 폐기 단계에서는 요구된 기간 동안 무결성, 감사 증거, 필수 지식을 보존하십시오. ## 데이터 문제를 하나의 점수로 묶지 말고 종류별로 측정하기 서로 다른 실패 유형을 하나의 점수로 합치지 말고 각각 별도의 척도로 측정하십시오. 최소한 필수 값이 존재하는지, 각 엔터티가 한 번만 표현되는지, 여러 출처 간 값이 일치하는지, 데이터가 충분히 최신인지, 값이 명시된 규칙을 충족하는지, 레코드가 현실을 반영하는지 검토하십시오. - 각 지표의 대상 모집단, 분자, 분모, 제외 항목, 시간 범위를 정의하십시오. - 보편적인 목표를 그대로 가져오지 말고 용도와 위험에 따라 임계값을 정하십시오. - 규칙 준수와 현실 세계에서의 정확성을 명확히 구분하십시오. - 의사결정이 핵심 품질 차원에 포함되지 않은 특성에 좌우된다면 전문적인 품질 차원을 추가하십시오. ## 무엇을 확인했고 무엇을 확인하지 않았는지 사용자에게 알리기 사용자가 스스로 적합성을 판단할 수 있도록 충분한 정보를 제공하십시오. 품질 보고서에는 무엇을 테스트했고 무엇을 테스트하지 않았는지, 결과, 사업에 미치는 영향, 해결되지 않은 불확실성, 다음 조치의 책임자와 시점을 명시해야 합니다. - 재현에 필요한 정의는 유지하면서 알기 쉬운 언어를 사용하십시오. - 현재 상태와 변화의 방향을 모두 보고하십시오. - 보장 수준을 높이기 위해 기다릴 것인지, 포괄 범위가 낮더라도 더 일찍 배포할 것인지와 같은 상충 관계를 설명하십시오. - 확인된 결함, 의심되는 위험, 수용된 예외, 미지의 사항을 구분하십시오. ## 반복되는 오류를 근본 원인부터 고치고 증거로 문제 닫기 반복되는 결함을 개별적인 정리 작업이 아니라 취약한 프로세스의 신호로 보십시오. 즉각적인 피해를 억제하고, 결함이 어떻게 유입되어 탐지를 피했는지 조사한 다음, 가장 이른 단계의 효과적인 통제를 변경하고 그 변경이 시간이 지나도 효과가 있는지 검증하십시오. - 심각도, 영향을 받는 용도, 증거, 책임자, 기한, 상태와 함께 문제를 기록하십시오. - 사고, 단계, 출처, 통제 전반의 패턴을 분석하십시오. - 결과를 임계값 및 이전 기간과 비교하여 악화 또는 개선 여부를 파악하십시오. - 근본 원인이 통제되고 중대한 하위 단계 영향이 남아 있지 않다는 증거가 확인된 뒤에만 조치를 종료하십시오.