|
|
|
|
|
|
|
|
| 벤포드 법칙으로 데이터 신빙성 진단하기 by Bassam Hasan, Ph.D |
 |
|
| 글쓴이 : 신인철
날짜 : 07-08-30 23:23
조회 : 14927
추천 : 22 트랙백 주소 |
|
 http://www.isaca.org/Template.cfm?Section=Archives&CONTENTID=16172&TEM… (1886) |
|
|
벤포드 법칙으로 데이터 신빙성 진단하기
Assessing Data Authenticity with Benford's Law
저자 : Bassam Hasan, Ph.D
출처 : Information Systems Control Journal, Volume 6, 2002
컴퓨터가 데이터의 방대한 양을 처리할 수 있는 능력 및 속도 증가는 수치 데이터의 신빙성과 정확성을 진단하는 수단으로써 벤포드 법칙(benford’s law)으로 알려진 한 세기 이전의 수학적 모델에 관한 관심을 다시 불러일으키고 있다. 벤포드 법칙은 동일한 현상이나 사건에 연루되어 자연적으로 발생한 숫자들은 서로 관련이 있으며 그리고 1, 2 혹은 3으로 시작할 가능성이 크다는 사실을 주장한다. 이 법칙은 데이터 값의 신빙성을 진단하고 그리고 조작된 데이터 집합을 인지하기 위한 소중한 프레임워크를 제시한다. 벤포드 법칙의 검토는 이 법칙의 기원 및 개발의 설명을 통해서 이 중요한 법칙에 대한 보다 깊은 이해를 제공하며, 그리고 수치 데이터의 신빙성을 평가하는 것에서 그의 유용성에 대한 증거를 제공한다.
벤포드 법칙의 개발
1881년, 시몬 뉴콤브라는 수학자는 대수학 책이 뒷부분보다 앞부분 페이지들이 더욱 지저분하고 닳아있다는 것에 주목하였다. 뉴콤브는 연구원들이 뒷 페이지보다 더 자주 앞 페이지를 이용하고 있다고 믿었다. 이 앞쪽 페이지가 낮은 아라비아 숫자로 시작되는 수들을 포함하기 때문에, 뉴콤브는 낮은 아라비아 숫자가 높은 아라비아 숫자보다 더 자주 조사되고 사용된다고 추리하였다. 그는 자신의 관찰을 미국 수학 저널에 짧은 기사로 발표하였다.1)
뉴콤브의 주장들은 경험적 증거와 논리적 설명이 부족하기 때문에, 그 당시에는 주목할 만큼 관심을 끌지 못하였고, 그리고 이후에도 몇 년간 거의 주목받지 못하였다. 그러나, 거의 반세기가 지난 후에 이전 뉴콤브의 작업을 알지 못하는 제너럴 일렉트릭 연구소에 근무하는 프랭크 벤포드라는 물리학자도 같은 관찰을 하였다. 그는 낮은 아라비아 숫자를 보여주는 대수학 책의 앞쪽 페이지들이 높은 아라비아 숫자를 나타내는 뒤쪽 페이지들 보다 더욱 낧아 있는 것을 인지하였다. 그는 연구원들이 낮은 아라비아 숫자로 시작하는 수들을 조사하고 있다고 믿었다.
벤포드는 연구원들이 낮은 아라비아 숫자에 대해서 어떤 특별한 선호도를 가지고 있지 않지만, 대부분의 숫자가 낮은 아라비아 숫자로 시작된다고 믿었다. 벤포드는 강의 길이, 미국 행정구역의 주민 수, 그리고 사람들의 거리 주소 같은 다양하면서도 서로 닮지 않은 데이터 집합으로부터 20,000 개의 수치 데이터 값들을 수집하였다. 1938년에, 벤포드는 자기가 수집한 데이터 세트 에서 선두 아라비아 숫자들의 빈도를 표로 만들고, 자신의 발견을 미국 철학계의 회보에 상세한 기사를 발표하였다. 이 기사에서 벤포드는 회사의 매출(액) 같은 한가지 현상 혹은 사건을 묘사하는 수들은 서로 관련이 있으며 그리고 7,8 혹은 9 보다 1, 2 혹은 3으로 시작할 가능성이 더욱 많다고 주장하였다.
선도 숫자에 대한 벤포드 법칙
벤포드 법칙은 또한 ‘선도 숫자 빈도의 법칙’, ‘변칙적인 수들의 법칙’, ‘중요한 숫자 법칙’, 그리고 보다 최근에는 ‘숫자 빈도 분석’으로도 불린다. (Nigrini, 1999).2) 많은 사람들이 믿는 것과는 달리, 벤포드 법칙은 아라비아 숫자 1부터 9가 동일한 현상으로부터 나온 복수 자릿수의 수들에 있어서 선도 아라비아 숫자로 균등하게 나타나지 않고, 그리고 그 선도 숫자 분포가 무작위하지도 그렇다고 일정하지도 않다고 주장한다. 즉, 어떤 기초가 되는 현상의 결과로써 발생하는 수들은 서로 관련이 있다. 벤포드는 주어진 수에서 어느 숫자가 선도 숫자일 가능성을 추정하는 수학적 등식3)을 논리적으로 도출하였다. 선도 숫자들에 대한 벤포드 등식의 수학적 그리고 통계적 속성들은 벤포드에 의해 시험되었으며4), 나중에 Pinkham5) and Hill6)에 의해서 연구되고 검증되었다.
첫번째 자리와 둘째 자리의 숫자 빈도에 대한 벤포드 분포는 테이블 1에 나타나 있다. 테이블 1에서 볼 수 있듯이, 그 분포는 보다 낮은 숫자들로 편향되어 있다. 보다 정확하게는 어떤 복수 자리숫자가 1로 시작하는 것이 30 % 확률이다. 비슷하게 선두 숫자가 2일 가능성이 17.6 %이다. 9는 4.6 % 확률로써 선두 숫자로 나타날 가능성이 가장 낮은 숫자이다. 벤포드 법칙이 어떤 수가 0 으로는 시작할 수 없기 때문에 숫자 0 을 배제하는 것에 주목하는 것이 중요하다.
벤포드 법칙을 설명하기 위해 이용되었던 전통적인 사례가 인구의 증가이다. 7) 예를 들면, 어느 미국 행정구역의 주민 수가 10,000 이고 그 주민이 매년 2 % 씩 증가하고 있다고 가정하면, 그 군은 주민 수가 20,000 명으로 2배가 되는데 36년이 걸릴 것이다 (테이블 2). 즉, 그 지역의 주민 수는 약 36년 동안 1로 시작 될 것이다. 선두 숫자의 다음 변화는 주민 수가 30,000 명에 도달할 때 일어날 것이다. 그러나, 선두 숫자가 2에서 3으로 바뀌는데 약 20년이 걸릴 것이다. 마찬가지로, 14 년간은 선두 숫자가 3이 될 것이다. 끝으로, 선두 숫자가 8에서 9로 바뀌는 데는 6년 밖에 걸릴지 않을 것이다. 이 사례가 보여주듯이, 가장 긴 시간이 걸리는 선두 숫자의 변화는 1에서 2로의 변화이다. 더구나, 그 군민의 수가 1로 시작할 가능성은 9로 시작할 가능성 보다 약 9배 높다. 테이블 2는 선두 숫자들과 그 지역 주민의 수가 각 숫자 별로 시작할 전체 년 수를 보여준다.
이 결과의 신빙성을 높이기 위하여, 벤포드 법칙에 의해 분석된 데이터 집합들은 7 개의 조건을 만족하여야 한다. 벤포드8)와 닉리니9)는 후보 데이터 집합들은 다음의 특성들을 보유해야만 한다고 제안한다.
l 데이터는 수치여야만 한다. 벤포드는 수치로된 데이터 집합에서 선두 숫자의 예상 빈도를 추정한다.
l 수들은 어떤 방식으로든 서로 관련이 있어야만 하고 그리고 같은 현상(예, 주식 가격들)에 속해야 한다. 바꾸어 말하면, 발생하는 수들에 대해서 근원적인 동기 (예, 현상 혹은 사건) 가 있어야만 한다. 예를 들어, 주식 가격은 경제적 및 재무적 파워들이 경쟁함으로써 영향을 받는다.
l 해당 수들은 최대 혹은 최소 값 (예를 들면, 시간당 최저 임금) 으로 제한을 받지 않는다. 이러한 한도는 어떠한 수들의 배제를 초래하고 그리고 결과적으로는 선도 숫자의 빈도 분포를 왜곡시킬 것이다.
l 수들은 자연적으로 발생되어야만 하고, 그리고 전화 번호 혹은 신분 번호처럼 창작되거나 할당되지 않는다. 할당된 수들은 어떤 미리 정해진 순서로 할당될 것이다. 그 결과, 할당된 수들의 선도 숫자들의 분포는 지정된 숫자들로 편향될 것이다.
l 그러한 수들은 최소한 4 또는 5 자릿 이상의 숫자이여만 한다. 그러나, 그 숫자가 4자릿수 보다 작다면, 둘째 숫자의 빈도가 이용될 것이다.
데이터 정확성
데이터 정확성은 데이터 품질의 기초적인 요소를 나타내고10) 그리고 정보시스템의 전반적인 성공에 절대적이다(Hirgi, 2001). 11) 정보시스템에는 데이터에 대한 비승인 접근과 편집을 못하도록 하는 다양한 내장 기능이 내포되어 있다. 그러나 그러한 보안 수단이 목적 달성하는 데에는 한계가 있다. 예를 들면, 보안 특성들은 데이터에 대한 비승인 접근을 예방하고, 읽기/쓰기 허가를 보증하고 그리고 오직 승인된 사용자만이 저장 데이터에 대한 접근을 얻도록 허락한다. 그러나, 일단 승인된 사용자가 해당 데이터에 접근하면, 이러한 보안 체크는 데이터의 의도적 조작 혹은 우발적 수정은 막지 못한다.
벤포드 법칙은 위에서 언급된 문제를 위한 잠재적인 해결책을 제시한다. 벤포드 법칙의 주된 응용은 데이터 집합 내에서 일관성이 없고 부정한 데이터 값을 발견하는 것이다. Hill에 따르면12), 사람은 2가지 방법으로 원래의 수와 조작된 수를 구별할 수 있다:
l 유효한 수치 데이터 집합 안에서는 존재할 가능성이 높은 값들을 확인
l 왜곡된 데이터 집합 안에서는 잘 나타날 것 같지 않는 값들을 확인
이러한 접근 방법을 증명하기 위해서, 힐은 자신의 학생들에게 동전을 200번 던져서 나온 앞면과 뒷면의 수를 기록하도록 요구하였다. 그는 역시 학생들에게 동전을 던지지 않고 결과를 조작하도록 허락하였다. 다음 날, 학생들은 힐이 원본과 조작된 것을 분간하였을 때 놀라워하였다. 힐은 앞면 혹은 뒷면의 6번의 연속적 발생이 매우 가능성이 있음을 지적한다. 그러나 그러한 사실을 인식하지 않고 데이터를 조작하려 시도한 사람들에게는 이러한 기묘한 일이 일어날 가능성이 없어 보인다.
본질적으로, 벤포드 법칙은 매우 있을 법하면서도 있을 법하지 않는 값들의 가능성을 확인한 것이며, 그리고 결과적으로 데이터 집합 안에서 수들에 대한 가능하지 않은 것뿐만 아니라 가능한 것의 빈도를 인식하는데 이용될 수 있다. 선도 숫자 빈도 법칙은 임의로 발생하는 수치 데이터 집합에서 선도 숫자들은 서로 관련이 있으며 그리고 대수적으로 분포되어 있다는 것을 나타낸다. 그래서, 왜곡되거나 의도적으로 수정된 수들은 벤포드 법칙에 의해 기대되는 분포 패턴을 보이지 않는 것 같다.
자신들의 개조를 감추기 위해서, 수를 변조하는데 벤포드 법칙에 친숙하지 않는 사람은 무작위인 것으로 보이는 수들을 산출하려 시도한다. 그러므로, 조작된 수들의 선도 숫자는 대수적 분포 보다는 일관되거나 무작위로 보일 가능성이 아주 많다. 따라서, 수치 데이터 집합은 일람표로 만들 수 있고 그리고 그들의 선도 숫자의 빈도가 계산되고 그리고 벤포드의 기대 빈도와 비교된다. 그 빈도 사이에 일관성이 없다면, 데이터 집합 속의 수들의 유효성은 재조사 되어야만 한다.
무작위 수들의 실험
선도 숫자에 관한 벤포드 법칙의 주요 전제들은 다음과 같다: (1) 어떤 주어진 현상으로부터 초래된 진정한 수들은 서로 관련이 있으며, 그리고 (2) 그들의 선도 숫자의 빈도는 서로 관련이 없거나 무작위한 수들의 빈도처럼 일정하거나 무작위하지 않다. 경험적으로 이러한 주장을 시험하기 위한 최상의 방법은 실질 비즈니스 데이터를 이용한 조직적인 무대 속에 있는 것이다. 그러나, 조직들은 경쟁 및 개인정보보호 때문에 그들의 데이터베이스에 대한 외부의 접근을 허락하는 것을 항상 꺼려한다. 13) 그러므로, 경험적으로 벤포드 법칙을 조사하기 위하여, 이 논문의 저자들은 관련없고 무작위한 수들을 생산하기 위한 시뮬레이션 프로그램을 만들었다. 이 시뮬레이션 프로그램은 각 집합 속에 500개씩 들어있는 3개의 집합을 만들었다. 각 집합의 수들은 서로 다른 수치의 범위에서 뽑혀졌다(예, 1부터 999, 1부터 9,999 그리고 1부터 99,999). 이로써, 모두 1,500 개의 무작위 수들이 생성되고 사용되었다.
역시 이 프로그램은 각 숫자 영역의 범주 안의 개별적 수들의 집합에서 선도 숫자의 평균 빈도를 계산한다. 이 평균 빈도가 요약되어서 테이블 3에 나타나 있다. 나아가, 테이블 3은 벤포드 법칙에 의해 제시된 것으로 선도 숫자의 기대되는 빈도를 나타낸다. 테이블 3에 나타난 선도 숫자 빈도는 2가지 주요 결론을 강조한다. 첫째, 모든 범위의 범주에서 완전 무작위한 수들의 선도 숫자 빈도는 벤포드의 기대 빈도와 어울리지 않는다. 둘째, 테이블 3의 숫자 빈도는 무작위 수들의 선도 숫자의 분포는 거의 같거나 일률적이다. 결론적으로, 이러한 결과는 자연적으로 발생한 수들과는 달리, 완전 무작위하고 관련없는 수들은 더욱 선도 숫자들의 균등 분포를 나타낸다는 점에서 벤포드 법칙과 일치한다.
선도 숫자 빈도의 분석은 다양한 조직적 상황에 적용된다. 예를 들면, 월 스트맅 저널14)은 뉴욕에 있는 지역 변호사 사무소가 재무 데이터 조사에 있어 벤포드 법칙을 적용하고 있다고 보도하였다. 7개 회사에서 발행된 784개 수표의 총액을 일람표로 만들었다. 그 숫자들의 빈도가 일람표로 작성되어 벤포드의 기대 빈도와 비교되었다. 103개 수표에 대한 총액이 기대 패턴에 어긋났다. 이어진 조사에서 해당 수표 총액이 실제로 진짜가 아니고, 경리직원이나 점원에 의해 고의적으로 변경된 것으로 판명되었다. 닉리니15)는 선도 숫자 빈도 분석이 데이터 집합 안에서 비일관성 및 불규칙성을 보여주는 추가적인 예시와 사례를 보여준다.
결론
벤포드 법칙은 어떤 주어진 현상을 설명하는 수치 데이터 집합에서 선도 숫자 빈도의 분포는 균등하거나 임의적이지 않다는 것을 나타낸다. 벤포드는 선도 숫자로 나타난 어떤 숫자의 기대 확률을 추정하는 수학적 등식을 이끌어냈다. 벤포드 법칙에 따르면, 어떤 데이터 집합에서 무작위로 취한 복수 자릿수의 수는 1 로 시작할 가능성이 제일 많고 그리고 9로 시작할 가능성은 가장 적다.
이 논문은 선도 숫자에 관한 벤포드 법칙을 검토하였으며, 그리고 데이터 보안 및 정확성에 대한 벤포드 법칙의 실질적인 관계를 보여주었다. 1,500 개의 정말로 무작위하고 서로 관련 없는 수들을 이용해서, 이 논문은 서로 관련없고 독립적인 임의의 수들을 인지하는데 있어서 벤포드 법칙의 유용성을 증명하였다. 임의의 수들에서 선도 숫자의 빈도는 관련있는 수들에 대한 벤포드의 기대 빈도와는 분명한 차이를 나타내었다. 그러한 차이가 데이터 집합 안에서 발생할 때, 이것은 보통 데이터 집합 내의 수들이 본래의 것이 아닐 수 있고 그리고 수정되었을 수 있음을 가리킨다.
여러 중요한 조직적 프로세스들에 있어서 데이터 신빙성 및 정확성은 매우 핵심적이다. 정확한 데이터는 의사결정, 문제 해결, 계획수립 및 고객 서비스를 위해 절대적인 올바른 정보와 지식이 된다. 이와 반대로, 일관성이 없고 조작된 데이터는 성과 및 재무적 손실을 초래할 수 있는 잘못된 지식을 생산한다. 벤포드 법칙은 데이터의 신빙성을 조사하고 왜곡된 데이터 집합을 발견함으로써 데이터 품질을 향상시키기 위한 효과적이고 간단한 접근방법을 제공한다. 비즈니스 환경에서 벤포드 법칙의 적용은 데이터 무결성 및 품질을 보존할 뿐만 아니라, 또한 부정한 비즈니스 및 관리 활동을 발견할 수 있다.
역자에 의한 벤포드 법칙의 증명
역자가 경험한 실질 비즈니스 사례를 소개함으로써 벤포드 법칙의 실질적인 유효함을 보여주고자 한다.
그 사례는 다름아닌 금융기관의 수탁고(일종의 예금 잔고)에 대한 것이다. 물론 금융기관 수탁고의 증감에 영향을 미치는 많은 변수가 있을 수 있다. 특히 경기 동향 혹은 경쟁사 동향 등 특수한 조건에 따라 시중 자금 흐름에 급격한 이동이 있을 수 있으나, 그러한 특별한 조건을 배제하더라도 보다 실질적인 사례로써 부족하지 않다고 생각하기 때문에 고려하지 않기로 한다.
일반적인 증가 추세에 있어서, 수탁고 증가에 영향을 끼치는 요인은 이자 발생과 같은 자연 증가분과 직원들의 영업 활동에 의한 증가분으로 구분할 수 있다. 전자는 앞에서 이용한 지역 주민의 인구 증가율을 일정하게 하였을 때와 동일하다.
그러나, 보다 중요한 요소는 직원들의 영업 활동 노력에 기인한다. 대부분의 조직은 목표를 설정할 때, 100억, 1천억, 1조 그리고 10조 등과 같은 1로 시작하는 수치를 8 (백억)또는 9 (백억)로 시작하는 수치보다 더 애용한다. 따라서, 7, 8 또는 9가 선도 숫자로 존재할 때는 1로 시작하는 목표치를 한시바삐 달성하기 위해서 특별 판촉 행사 같은 대대적인 영업활동을 하게 마련이다. 반면에, 일단 목표를 달성하게 되면, 지친 몸을 추스리기 위해서라도 한동안 소강 상태를 유지하게 된다. 자연증가분에 더하여, 이러한 현실은 자연적으로 수탁고라는 수들의 집합을 벤포드 법칙에 부합할 수밖에 없게 만든다.
본 글은 그 법칙을 독자적으로 증명하는데 있는 것이 아니라 좋은 글을 번역 소개하는 것이 우선 목적이기 때문에, 구체적인 분석을 통해서 수치적 데이터를 제시하는 것은 생략하기로 한다.
Endnotes
1 Necomb, S., "Note on the frequency of use of different
digits in natural number," American Journal of Mathematics, pp. 4, 39-40, 1881
2 Nigrini, M., "The peculiar patterns of first digits," IEE Potentials, pp. 18, 24-27, 1999
3 p(n) = log10(1 + 1/n), n= 1,2,3,...,9
4 Benford, F., "The law of anomalous numbers," Proceedings of American Philosophical Society, pp. 78, 551-572, 1938
5 Pinkham, R., "On the distribution of the first significant digits," Annals of Mathematical Statistic, pp. 32, 1223-1230, 1961
6 Hill, T., "The difficulty of faking data," Chance 26, 8-13. 1999; "A statistical derivation of the significant-digit law," Statistical Science, pp. 10, 354-363, 1996
7 Nigrini
8 Benford
9 Nigrini
10 O'Leary, D. E., "The impact of data accuracy on system learning," Journal of Management Information Systems, pp. 4, 83-98, 1993.
11 Hirji, K. K, "Exploring data mining implementation," Communications of the ACM, pp. 44, 87-93, 2001.
12 Hill
13 Hirji
14 "He's got their numbers: scholar uses math to foil financial fraud," The Wall Street Journal, p. B1, 10 July 1995.
15 Nigrini
Bassam Hasan, Ph.D.
is an assistant professor of information systems at the University of Toledo. His research interests include computer learning and training, end-user management, and database management and mining. He can be reached at bhasan@utnet.utoledo.edu.
Copyright © 2002 Information Systems Audit and Control Association®. All rights reserved. Email webmaster@isaca.org with questions or comments about this web site. Disclaimer and Privacy Statements.
|
|
|
|
| |
|
HOME > 커뮤니티 > 서평 & 번역물
