김기철 의원 발언

위원 딥페이크 범죄가 빠르게 확산되고 있습니다. 처음에는 범죄인 것을 본인이 인식하지 못하고 시작하는 경우가 거의 대부분인 것 같습니다, 물론 악의적으로는 범죄에 이용되고 있습니다만. 허위 영상물 피해로 인한 명예훼손은 물론이고 2차 피해로 발전하게 되고요, 그러다 보니까 사회적으로 상당히 혼란스럽습니다.

그럼에도 불구하고 수사기관조차도 진위를 파악하는 데 상당한 시간을 필요로 합니다. 그렇다면, 수사기관에서도 사후에 대응을 하고 있는 실정이거든요. 그러다 보니까 상당 시간이 경과한 이후에나 그 결과를 알게 돼요.

그래서 피해는 막을 수 없을 정도로 확산된 이후에 알게 됩니다. 이것이 현재 상황인데요, 현재로서는 본인이 가짜인 것을 입증해야 되는 그런 현실 속에 있거든요. 그렇다면 판별 자체가 지연됨으로 인해서 2차 피해를 낳는 결과를 얻게 되는데 이것을 예방하는 방법이 없을까라는 생각을 하게 됩니다.

그래서 공적으로 가칭 AI콘텐츠진위판별기관을 설립해 보면 어떨까, 그런 말씀을 드리고 싶습니다. 우리 도자경위가 경찰청과의 협업 구조를 통해서 국비를 지원받을 수 있는 방안, 그래서 광역단위 시범센터를 건립해 볼 수 있는 안을 한번 수립해 보시면 어떨까 하는 말씀을 드리겠습니다.