허정미위원
허정미 위원입니다. 우선 인천광역시부평구 인공지능행정지원플랫폼 및 데이터 기반 행정 구현에 관한 조례안을 발의하신 김동규 의원님께 수고하셨다는 말씀을 드리면서 몇 가지 우려와 함께 제가 염려스러운 부분과 궁금점을 과장님께 질의하겠습니다. 이 조례안을 보면 1조부터 11조까지이고요, 특히 제7조 업무 발굴 및 활용, 제8조 플랫폼 구축·운영, 제9조 데이터 관리 협조, 제10조 교육·협력, 제11조 우수 사례 공유·포상이 핵심입니다. 전체적으로 보면 조례 제정 취지는 굉장히 타당한 게 맞고요. 우리가 과정을 토의하고 이렇게 하는 과정에서 몇 가지 중요한 보완점 질문을 한번 드리겠습니다. 특히 지금 시행 중인 「인공지능 및 데이터 기반 행정 활성화에 관한 법률」은 AI 활용 시에 최종 책임, 개인정보 보호, 편향성과 의사 결정의 투명성을 중요 원칙으로 규정하고 있잖아요. 그래서 제가 보기에 일단은 제4조에 구청장의 책무를 보시면 항상 우리 조례에는 이런 게 들어있어요, ‘그 밖에 구청장’ 이렇게. 특히 이 인공지능에 관해서는 구청장의 책무가 조금 포괄적이지 않나라는 생각을 했거든요. 이 조례 제정으로 향후에 부평구가 추진해야 할 구체적인 사업과 예산, 예상 예산은 무엇인지 그리고 혹시 이게 지금 현재 예산이 들지 않는다, 든다 이게 중요한 게 아니잖아요. 조례라는 것은 제정해놓고 향후에 얼마 정도 계속 3년, 5년 이렇게 계획을 세우고 예산이 얼마나 들어갈지 어느 정도 예상을 해야 된다는 거거든요. 그래서 그런 부분에 어떤 기반 조성이 되어 있는지 과장님께 궁금하고요. 그래서 제가 몇 가지를 할게요. 그러니까 적었다가……, 제가 지금 질의하는 것은 우리 위원님이 다 한꺼번에 같이 듣고, 이 조례 취지는 타당한 건 맞습니다. 맞는데 전체적으로 우리가 조금 더 고민해야 되고 염려해야 되는 그런 부분들을 같이 공유하고자 제가 이렇게 질의를 드리겠습니다. 그리고 제5조 시행 계획 수립에 보시면 보통 일반적으로 어떤 조례를 하면 연 1회, 연 3회 아니, 3년, 5년 이렇게 주기가 있어요. 물론 이것은 알아요, 제가. 우리 법률에는 1년으로, 매년으로 정해져 있다는 걸 아닙니다. 하지만 그것은 법률이고 우리 부평구 조례는 주민들이 봤을 때도 알기 쉽게 풀이가 돼 있어야 된다고 저는 생각을 하거든요. 그래서 이게 매년인지, 3년인지, 5년인지 이런 게 지금 명시가 돼 있지 않아요. 그런 부분도 한번 보시고 이게 보시면 전년도 성과 평가도 있어야 될 것이고 해당 연도의 추진 계획이나 예산 운용 계획들, 여기에 보면 전문 인력을 양성하는 계획들도 포함돼야 되잖아요, 사실은 전체적으로. 그래서 이런 부분에 대해서 어떻게 수립 계획이 있는지 그런 것도 조금 궁금하고 그다음에 제가 볼 때, 본 위원이 볼 때는 제5조에 보시면 ‘구청장은 매년’, 이게 사실 매년 해야 되는 게 맞잖아요. 그래서 ‘매년’이라는 것을 넣어서 시행 계획을 수립하고 추진 실적을 점검하여야 한다라는 게 주민들이 봤을 때 맞다라는 생각이 드는데 그건 서로 같이 토의하기로 하고, 그다음에 솔직히 제가 염려스러운 게 8조예요. 8조 플랫폼 구축, 운영 이게 굉장히 중요하다고 저는 생각을 하거든요. 그래서 이 플랫폼이 자체 구축하는 것인지, 아니면 기존 국가 플랫폼이나 민간 AI 서비스하는 것 있잖아요. 그걸 활용을 하는 것인지도 궁금하고, 그다음 플랫폼 구축비와 연간 유지 비용을 고민해 보셨는지? 그리고 현재 부평구에서 사용하고 있는 행정 정보 시스템 있잖아요. 그것하고 중복되는 기능은 없는지, 그다음 플랫폼 도입으로 인해서 실제로 절감되는 업무 시간 같은 것, 또는 예산 어느 정도 생각하는지 이런 부분들, 이게 현행 법령도 보시면 데이터 통합 관리 플랫폼과 공공 기관 간 데이터 연계 공동 활용 체계를 두고 있어요. 그래서 우리 부평구가 별도로 이 시스템을 구축해야 하는지 또는 기존 국가 광역 시스템을 우리가 활용할 수 있는지, 없는지 그것 확인도 반드시 필요하다고 생각을 합니다. 그리고 제가 8조가 중요하다고 그랬잖아요. 8조제2호에 보시면 행정 문서 작성, 검토에 대한 책임에 관한 문제가 있어요. 그것도 AI가 만약에 행정 문서를 작성하거나 또는 검토를 한다면 이것 굉장히 중요한 거잖아요. 그래서 AI가 했을 때 챗GPT 같은 경우도 마찬가지고 분명히 잘못된 사항도 있어요. 그런데 우리 그것을 막 쓰잖아요. 그런 부분들 때문에 AI가 작성한 문서에 만약에 오류가 있다면, 그런 경우가 생긴다면 최종 검토 책임은 누가 지는지 그런 것도 솔직히 염려가 되었습니다. 그래서 AI가 작성한 자료를 우리가 공문서나 정책 자료로 활용할 경우에 반드시 담당 공무원의 검증 절차를 거치도록 돼 있잖아요. 그래서 이런 부분들이 AI가 정책 수립을 하고 의사 결정을 하고 활용을 하더라도 최종적인 권한과 책임은 공공 기관에 있음을, 저는 명확하게 규제를 해야 된다고 생각을 하거든요. 그래서 그런 부분들도 조금 미흡하다는 생각이 들었고 그래서 또 그 부분을 조금 보완을 한다면 인공지능이 제공하는 결과는 행정 업무 수행을 위한 보조 자료로 활용하며 최종적인 판단과 책임은 담당 공무원 및 행정 기관이 진다, 이런 부분이 미흡하다라는 생각을 했어요. 물론 과장님이 이것 다 생각하시고 여러 가지를 정리를 하셨으리라고 생각은 해요. 그다음에 민원 처리 및 행정 의사 결정 지원, 이것 진짜 중요하잖아요. 이런 부분에서 굉장히 신중해야 되는데 정말 중요한 조항 중에 하나라고 생각을 해요. 그러면 AI가 민원 처리에 관여를 했어. 그렇죠? 잘못된 답변을 할 수도 있어요. 그렇죠? 그리고 특정 주민에게 이러한 불리한 판단도 할 수가 있어요, 통합적으로 하는 것이기 때문에 AI는. 그래서 법령 해석 오류도 있을 수가 있습니다. 민원인의 개인 정보 유출이 될 수 있다. 그런 문제도 있어요. 그래서 이런 부분들에 대한 염려가 굉장히 됐고요. 개인 정보 보호 조항이 우리 조례에는 직접적으로 부족해요. 그렇죠? 그래서 현재 조례안에는 개인 정보 보호와 AI 안전성에 관한 별도의 독립적인 조항은 보이지 않습니다. AI가 관여를 할 때는 반드시 독립적인 조항이 있어야 된다고 저는 생각을 하는데, 물론 국가 법률은 공공 기관이 AI 데이터 기반 행정을 수행할 때 개인 정보 보호를 우선 고려하고 필요한 대책을 마련하도록 반드시 규정이 되어 있습니다, 그 부분에 대해서. 또한 AI와 데이터의 편향성이나 의사 결정의 투명성도 반드시 고려하라고 되어 있습니다. 그래서 상위법과 「개인정보 보호법」이 있다고 하더라도 우리 부평구 자체 AI 플랫폼에서는 안전한 사용 원칙을, 그 사용하는 원칙을 조례에 명시할 필요성이 있지 않나라는 생각을 했고요. 그래서 구청장은 인공지능 및 데이터 기반 행정을 추진하는 과정에서 개인 정보 보호, 정보 보안, 인공지능의 안전성 및 신뢰성을 확보하기 위해 필요한 조치를 마련하여야 한다라는 게 좀 아쉽다는 생각이 들었습니다. 그리고 9조, 저는 8조, 9조가 굉장히 강력하게 염려되는 부분이었거든요. 데이터 관리 및 협조 부분인데 부서장에게 너무 강한 자료 제출 요구가 될 수도 있다라는 생각을 했어요, 이 부분에서. 이게 데이터를 적극적으로 활용해야 되는 것은 맞아요. 그렇죠? 맞습니다. 맞는데 무조건 제공하는 것이 아니라 우리가 개인 정보 여부, 지금도 개인 정보 굉장히 따지고 있으니까, 비공개 정보 요구 이런 사항들 그리고 목적 외에 이용한다 이 여부, 이런 것 보안 위험 등을 사전에 반드시 검토해야 되는데 우리 과장님께서 어떻게 생각하시는지 제가 8조, 9조가 염려돼서 통합적으로 이렇게 말씀드렸고, 이 부분 모두는 우리 위원님들이 다 알고 계셔야 된다는 생각을 해서 이렇게 질의를 드립니다.