이동운 의원 5분자유발언

존경하는 서구 구민 여러분! 안녕하십니까? 서구의회 이동운 의원입니다.

오늘 5분 자유발언의 기회를 주신 정영수 의장님과 선배·동료 의원님 그리고 서구의 발전을 위해 애쓰시는 류한국 구청장님과 공무원 여러분께 감사드리며, 5분 발언을 시작하겠습니다. 오늘날 인공지능(AI)은 더 이상 미래의 기술이 아니라, 이미 우리의 일상 속에 깊숙이 들어와 있는 현실의 기술입니다. AI는 공공과 민간을 넘어 사회 전반에서 폭넓게 활용되고 있습니다.

정부 또한 ‘세계 최고 AI 민주 정부 실현’을 국정과제로 제시하며, 공공부문 AI 도입을 본격화하고 있으며, 전국 지자체들도 행정전반에 AI를 접목하고 있습니다. 우리 구 역시 이러한 흐름에 발맞춰 AI를 적극 활용하고 있습니다. 첨단 AI 영상정보시스템을 통해 스쿨존 교통관제와 다중인파 관리, 실종자 위치 추적 등 안전 대응력을 높였고, 보건소에서는 AI 기반 어르신 건강증진사업을 통해 맞춤형 건강관리와 정서적 지원을 병행하며 우수기관으로 선정되는 성과도 거두었습니다.

또한, 생성형 AI 실습교육을 통해 직원들의 보고서 작성, 문서 요약, 민원응대 역량을 강화하고 있습니다. AI의 방대한 데이터 분석 능력과 신속한 정보 처리 기능은 행정의 효율을 높이는 데 분명 긍정적인 역할을 하고 있습니다. 그러나 AI 활용이 확대되는 만큼, 우리는 그 위험에 대한 준비가 충분한지에 대해 질문을 던져야 합니다.

국가정보원이 발간한 「인공지능 위험사례집」에는 공공기관이 AI를 활용하는 과정에서 내부 데이터관리 미흡으로 민감정보가 유출될 수 있는 위험 사례가 소개되어 있습니다. 이처럼 공공부문 AI 활용 과정에서의 정보 관리 문제는 국내에서도 주요한 위험 요인으로 지적되고 있습니다. 또한, 해외에서도 유사한 사례가 보고되고 있습니다.

호주에서는 재건축 담당기관의 계약자가 홍수피해자 약 3,000명의 개인정보를 공개형 AI에 업로드한 사건이 발생하였으며, 이 사례는 공공부문에서 AI 사용에 대한 내부 규제와 감시 필요성을 환기시켰습니다. AI는 오류와 편향, 허위정보 생성, 저작권 침해, 개인정보유출 위험을 동시에 내포하고 있습니다. 특히 공공행정은 신뢰와 책임이 중요합니다.

AI가 작성한 자료라 하더라도 그 결과에 대한 최종 책임은 결국 우리에게 있습니다. 검증되지 않은 정보가 정책에 반영된다면 행정의 신뢰는 흔들릴 수밖에 없습니다. 이러한 위험을 인식하고 예방차원에서 기준을 마련한 사례도 있습니다.

서울시는 2023년 지자체 최초로 생성형 AI 윤리 가이드라인을 마련하였습니다. ‘이용자 중심, 위험 예방, 지속가능성’을 기본 원칙으로 설정하고, 검증 역량과 책임성, 데이터 권리, 보안성 등을 핵심요건으로 제시했습니다. 이는 AI 활용을 위축시키기 위한 규제가 아니라, 안전하고 책임 있는 활용을 위한 최소한의 기준을 마련한 것입니다.

이에 본 의원은 우리 구 실정에 맞는 AI 내부활용 가이드라인을 마련하여 활용원칙과 책임 범위를 명확히 하고, 행정의 신뢰를 지키기 위한 최소한의 장치를 갖춰야 한다고 생각합니다. 또한, AI가 생성한 정보를 재확인하고 오류를 걸러낼 수 있는 검증 역량과 저작권·개인정보 보호에 대한 교육을 강화해, 기술활용과 책임이 함께 이루어지도록 해야 합니다. AI는 강력한 도구입니다.

그러나 준비 없는 활용은 위험이 될 수 있습니다. ‘똑똑한 행정’을 넘어 ‘신뢰받는 행정’으로 나아가기 위해 기술에 의존하는 행정이 아니라 기술을 이해하고 통제하며 책임지는 행정으로 나아가길 바라면서 발언을 마치겠습니다. 감사합니다.