존경하는 41만 서초구민 여러분!
고선재 의장님을 비롯한 동료 의원님 여러분, 전성수 구청장님과 관계공무원 여러분!
안녕하십니까? 더불어민주당 하서영의원입니다.
인공지능의 발전이 빠르게 이뤄지고 있습니다.
이제는 AI를 넘어서 인간과 거의 동일한 사고 능력을 갖춘 AGI(Artificial General Intelligence) 즉, 인공 일반 지능의 시대가 가까워지고 있습니다.
(자료화면 게시)
AGI는 단순히 정보를 처리하는 것을 넘어 시각·청각 등의 감각이 수용하는 정보와 기억·경험을 바탕으로 상황을 이해해 스스로 학습하고 창의적으로 문제를 해결하는 AI입니다.
인간 지성에 근접한 인공지능 개발에 박차를 가하고 있는 지금, 우리도 행정 서비스에 획기적인 변화를 준비해야 함을 의미합니다.
저는 가까운 미래에 서초구의 행정 서비스에서 AI가 활용될 때 구민들의 개인정보가 안전하게 관리되고 「개인정보 보호법」을 준수한 보안 체계를 강화할 것을 미리 촉구하고자 이 자리에 섰습니다.
최근에는 AI를 활용한 개인정보 악용 사례인 딥페이크가 전 세계적으로 큰 문제가 되었습니다.
기업에서 역시 이러한 개인정보 유출에 민감하게 반응하여 지난 여름 마이크로소프트사에서 생성형 인공지능을 도입하려다가 개인정보 유출 우려로 출시를 연기한 사례도 있습니다.
이 ‘리콜’ 기능은 5초마다 사용자의 작업 화면을 스크린샷으로 저장해, 사진과 같이 정확한 기억력을 제공하는 AI로 젠 골벡 메릴랜드대 교수는 CNN과의 인터뷰에서 “리콜 기능으로 사용자의 화면에 있는 모든 정보가 쉽게 노출될 수 있다”라고 지적했습니다.
EU는 강력한 개인정보 보호 규제를 하는 곳으로 새로운 AI 서비스 ‘메타 AI’는 개인정보 보호 정책으로 인해 유럽에서의 서비스 출시를 보류하기도 했습니다.
현재 이렇게 전 세계 각국에서 AI와 개인정보 보호에 주목하고 있는 상황입니다.
우리 서초구도 역시, AI 행정 서비스에서 개인정보에 대해 더욱 예민하게 접근할 필요가 있다고 생각합니다. 인공지능 AI가 행정에 도입된다면 AI는 더 빠르고 정확한 의사결정을 내려 행정의 효율성을 높이는 등 구민들에게 더 나은 서비스를 제공할 수 있을 것입니다.
그러나 AI 행정 서비스의 핵심은 바로 개인정보 보호입니다.
AI는 방대한 양의 데이터를 바탕으로 학습하고 작동합니다. AI가 행정에 도입된다면 그 과정에서 민원인의 이름, 주소, 영상 심지어 건강 정보까지 다양한 개인정보가 수집되고 처리될 수 있습니다.
이런 정보들은 AI가 정교하게 작동되기 위해 필수적이지만 잘못 관리되거나 악용될 경우 심각한 사생활 침해로 이어질 수도 있습니다.
그러므로 서초구는「개인정보 보호법」을 준수하여 AI가 행정에 도입될 미래에 대비한 강력한 보안체계를 갖추고 지속적인 점검과 업데이트를 통해 구민들의 개인정보 보안을 더욱 강화해야만 합니다.
AI가 공공분야 행정 서비스에 도입된다면 그 편리함과 효율성은 극대화되겠지만 이와 동시에 개인정보 보호에 대한 책임 또한 무거워질 것입니다.
정부 역시 지난 2월 개인정보보호위원회를 통해 “인공지능 환경에서「개인정보 보호법」적용 원칙과 기준을 구체화한 AI 단계별 ‘6대 가이드라인’을 올 연말까지 마련할 계획”이라고 밝혔습니다.
따라서 서초구는 AI 행정 서비스 환경에 적합한 개인정보 활용 여건을 조성하고 동시에 리스크에 상응하는 적절한 안전장치도 마련하여 구민이 신뢰할 수 있는 AI 행정 서비스 시대를 준비해야만 합니다.
이에 본의원은 서초구가 AI를 행정에 적용하기 전인 지금 미리 기술적·관리적 보안 조치를 강화하고「개인정보 보호법」을 준수한 방침을 준비하는 등 AI 행정 서비스에서 개인정보 보호에 대한 지속적인 관심과 투자 그리고 관련 지원을 확대할 것을 당부드립니다.
경청해 주셔서 감사합니다.
인쇄
