전문위원 최충열입니다.
의안번호 제462호 서울특별시 서초구 인공지능 기본 조례안에 대하여 검토보고를 드리겠습니다.
조례 제정 배경 및 취지, 법적 근거, 주요 사항에 대한 검토는 보고서를 참고하여 주시고, 다음은 26페이지 종합의견입니다.
본 조례안은 인공지능 기술의 확산이라는 거시적 환경 변화에 대응하여, 기초지방자치단체 차원에서 인공지능 정책을 체계적으로 관리·조정하기 위한 제도적 기반을 마련하고자 하는 입법적 시도로 평가되고, 다만, 본 조례안의 의의는 단순한 인공지능 활용 촉진에 그치기보다는, 공공부문에서 인공지능을 도입·운영하는 과정에서 발생할 수 있는 위험 요소를 관리하고 행정 책임의 소재를 명확히 하려는 거버넌스적 접근에 보다 중점을 두고 있다는 점에서 의미가 있는 것으로 보이고, 최근 공공영역에서 인공지능은 행정 효율성 제고를 위한 수단으로 빠르게 도입되고 있으나, 정책 집행 과정에서는 알고리즘의 신뢰성, 의사결정 과정의 불투명성, 책임 귀속 문제, 특정 집단에 대한 차별 가능성 등 복합적인 쟁점이 지속적으로 제기되고 있고, 특히 기초지방자치단체의 경우, 인공지능 시스템을 직접 개발하기보다는 외부 기업이나 기관의 기술을 도입·활용하는 비중이 높아 기술적 판단보다 정책적·행정적 판단의 중요성이 더욱 커지고 있는 상황으로, 이러한 여건을 고려할 때, 본 조례안이 기술 규율 중심이 아닌 정책 관리와 행정 통제 중심의 기본 조례로 설계되었다는 점에서 그 방향성은 비교적 합리적인 것으로 판단됩니다.
법적 측면에서 보면, 본 조례안은 상위법령에서 정한 인공지능 정책의 기본 틀을 전제로 하되, 기초지방자치단체가 자체적으로 정책을 조정·관리할 수 있는 범위 내에서 제도적 장치를 마련하고 있어 자치입법권의 한계를 벗어나지 않는 것으로 보이고, 아울러 다른 조례와의 관계를 명확히 하여 본 조례를 인공지능 관련 기본 조례로 위치시키고, 조례 체계의 안정성을 확보하고 있다는 점에서도 타당성이 인정되고, 조례안의 구성은 기본 원칙 설정, 구청장의 책무 및 계획 수립, 심의기구 설치, 지원사업 및 협력체계 구축으로 이어지는 단계적 구조를 취하고 있으며, 이는 인공지능 정책을 일회성 사업이 아닌 지속적 행정 과제로 관리하려는 입법 취지를 반영한 것으로 보이고, 특히 기본계획 수립과 위원회 심의를 연계한 구조는 정책 추진 과정에서 행정 내부의 판단이 일방적으로 이루어지는 것을 방지하고, 일정 수준의 공론성과 전문성을 확보하는 장치로 기능할 수 있을 것으로 판단됩니다.
지원사업 및 협력체계 구축에 관한 규정 역시 단순한 재정 지원 근거를 넘어, 기초지방자치단체 단독으로는 감당하기 어려운 인공지능 정책의 특성을 고려한 현실적 선택으로 평가되고, 다만, 이러한 규정이 실효성을 확보하기 위해서는 사업 선정 과정에서 공공성·필요성·위험성에 대한 검토가 병행될 필요가 있으며, 향후 기본계획이나 세부 지침을 통해 사업 평가 및 관리 기준을 보완할 필요성도 함께 제기되고, 한편, 본 조례안은 인공지능의 개발 및 이용에 있어 위험 수준과 영향 정도에 따라 차등적으로 관리하는 이른바 ‘위험기반 접근방식을 명시적으로 규정하고 있지는 않으나, 고영향 인공지능에 대한 심의 사항을 위원회 기능에 포함하고 있다는 점에서 향후 이러한 접근 방식을 제도적으로 확장할 수 있는 여지를 남기고 있고, 이는 상위법령이나 중앙정부 정책 변화에 따라 조례가 단계적으로 보완·발전될 수 있는 구조를 갖추고 있다는 점에서 긍정적으로 평가됩니다.
그렇다면 본 조례안은 인공지능 기술 활용의 확대 자체를 직접적인 목표로 하기보다는, 공공부문에서 인공지능을 책임 있게 관리·운영하기 위한 최소한의 제도적 틀을 마련하는 데 중점을 둔 기본 조례로서의 성격이 분명하고, 조례의 상당 부분이 원칙적·포괄적 규정으로 구성되어 있다는 한계는 있으나, 이는 기술 변화 속도가 빠른 인공지능 정책의 특성을 고려할 때 불가피한 측면도 있는 것으로 보이고, 향후 기본계획 수립, 위원회 운영, 개별 사업 추진 과정에서 조례의 취지가 구체적으로 구현될 수 있도록 지속적인 점검과 보완이 병행된다면, 본 조례안은 기초지방자치단체 차원의 인공지능 거버넌스 구축을 위한 출발점으로서 의미 있는 역할을 수행할 수 있을 것으로 사료됩니다.
이상으로 보고를 마치겠습니다.
(참 조)
ㅇ서울특별시 서초구 인공지능 기본 조례안 검토보고서
(부록에 실음)