22일 AI 업계와 국회 등에 따르면 전날 국회 과학기술정보방송통신위원회는 정보통신방송법안심사소위원회(제2법안소위)를 열고 AI 기본법 관련 법안 19건을 병합 심사해 통과시켰습니다. AI 기본법은 이르면 다음 주 과방위 전체회의에서 의결될 것으로 전망되는데요. 이후 법제사법위원회를 거쳐 국회 본회의를 통과하면 AI 산업의 진흥과 윤리적 활용을 규정하는 포괄적 법안이 마련됩니다.

 

AI 기본법은 정부가 AI 산업의 건전한 발전을 지원할 근거, 산업의 신뢰 기반 조성에 관한 기본 사항과 AI 윤리 등에 대한 내용이 담겼습니다. AI 관련 연구·개발 근거와 지원, AI 데이터센터 등 투자 활성화 방안과 같은 진흥책과 함께 AI의 안전한 사용을 위해 영상과 사진에는 워터마크를 넣도록 하는 등의 규제책을 아울렀습니다.

특히 규제와 관한 내용 중 업계가 우려했던 ‘금지 AI’ 규정은 제외됐는데요. 다만, 고위험 AI는 ‘고영향 AI’로 분류하고 사업자 책임을 명확히 하는 방향으로 병합했습니다. 고영향 AI는 사람의 생명, 신체, 건강 안전, 기본권의 보호 등에 중대한 영향을 미칠 수 있는 AI 기술을 뜻하는데요. 기업이 개발한 서비스가 고영향 AI에 해당하는지는 과학기술정보통신부의 가이드라인에 따라 판별하고 사업자에 신뢰성·안전성 조치를 요구할 수 있게 했습니다. 사업자가 고지 의무 미이행 등 시정명령을 위반할 경우 과태료 부과 등의 제재조치가 이뤄집니다.

과방위 관계자는 “AI 진흥에 주안점을 두되 고영향 AI에 대해 사업자 책임을 명시하는 내용을 포함해 정부 가이드라인에 따라 규제할 수 있도록 했다”라고 설명했습니다.

 

다만, 업계 일각에서는 고영향 AI 규제와 관련해 우려 섞인 시선도 있는데요. 규제 필요성은 공감하지만, 정부의 가이드라인에 따른 규제 강화 가능성이 상존해 있기 때문입니다. 과기정통부는 아직 법안이 통과되지 않은 만큼 관련한 구체적인 가이드라인을 마련해 놓고 있지는 않은데요. 정부가 가이드라인을 통해 고영향 AI에 대한 안전 조치 의무 범위나 요건을 강하게 설정할 경우 급변하는 AI 기술 환경에 쉽게 대응하기 어려울 수 있다는 지적입니다.

국내 한 AI 스타트업 대표는 “산업계, 학계 등 사용 분야에 따른 고영향 AI의 범위적 레벨이 가이드라인에 정의가 돼야 할 것”이라며 “모델에 따라서도 단계적으로 그룹이나 항목화를 통해 세부적으로 나누는 유연한 정책을 마련해야 한다”라고 말했습니다.