내년 1월 ‘인공지능(AI) 기본법’ 시행을 앞두고 정부가 시행령과 고시 등 하위법령의 초안을 공개했다. 정부는 AI 산업 경쟁력 강화를 위해 규제는 최소화하고 진흥에 무게를 둔다는 기조 아래, 생성형·고영향 AI에 대한 투명성 의무를 구체화하고 과태료 부과에는 계도기간을 두기로 했다.

대통령 직속 국가인공지능전략위원회(국가AI전략위)는 8일 출범식과 제1차 전체회의를 열고, 내년 1월 시행되는 ‘AI 기본법’의 하위법령 제정 방향을 발표했다. 정부는 산업계, 학계, 시민단체 등과 70여 차례 의견수렴을 거쳐 “필요 최소한의 규제 사항만을 포함해 초안을 마련했다”고 밝혔다.

■ 고영향 AI 투명성 의무화…‘비가시적 워터마크’도 인정

하위법령 초안에 따르면, AI 서비스의 투명성 확보를 위해 사람의 생명이나 신체, 기본권에 중대한 영향을 미치는 ‘고영향 AI’와 ‘생성형 AI’에는 이용자에 대한 사전 고지와 결과물 표시(워터마크) 의무가 부여된다.

정부는 기업 부담을 완화하기 위해 규제를 유연하게 적용한다. 약관이나 사용자 환경(UI)을 통한 사전 고지를 인정하고, 사람 눈에는 보이지 않지만 기계가 인식할 수 있는 ‘비가시적 워터마크’도 결과물 표시로 인정하기로 했다. 다만 사업자 내부 업무용이거나 생성형 AI 기반임이 명백한 경우에는 의무가 면제된다.

에너지, 보건·의료, 교통, 교육 등에서 활용되는 ‘고영향 AI’ 사업자는 위험 관리 교육, 오작동 방지 대책 등 신뢰성 확보를 위한 구체적인 이행 방안과 이용자 피드백 절차를 마련해야 한다.

■ ‘고성능 AI’ 기준은 높게…산업계 우려에 과태료 계도기간

위험 완화 등 안전 확보 의무가 부과되는 ‘고성능 AI’의 기준은 누적학습량 10²⁶플롭스(부동소수점 연산) 이상으로 설정됐다. 이는 현재 국내외에 존재하지 않는 거대 규모로, 미래 기술 발전에 대비한 선제적 규정이다.

산업계에서 요청했던 규제 유예는 포함되지 않았다. 대신 정부는 법 시행 초기 제도 안착을 위해 과태료에 대한 ‘계도기간’을 운영해 실질적으로 유예와 같은 효과를 주겠다는 방침이다.

AI 사전 고지 불이행이나 시정명령 미이행 시 3,000만 원 이하의 과태료가 부과되지만, 계도기간 동안에는 컨설팅과 비용 지원이 함께 이뤄진다. 계도기간의 구체적인 기간과 방식은 추가 의견수렴을 통해 결정될 예정이다.

■ 산업 육성 지원 강화…국방·안보 분야는 적용 제외

이번 하위법령에는 AI 산업 육성을 위한 정부의 지원 근거도 구체화됐다. ▲연구개발(R&D) ▲학습용데이터 구축 ▲중소기업·창업 지원 ▲전문인력 확보 ▲해외진출 지원 등 AI 산업 전반에 대한 정부 시책의 대상과 기준이 명시됐다.

또한, 국방·국가안보 목적으로만 이용되는 AI는 AI 기본법 적용 대상에서 제외된다.

정부는 이달 중 이해관계자 의견수렴을 거쳐 10월 초 시행령 초안을 입법예고하고, 12월까지 제정을 완료할 계획이다.

임문영 국가인공지능전력위원회 부위원장은 “규제보다는 진흥에 무게를 두고 유연한 규제체계를 도입할 것”이라며 “국가AI전략위와 관계부처 의견을 충분히 반영해 합리적인 기준을 제시하겠다”고 밝혔다.