최민희 국회의원(더불어민주당. 남양주갑)이 16일, 인공지능 서비스 이용자의 권리를 실질적으로 보장하고 피해 구제를 위한 제도적 기반을 마련하는 'AI서비스 이용자보호법' (인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안)을 대표발의 했다고 밝혔다.

이번 개정안 허위·기만 콘텐츠, 딥페이크 음란물 등 AI 기반의 부작용이 이미 사회문제로 대두되고 있는 상황에서 그 피해를 입는 이용자에 대한 실효적인 보호 장치가 반드시 필요하다는 판단에 따른 것이다.

이번 개정안의 세 가지 핵심 내용은 첫째, 고영향 인공지능으로 인해 개인의 권리나 의무에 중대한 영향을 받는 경우, 해당 AI사업자에게 결과에 대한 설명을 요구할 수 있는 ‘설명요구권’을 법적으로 보장한다.

AI사업자는 이에 정당한 사유가 없으면 이용자가 요구한 설명을 제공하여야 하며 결과 도출 기준과 절차, 데이터 활용 개요 등을 이용자가 쉽게 열람할 수 있도록 해야 한다. 이는 블랙박스화된 알고리즘에 대한 국민의 접근권을 강화하고, 투명하고 책임 있는 AI 운영을 유도하기 위한 장치다.

둘째, 인공지능사업자의 이용자 보호 업무를 정부가 평가하고 그 결과를 공개할 수 있도록 하는 ‘이용자 보호 평가제’를 도입했다. 이는 AI서비스 제공자 스스로가 피해 예방과 민원 처리에 성실히 임하도록 유도하고, 공공의 감시 아래 자율적인 개선을 유도하려는 목적이다.

셋째, AI와 관련된 이용자 피해가 발생했을 경우 신속하고 실질적인 해결을 도모하기 위한 ‘인공지능 분쟁조정위원회’ 설치를 명문화했다. 조정위원회는 원상회복, 손해배상 등 조정안을 제시할 수 있으며, 당사자가 수락하면 재판상 화해와 같은 효력을 가진다.

최민희 의원은 “인공지능의 기술발전으로 인한 피해는 철저히 사람에게 귀속된다”며, “인공지능 기술이 사람을 위한 것이 되도록 이용자 권리를 중심에 놓고 제도를 설계해야 한다”고 강조했다. 이어 “정부가 추진 중인 ‘AI 3강’ 전략이 기술경쟁력 확보에 집중되고 있는 만큼, 국회는 그에 걸맞은 이용자 중심의 신뢰 기반 구축에 집중할 필요가 있다”고 밝혔다.

[ 경기신문 = 이화우 기자 ]