홍콩명품쇼핑몰 헐거운 ‘고영향 AI’ 범주 … 인공지능 규제, 이렇게 풀어도 될까? > 갤러리

홍콩명품쇼핑몰 헐거운 ‘고영향 AI’ 범주 … 인공지능 규제, 이렇게 풀어도 될까?

페이지 정보

작성자 행복인 댓글 0건 조회 0회 작성일 25-09-18 00:17

본문

홍콩명품쇼핑몰 정부가 공개한 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법)의 하위법령을 두고 AI 산업 진흥에만 초점을 맞춰 규제를 지나치게 풀었다는 지적이 나오고 있다. 인간의 기본권에 중대한 영향을 미치는 ‘고영향 AI’의 범주를 소극적으로 규정한 데다 ‘과태료 부과’ 장기 유예까지 예고해 “처벌 없는 법이 될 수 있다”는 우려가 제기된다.
과학기술정보통신부는 내년 1월 시행되는 AI 기본법의 시행령과 고시 2종, 가이드라인 5종을 17일 기자간담회를 통해 공개했다. 관련 하위법령 초안이 모두 공개된 것은 지난해 12월 AI 기본법이 국회를 통과한 지 약 9개월 만이다.
그간 업계에선 ‘고영향 AI’의 규정이 초미의 관심사였다. 사업자에게 안전성·신뢰성 확보 책무가 부여되고 최대 3000만원의 과태료 부과 조항도 있기 때문이다. AI 기본법은 ‘고영향 AI’를 에너지, 먹는 물, 보건의료 등 10개 영역에서 활용되는 AI 가운데 인간의 기본권에 “중대한 영향”을 미치거나 위험 초래 우려가 있는 경우 등으로 규정했다. 그러면서 “그밖”의 영역은 시행령으로 정하도록 했다. ‘중대한 영향’ 표현이 모호하고 법에서 정한 영역이 제한적이라 하위법령이 추가 기준을 제시할 것으로 여겨져왔다.
뚜껑을 열어보니, 시행령·가이드라인은 고영향 AI 범주를 최소한으로 규정했다. 시행령에선 고영향 AI 영역이 추가·보완되지 않았고 가이드라인은 법에 이미 나열된 영역의 구체적 적용 사례를 제시한 정도였다. 이를테면 운전자의 개입 없이 AI 스스로 판단해 도로를 주행하는 레벨4 이상 자율주행시스템은 고영향 AI에 해당한다.
한국보다 앞서 AI 법을 제정한 유럽연합(EU)은 관련 규제가 촘촘하다. 예를 들어 개인 또는 집단의 행동이나 성향을 점수화해 차별에 활용(소셜 스코어링)하는 AI는 아예 ‘수용 불가’로 규정해 금지한다. 얼굴 표정, 음성, 생체 신호 등을 통해 인간 감정 상태를 판별하는 AI는 ‘고위험 AI’로 분류한다. 금지되는 것은 아니지만 위험관리시스템과 인간 감독 체계 구축, 기본권 영향 평가, 이용자 안내 등 다양한 의무가 부과된다. 한국의 AI 기본법과 시행령으로는 EU에서 금지하거나 강력 제재하는 AI를 규제하기 힘들 가능성이 있다.
오병일 진보네트워크센터 대표는 “제품 안전, 사법, 선거에 영향을 주거나 인간의 취약점을 이용하는 AI에 대해선 EU처럼 금지까진 못하더라도 고영향 AI로 규정해 최소한의 규제를 해야 하는데 하위법령에 그런 노력이 보이지 않는다”고 지적했다.
정부가 AI 기본법의 ‘과태료 부과’ 유예를 거듭 예고하고 있는 것도 비판 대상이다. AI 기본법에 따르면 고영향 AI 사업자는 위험관리 방안·이용자보호 방안 수립 및 사람 관리·감독, 관련 문서의 작성과 보관 등의 의무를 진다. 이를 어길 경우 사실조사를 거쳐 시정명령을 받을 수 있고 명령을 이행하지 않으면 최대 3000만원의 과태료를 받게 된다.
이날 간담회에서 김경만 과기정통부 인공지능기반정책관은 유예기간 설정에 무게를 두면서 그 기간에 대해선 “기업, 시민사회와 논의해 설정해 나갈 것”이라고 설명했다. 앞서 지난 12일 배경훈 과기정통부 장관도 “최소 1년 이상”의 유예기간을 언급한 바 있다. 이에 대해 오 대표는 “법에 따라 책무를 이행하지 않아도 가만히 두겠다는 것으로, 처벌규정 없는 법이 될 우려가 있다”고 말했다.
정부는 이날 “진흥에 중점을 둔 최소한의 규제” 기조를 강조했다. “글로벌 3강 목표로 하는 AI 분야에서 진흥이 우선”이라는 것이다.
정부가 ‘느슨한 규제’를 천명한 만큼 업계에선 긍정적인 반응이 나왔다. 국내 AI 스타트업 관계자는 “투명성(AI 표시) 의무와 관련한 일부 면제조항과 과태료 계도기간 설정 등이 긍정적”이라고 평가했다. 또 다른 AI 스타트업 관계자 역시 “규제와 관련한 불확실성이 걷혔다는 점에서 바람직하다”며 “AI 산업이 초기 단계에 있는 만큼 시행 과정도 매끄럽기를 기대한다”고 말했다.
반면 고위험 AI 안전장치를 강력하게 요구해온 시민단체 등의 반발이 이어질 가능성이 있다. 이재흥 시민기술네트워크 상임이사는 “국가인공지능전략위원회에 산업계뿐 아니라 시민사회 인사들도 다수 참여하게 된 만큼 우려 사항에 대해 숙의가 이뤄질 것으로 본다”고 말했다.
2014년 11월, 경남 통영의 한 모텔에서 성매매를 하던 20대 여성이 창밖 12m 아래로 몸을 던져 숨졌다. 경찰이 손님으로 위장해 급습했고, 이 여성은 옷 입을 시간을 달라고 한 다음 창문으로 뛰어내렸다.
그로부터 약 8년 뒤인 2022년 3월, 서울 강남의 한 빌라에 성매매 단속을 나온 남성 경찰들이 출입문 비밀번호를 누르고 들어와 휴대폰 카메라로 사진을 찍기 시작했다. ‘증거 수집’ 목적이라고 했다. 당시 방 안에 알몸으로 있던 20대 여성 은경씨(가명)는 속수무책으로 당할 수밖에 없었다. 경찰은 “다 찍혔으니 빨리 진술서를 쓰고 끝내자”고 하면서 자백을 강요하는가 하면, 각종 모욕적인 발언을 이어갔다. 은경씨의 사진은 단속팀 15명이 모여있는 단체채팅방에도 공유됐다.
지난 5일 경향신문 기자와 만난 은경씨는 아직도 “경찰이 왜 꼭 그래야만 했을까”라고 생각한다고 했다. 사건 이후 3년이 넘게 지났지만, 당시의 충격으로 계속 정신과 상담을 받으며 약을 먹고 있다는 그는 “성매매한다고 국가 기관에서 내 인권까지 침해할 거라 기대하는 사람이 누가 있겠느냐”면서 “경찰의 잘못된 수사 관행으로 과거에 사람이 죽기까지 했는데, 여전히 성매매 여성들은 법의 보호를 조금도 받지 못하는 현실이 안타깝다”고 했다.
단속 이후 은경씨는 성매매처벌법 위반 혐의로 기소됐다. 법원은 은경씨에게 벌금형을 선고하면서도 성매매 여성의 신체를 동의 없이 촬영한 것은 증거로 쓸 수 없다는 판단을 처음으로 내놨다. 이후 은경씨는 정부에 국가배상소송을 제기했고 일부 승소했다. 1심 법원은 나체를 촬영하고 공유한 부분이 위법하다며 국가가 은경씨에게 800만원을 배상하라고 판결했다.
양측은 모두 반발해 현재 항소심이 진행 중이다. 은경씨는 “단순히 인용 액수가 청구금액 5000만원에 비해 적다는 게 문제가 아니다”라며 “1심 판결은 나체 촬영한 사진을 채팅방에 공유한 사실만을 문제라고 했고, 그 외의 성희롱 등은 모두 수사 방식의 일환으로 봤다. 법원이 나쁜 선례를 만든 것”이라고 말했다.
성매매 자체가 불법인데, 경찰이 단속하다 보면 그 정도 피해는 감수해야 할 일은 아닐까. 이에 대해 은경씨는 “증거 수집은 얼마든지 할 수 있다. 지금 경찰의 수사 방식은 그냥 당사자를 괴롭히는 것”이라고 했다 .
“이전에도 한 번 단속에 걸린 적이 있는데, 그때는 그렇게 과격하지 않았어요. 경찰이 문밖에서 기다리고 있었고, 저도 순순히 따라갔어요. 그런데 이 사건은 경찰이 들어오자마자 알몸을 찍고, 진술을 강요하고, 성희롱 발언을 하고, 수갑 가리개도 채우지 않고 저를 데려간 거예요. 처음에 변호인 조력권이나 진술거부권을 고지받지도 못했어요.”
은경씨를 비롯한 성 노동자들을 지원하는 성노동자해방행동 ‘주홍빛연대 차차’의 여름 활동가는 “경찰이 수사한다면서 욕설을 퍼붓거나, ‘부모님이 이러는 거 아시냐’ 등 모욕적인 말들을 여전히 많이 하는 것이 현실”이라면서 “성매매 여성들은 수사기관이 사람으로조차 대하지 않고, 성희롱이나 성폭력까지 저지를 수 있다는 데서 큰 두려움을 느끼고 있다”고 설명했다.
은경씨의 경우에도 경찰이 단속 당시 원색적인 욕설과 폭언을 하고, 속옷을 들어 보이면서 성희롱 발언을 이어갔으나 이 모든 것은 위법 수사로 인정되지 않았다.
여름 활동가는 “성매매를 처벌하려면 장부 등 얼마든지 대체할 증거가 있다. 꼭 인권을 침해하면서 단속이 이뤄질 필요는 없다”며 “대기업 직원이든, 청소 노동자든 자신의 일을 하는 건데, 거기서 임금 체불이나 갑질까지 당할 거라고 동의하는 사람이 어디 있겠느냐”고 했다.
“성 노동자도 비슷하다고 생각해요. 법이 성매매 여성을 범죄자로 규정하고 있지만 그것과 별개로 돈을 벌기 위해 선택한 일이에요. 그 과정에서 우리의 권리가 유린당해도 되는 건 아닙니다.”
은경씨가 제기한 손해배상 항소심 선고기일은 서울중앙지법 민사항소2-2부(재판장 오연정) 심리로 오는 11월18일 열린다.

댓글목록

등록된 댓글이 없습니다.

홍콩명품쇼핑몰 헐거운 ‘고영향 AI’ 범주 … 인공지능 규제, 이렇게 풀어도 될까? > 갤러리

갤러리