로직프로강의 [산업이지] 직원이 영업비밀을 챗GPT에 올렸다?… AI 보안주의보 > 갤러리

로직프로강의 [산업이지] 직원이 영업비밀을 챗GPT에 올렸다?… AI 보안주의보

페이지 정보

작성자 행복인 댓글 0건 조회 3회 작성일 25-08-20 15:20

본문

로직프로강의 소비재를 제조·판매하는 A기업에서 최근 벌어진 일입니다. 인공지능(AI)을 이용해 업무 전반을 혁신하는 AX(AI 전환) 차원에서 사내 ‘생성형 AI 활용 공모전’을 열었다고 합니다. 업무에 AI를 활용하는 다양한 아이디어를 모으기로 한 겁니다. 그런데 의욕 충만한 한 직원이 중대 실수를 저지르고 맙니다.
AI 응용 방안을 고민하다 영업비밀 일부를 챗GPT에 입력해 본 겁니다. AI 계정을 관리하는 사측에서 이 사실을 뒤늦게 인지했지만, 이미 입력한 정보는 지울 길이 없었습니다. 챗GPT를 비롯한 대다수 생성형AI에 입력된 정보는 대체로 AI기업 측 서버에 저장되고, 해당 AI 모델의 학습에 쓰입니다.
A기업엔 ‘보안유지가 필요한 정보를 AI에 입력해선 안 된다’는 지침이 있었습니다. 그러나 해당 직원은 이를 인지하지 못했던 것으로 보입니다. 사측은 해당 직원을 징계하고 지침 안내를 강화했습니다.
■직장인 30% “민감 정보를 AI에 입력해 본 적 있다”
생성형 AI가 직장인들의 주요 업무 도구로 자리잡아 가는 과정에서 보안 우려도 커지고 있습니다. 글로벌 데이터 보호 전문기업인 ‘베리타스 테크놀로지’의 지난해 설문에 따르면 한국 직장인의 약 32%가 고객·직원 정보와 재무 정보 등 민감한 정보를 AI에 입력해 본 적이 있다고 답했습니다. 국내 직장인 500명을 대상으로 한 설문 결과인데요, 표본의 크기가 작지요. 해외의 대규모 설문 결과를 볼까요.
글로벌 디지털 기업 ‘탤러스 디지털’이 올해 미국 직장인 1000명을 대상으로 설문한 결과입니다. 챗GPT(오픈AI), 제미나이(구글), 코파일럿(마이크로소프트) 등에 고객·직원 개인정보, 출시 전 제품정보, 회사 재무정보를 입력해 본 적이 있느냐는 질문에 57%가 “그렇다”고 답했습니다.
삼성전자도 A기업과 유사한 사고를 겪은 적이 있습니다. 2023년 반도체 부문 직원들이 소프트웨어 소스코드(컴퓨터 프로그래밍 언어로 작성한 설계도) 오류를 확인하고 회의 내용을 요약하기 위해 챗GPT에 소스코드와 회의록을 입력한 겁니다. 이후 삼성전자는 반도체 부문의 챗GPT사용을 금지했고, 사외에서 개인적으로 사용하더라도 “사내 정보를 입력하지 않도록 유의하라”고 공지했습니다.
AI를 통한 정보유출은 사실 기업만의 문제도 아닙니다. 울프 크리스테르손 스웨덴 총리는 지난 3일 현지 매체와의 인터뷰 중 이렇게 말했다가 곤욕을 치렀습니다. “나는 AI를 꽤 자주 사용한다. 같은 사안을 두고 다른 사람들은 어떻게 생각할지 AI에 묻곤 한다. 챗GPT와 르챗(프랑스의 생성형 AI)을 주로 사용한다” 스웨덴 정부의 주요정보가 AI 기업에 흘러들어갔을 것이란 비판이 즉각 터져나왔습니다. 이후 스웨덴 총리실은 “민감 정보는 올리지 않는다”고 해명하며 수습에 나섰습니다.
물론 AI기업들은 개인정보 유출 방지를 위해 노력하고 있다고 말합니다. 오픈AI 측은 “우리는 AI 모델이 개인이 아닌 세상에 대해 학습하기를 바란다”면서 “개인정보나 민감정보 응답 생성 가능성을 최소화하고 있다”고 밝혔습니다. 가령 제가 챗GPT에 개인정보를 입력해 이 정보가 GPT모델 학습에 사용되더라도, 다른 이용자와의 대화에서 해당 정보가 노출되지 않도록 노력하고 있다는 겁니다.
하지만 정보가 외부 서버에 흘러 들어가는 한 ‘유출 사고’ 가능성은 늘 존재합니다. 2023년 구글 딥마인드 등 연구진은 챗GPT에 ‘poem’이라는 단어를 무한 반복하라는 지시를 입력하는 방법(일종의 인젝션 공격)으로 GPT 학습 데이터를 대량 불러온 적이 있습니다. 이 데이터엔 누군가의 이름, 전화번호, 이메일 주소 등 개인정보가 담겨 있었고 저작권이 있는 문학 작품도 포함돼 있었습니다.
■당신도 ‘섀도우 AI’를?
정보유출 우려가 커지면서 국내외 대기업들은 보안이 강화된 AI를 사용하는 추세입니다. 입력 데이터를 암호화하는 모델(챗GPT 엔터프라이즈·팀 버전 등)이나 자체 서버만을 활용하는 온프레미스 AI, 외부 전용 클라우드를 사용하는 프라이빗 AI 등이 대표적이죠.
현대자동차는 지난 7월부터 현대오토에버를 통해 개발한 AI모델 ‘H-챗’을 사용 중인데요. 챗GPT4를 기반으로 현대차 그룹 자체 서버만을 이용하는 버전인 것으로 알려져 있습니다. 네이버는 자사의 하이퍼클로바X와 외부의 프라이빗 AI 모델들을 함께 사용 중이라고 합니다. 삼성전자는 2023년부터 사내용으로 개발한 AI ‘가우스’를 주로 사용해 왔는데요. 업무 특성에 따라 외부 모델 사용이 필요할 경우 유관부서의 승인을 받아야 합니다.
그런데 이처럼 보안을 강화한 AI를 쓰더라도 우려가 말끔히 해소되는 것은 아닙니다. ‘섀도우(은밀한) AI’ 때문입니다. 섀도우 AI란 기업 내에서 공식 승인을 받지 않은 AI를 임직원이 임의로 업무에 사용하는 현상을 가리킵니다.
전문가들은 기업이 일단 AI 보안 정책부터 제대로 수립하는 것이 급선무라고 말합니다. 최대선 숭실대 소프트웨어학과 교수는 “AI에 노출해선 안 되는 정보와 그렇지 않은 정보에 관한 분류 체계를 만들고 이를 직원들에게 명확히 전달해야 한다”고 지적합니다. 그러나 일부 대기업을 제외하면 다수 기업·기관엔 이러한 AI 보안 체계가 없거나 있더라도 허술한 것이 현실입니다. 글로벌 컨설팅 기업 딜로이트가 지난해 11개국 3만명의 소비자와 직원을 대상으로 벌인 설문에 따르면 응답자의 4분의 1은 자신이 속한 조직에 “AI 정책이 없다”고 답했다고 합니다.
최 교수는 즉시 실천할 수 있는 보안 강화 ‘팁’도 소개했는데요, 첫 번째는 AI ‘데이터 학습’ 옵션을 찾아 끄는 것입니다. 각자 입력한 정보가 해당 AI 모델의 학습에 이용되지 않도록 하는 방법입니다.
두 번째는 웹사이트 텍스트 등을 복사해 AI 입력창에 붙여넣을 때, 무슨 내용인지 반드시 한번 읽어보라는 것입니다. 해커들이 몰래 숨겨놓은 ‘정보 유출 지시(프롬프트)’가 자신도 모르게 AI에 입력될 수 있기 때문입니다. 이러한 공격의 유형은 다양하지만 AI에 입력한 내용이 해커에게 모두 노출되는 상황도 생길 수 있습니다.
여러분이 다니는 기업에는 AI 보안 정책이 있나요? 여러분이 사용하는 AI ‘데이터 학습’ 옵션은 비활성화돼 있나요? AI가 일상에 파고든 만큼 보안도 각별히 유의해야 하는 시대입니다.
울산시는 경영난을 겪고 있는 중소기업을 대상으로 300억원 규모의 4차 중소기업 육성자금을 지원한다고 18일 밝혔다.
울산시는 협약을 맺은 금융기관 12곳이 중소기업에 대출을 제공하면, 대출이자의 일부(1.2~3%)를 지원할 예정이다. 지원 대상은 일시적으로 자금난을 겪는 울산지역 소재 중소기업이다.
시는 자동차(부품) 업종은 100억원, 이외 분야 중소기업은 200억원을 각각 지원한다. 다음 달 15~19일 울산경제일자리진흥원 기금융자관리시스템 누리집을 통해 신청 가능하다. 자세한 사항은 울산광역시 및 울산경제일자리진흥원 누리집을 참고하면 된다.
울산시는 이번 추가 지원까지 이뤄지면 올해 중소기업 육성자금으로 일반업종 1500억원, 조선 200억원, 자동차 300억원, 기술·혁신분야 300억원 등 모두 2300억원을 투입하게 된다고 설명했다.
한편 울산시는 미국 관세 협상으로 직접적인 영향을 받는 자동차(부품) 분야 중소기업의 어려움을 극복하기 위해 수출 경쟁력 강화 대책회의를 여는 등 대응방안 마련에 힘쓰고 있다.
울산시 관계자는 “지역 기업의 일시적인 자금경색을 완화하는 데 도움이 되기를 바란다”고 말했다.
“한때는 극중 캐릭터들처럼 늘 허기질 때도 있었지만 나이가 들었는지, 이제는 잘 절제하고 균형을 찾고 싶은 마음이 들어요.”
디즈니+의 오리지널 시리즈 <파인:촌뜨기들>(이하 <파인>)의 종영을 기념해 18일 서울 종로구에서 만난 배우 류승룡(55)은 “인간의 욕망과 허무함이라는, 모든 사람이 가지고 살아가는 마음에 대해 다룬 작품의 (<파인>의) 주제 의식이 마음에 들었다”고 말했다.
<파인>은 1977년, 전남 신안 앞바다에 귀한 보물이 잠겨있다는 소문을 듣고 모인 사람들이 서로 속고 속이며 벌어지는 줄거리로 이뤄졌다. 류승룡은 자신이 연기한 ‘오관석’은 끝없이 불어나는 인간의 욕망을 가장 잘 보여주는 캐릭터라고 평했다. “처음에는 간장게장을 먹고 싶어 간장을 훔쳤던 좀도둑이, 나중에는 삼천만 원의 목숨값을 요구하죠. 욕심과 욕망이 복리처럼 쌓이는 모습을 표현했다고 생각했어요. 나중에는 욕망과 함께 추락하는 모습으로 작품의 상징적인 모습을 드러낸 인물입니다.”
그는 “다른 배우들은 물에도 들어가고 액션도 하는 것에 비해, 관석은 사투리도 하지 않는 밋밋한 캐릭터일 수 있다고 생각했다”며 “시청자분들이 제 눈빛만 읽어도 캐릭터의 수와 생각을 따라올 수 있도록 ‘눈으로 말해야겠다’는 생각으로 연기했다. 나름대로 어려운 연기라고 생각한다”고 말했다.
지금까지 수많은 작품에 출연한 그이지만, 이번 현장은 뭔가 달랐다고 한다. 류승룡은 “현장에서 연기하는 배우들의 기세가 엄청났다. 정말 캐릭터 자체가 된 느낌이 들어 누가 가장 잘했다고 꼽기 어려울 정도”라며 “굳이 꼽는다면 임수정 배우의 연기가 가장 좋았다. 이번에 상을 받게 되지 않을까 기대 중이다”라고 말했다. 실제 온라인상에서 1970년대를 철저히 고증한 배경과 배우들의 열연이 화제가 되기도 했다.
작품 성공의 일등 공신으로는 강윤성 감독을 꼽았다. 강 감독은 드라마 <카지노>, 영화 <범죄도시> 등을 제작했다. 그는 “다른 조건이 다 똑같았다고 하더라도 강 감독이 아니었으면 작품은 나오지 않았을 것”이라며 “등장인물이 매우 많았음에도 불구하고 끝까지 중심을 잃지 않은 작품이 될 수 있었던 건 결국 감독의 역량 덕분”이라고 말했다. 촬영 당시에 “이런 좋은 작품을 이런 감독, 배우, 스태프분들과 할 수 있다는 게 정말 행운이고 선물 같다고 생각했다. 이 보물을 노리겠다는 마음으로 촬영했다”고 했다.
결말이 ‘허무하다’는 시청자들의 반응에 대해서는 “그게 의도한 바라고 생각한다”고 밝혔다. 그는 “속고 속이는 사람들의 욕망 속에서 무언가를 쥐는 사람은 아무도 없다”며 “유일하게 꿈을 이루는 인물이 ‘선자’(김민)라는 점에서 시사하는 점이 크다고 생각한다”고 했다. 덧붙여 그는 “악인은 결국 뭔가를 잃게 되어야 한다고 본다. 그래야 속이 시원하지 않을까”라고 말하며 웃어보였다.
“제가 좋아하는 영화 <파고>(Fargo, 1996)를 보면 사람들이 서로를 죽고 죽이며 겨우 보물을 찾는 과정을 보여준 다음, 그 보물을 숨겨뒀다가 결국 찾지 못하게 돼요. 허무한 엔딩이 서로 닮아있다고 생각했어요. 나중에 만나서 윤태호 작가를 만나 물어보니 작품을 집필할 당시 <파고>를 레퍼런스 삼았고, 집필 당시 눈앞에 영화 포스터를 붙여놨다고 하더라고요.”
죽을 것으로 예상됐던 관석이 마지막 회 쿠키 영상에 깜짝 등장하는 것 대해서 류승룡은 “결말을 촬영할 당시 관석이 죽는지 아닌지에 대해 감독과 많은 이야기를 나눴는데, 결국 살아있는 모습을 보여주자는 결론이 났다”며 “관석이 살아있으니, <무빙> 시즌 2 제작이 확정됐던 것처럼 이번 <파인>도 2기가 제작돼 바다가 아닌 땅을 파는 관석을 보여줄 수 있었으면 한다”고 말했다.
한동훈 전 국민의힘 대표가 18일 광복절 특별사면으로 출소한 조국 전 조국혁신당 대표에 대해 “조국씨는 사면이 아니라 사실상 탈옥한 것”이라며 “무죄라면 재심 청구해야 한다”고 밝혔다.
한 전 대표는 이날 페이스북에 올린 글에서 이같이 밝혔다. 검찰이 2019년 문재인 정부 법무부 장관으로 지명된 조 전 대표에 대한 수사에 착수했을 당시 한 전 대표는 대검찰청 반부패강력부장을 맡아 윤석열 당시 검찰총장을 보좌해 수사를 지휘했다.
한 전 대표는 페이스북에 재차 글을 올려 “조국씨 주장대로라면 공수처(고위공직자범죄수사처) 수사 대상은 조국씨 수사하다 좌천 네 번에 압수수색 두 번, 유시민 계좌추적 가짜뉴스 음해당한 한동훈이 아니라 1·2·3심 유죄 판결해 조국씨 감옥 보낸 대한민국 법원”이라고 주장했다.
조 전 대표가 지난 15일 석방되고 이날 방송에 처음 출연하는 등 공개 행보에 본격적으로 돌입하자, 한 전 대표가 조 전 대표의 대법원 유죄 확정판결을 거론하며 비판에 나선 것으로 풀이된다.
법원 판결에 동의하기 어렵다고 밝힌 조 전 대표의 이날 한겨레신문 인터뷰 발언을 겨냥한 것으로도 보인다.
조 전 대표는 인터뷰에서 법원 유죄 판결에 대해 ‘재심을 청구할 생각인가’라는 질문에 “재심을 하게 되면 거기에 또 힘을 쏟아야 하는데 그걸 원치는 않는다”며 “법원의 사실 판단과 법리에 동의하지 못하지만 판결에 승복한다는 얘기를 이미 여러 차례 했다”고 밝혔다.
조 전 대표는 또 “윤석열과 한동훈은 자신들의 지위 보전과 검찰개혁 저지를 위해 검찰권이라는 칼을 망나니처럼 휘둘렀다”며 “솔직히 말한다. 저는 두 사람을 용서할 수 없다”고 밝혔다.
친한동훈계 김종혁 전 국민의힘 최고위원도 이날 페이스북에 “부부가 억울하게 실형을 살았으면 불이익당할 걱정 없는 이재명 정권하에서 당연히 재심 신청해 무죄 판결을 받아야 하지 않나”라며 “그냥 솔직하게 사과하고 속죄하면 안 되나”라고 적었다.

이전글부산게임그래픽학원 민주당, 21일 법안 처리 재개···다시 ‘필리버스터’ 정국 25.08.20
다음글주식분석 ‘차기 일 총리 후보’ 고이즈미 신지로, 야스쿠니 신사 참배 25.08.20

댓글목록

등록된 댓글이 없습니다.

로직프로강의 [산업이지] 직원이 영업비밀을 챗GPT에 올렸다?… AI 보안주의보 > 갤러리

갤러리