최근 인공지능(AI) 챗봇 '챗GPT'가 이탈리아에서 접속 금지 규제를 받게 됐다.
챗GPT는 지난해 11월 출시 이후 큰 주목을 받고 있다. 이미 출시 5일 만에 사용자 100만명을 돌파, 40일에는 이미 100만명의 사용자 수를 기록했고 챗GPT를 활용한 광고 등이 공개되는 등 큰 영향을 미치고 있다.
그러나 최근 이런 챗GPT가 데이터 수집 문제를 이유로 일부 국가에서 기능 제한이나 사용 금지 조치 당하고 있다.
챗GPT는 대표적인 생산형 AI로 텍스트, 이미지, 음악 비디오 같은 원본 콘텐츠를 생성할 수 있는 인공지능이다. 콘텐츠 생산을 위해 챗GPT는 다양한 데이터와 생산 패턴을 학습한다.
이번에 문제가 된 건 이 학습 과정이다.
AI 학습에 필요한 데이터가 무단으로 사용되었다는 주장이다. 이탈리아 규제당국은 챗GPT가 개인정보를 무단으로 사용한다고 판단, 해당 의혹을 해명하기 전까지는 임시 접속 금지 조치를 내리기로 했다.
이탈리아 측은 "개발사인 오픈 AI가 해결책을 내놓지 않는다면 전 세계 매출액의 최대 4%에 달하는 벌금을 물게 될 것"이라고 경고했다.
AI 학습과 관련된 논란은 이번이 처음은 아니다.
지난 2021년, 국내 인공지능 챗봇 '이루다'는 출시 약 2주 만에 개인정보 유출 문제 및 윤리 문제 등으로 서비스 중단 절차를 밟았다.
이루다는 20대 여성을 캐릭터로 한 AI로, 이용자가 채팅 방식으로 궁금한 것을 물어보면 답하는 방식을 사용했다. 특히 이루다는 기존에 출시되었던 AI들과 달리 자연스러운 말투로 친근한 대화 서비스까지 가능해 큰 인기를 끌었다.
이런 이루다가 논란에 휩싸인 건 출시된 지 2주도 되지 않은 시점이었다.
이루다가 일부 대화 주제에 대해 혐오, 차별 발언을 한 것으로 알려졌기 때문이다. 뿐만 아니라 이루다가 말하는 대화에서 개인정보로 의심되는 정보들이 섞여있다는 의심도 커졌다.
결국 해당 의심은 사실로 나타났다.
이루다 제작사인 스캐터랩은 자사가 운영하는 또다른 서비스인 '연애의 과학' 앱을 통해 수집된 이용자들의 카카오톡 대화를 이루다 개발에 활용한 것으로 밝혀졌다. 알려진 바에 의하면 스캐터랩은 해당 앱으로 카카오톡 대화 약 100억 건을 수집, 이중 1억 건을 이루다 개발에 활용한 것으로 나타났다.
이로인한 개인정보 유출 의혹도 문제시됐다. 연애의 과학 앱 이용자의 것으로 추정되는 이들의 실제 주소, 성명, 계좌정보 등이 답변에 포함된 것.
이번 챗GPT 금지 역시 결제 데이터 및 사용자 대화 유출 의혹이 원인이었다.
가디언은 지난달 챗GPT에서 일부 이용자들이 다른 사용자들의 채팅 기록이나 제목을 볼 수 있는 버그가 발견됐다고 보도했다.
챗GPT의 제작사인 오픈AI는 즉각 사과했으나 개인정보 무단 수집 및 유출 문제는 더욱 커졌다.
결국 이탈리아 당국은 챗GPT의 알고리즘 학습에 쓰이는 데이터의 수집 및 저장 방법, 재가공해 처리하는 걸 정당화할 법적 근거가 없다고 문제를 제기하고 조사에 착수했다.
이탈리아 외에도 다른 나라들도 규제에 동참하고 있다.
BBC는 영국 데이터 규제당국이 AI개발을 지원하지만 데이터보호법을 준수하지 않는 AI에는 이의를 제기할 준비가 되어있다고 보도했다. 아일랜드 데이터보호위원회도 이탈리아 규제 당국의 조치와 근거를 주시하고 있다고 답변한 것으로 알려졌다. 이외에도 중국과 러시아 같은 정보에 민감한 나라들도 챗GPT 사용금지에 동참 하고 있다.
정보보안에 주의를 요하는 기업들도 챗GPT의 데이터 수집을 경계 중이다. 세계적인 투자사인 JP모건, 미국 1위 이동통신기업 버라이즌 등도 기업의 기밀정보 보안을 위해 챗GPT 사용을 금지했다.
한편 이번 챗GPT의 학습과 관련한 논란은 쉽게 그치지 않을 것으로 보인다.
이미 SNS에서는 자신의 창작물을 AI에 학습하지 못하게 하려는 움직임이 나타나고 있다.
AI를 활용한 창작물은 단시간 내에 높은 품질의 콘텐츠를 생산할 수 있고 현행법상 콘텐츠를 생산한 이가 저작권자가 된다.
그러나 이를 생산하기 위해서는 AI 학습에 관련 데이터를 수집해야 한다. SNS나 인터넷 커뮤니티를 통해 공개된 콘텐츠들 중 일부는 이런 과정에서 활용될 수 있다. 결국 AI의 학습을 방해하는 프로그램까지 등장했다.
이같은 논란 속에 챗GPT 규제는 향후 업계 자체에 큰 파장을 불러일으킬 것으로 예상되고 있다.
유럽 소비자 기구(BEUC)는 "AI는 분명 우리 사회에 가져다 줄 수 있는 이점이 많지만 아직까지 AI로 인해 사람들이 겪을 피해는 주목받지 못하고 있다"며 "이런 부정적인 면에 대한 충분한 보호책 마련이 필요하다"고 밝혔다.
[데일리e뉴스= 임남현 기자]
