개인 정보 보호 문제로 이탈리아에서 ChatGPT 금지
시오나 맥컬럼
기술 기자
이탈리아는 고급 챗봇 ChatGPT를 차단한 최초의 서방 국가가 되었습니다.
이탈리아 데이터 보호 당국은 미국 스타트업 OpenAI가 만들고 Microsoft가 지원하는 모델과 관련하여 개인 정보 보호 문제가 있다고 말했습니다.
규제 당국은 "즉각적인 효과"로 OpenAI를 금지하고 조사할 것이라고 말했습니다.
OpenAI는 BBC에 개인 정보 보호법을 준수한다고 말했습니다.
수백만 명의 사람들이 2022년 11월에 출시된 이후로 ChatGPT를 사용했습니다.
인간과 같은 자연스러운 언어를 사용하여 질문에 답할 수 있으며 2021년의 인터넷을 데이터베이스로 사용하여 다른 문체를 모방할 수도 있습니다.
Microsoft는 그것에 수십억 달러를 지출했으며 지난 달 Bing에 추가되었습니다.
또한 워드, 엑셀, 파워포인트, 아웃룩을 포함한 오피스 앱에 이 기술 버전을 내장할 것이라고 말했다.
일자리에 대한 위협 , 잘못된 정보와 편견의 확산 등 인공 지능(AI)의 잠재적 위험에 대한 우려가 있었습니다 .
이번 주 초 Elon Musk를 포함한 기술 분야의 주요 인사들은 이러한 유형의 AI 시스템을 개발하기 위한 경쟁이 통제 불능이라는 두려움 속에서 중단될 것을 요구했습니다 .
이탈리아 감시단은 OpenAI의 챗봇을 차단할 뿐만 아니라 일반 데이터 보호 규정을 준수하는지 조사할 것이라고 말했습니다.
GDPR은 우리가 개인 데이터를 사용, 처리 및 저장할 수 있는 방식을 관리합니다.
워치독은 3월 20일 앱에서 사용자 대화 및 결제 정보와 관련된 데이터 유출이 발생했다고 밝혔습니다.
플랫폼 운영의 기본이 되는 알고리즘을 '훈련'할 목적으로 개인 데이터를 대량으로 수집하고 저장하는 것을 정당화할 법적 근거가 없다고 밝혔다.
또 이용자의 나이를 확인할 수 있는 방법이 없기 때문에 "미성년자의 발달 정도와 인지도에 비해 절대 부적절한 답변에 노출된다"고 설명했다.
구글의 라이벌 인공지능 챗봇인 바드(Bard)는 현재 18세 이상의 특정 사용자에게만 제공되고 있다 . 같은 우려 때문이다.
이탈리아 데이터 보호 당국은 OpenAI가 2000만 유로(2170만 달러)의 벌금 또는 연간 수익의 최대 4%에 해당하는 벌금을 부과하는 조건으로 워치독의 우려를 어떻게 해결할 것인지를 20일 안에 발표해야 한다고 말했습니다.
다른 곳에서 아일랜드 데이터 보호 위원회는 BBC에 이탈리아 규제 당국의 조치에 대한 근거를 이해하기 위해 후속 조치를 취하고 있으며 금지와 관련하여 "모든 EU 데이터 보호 당국과 협력할 것"이라고 말했습니다.
영국의 독립적인 데이터 규제 기관인 Information Commissioner's Office는 BBC에 AI의 개발을 "지원"할 것이지만 데이터 보호법을 "준수하지 않는 것에 도전"할 준비가 되어 있다고 말했습니다.
사이버 보안 등급 제공업체인 SecurityScorecard의 Dan Morgan은 이번 금지 조치가 유럽에서 사업을 운영하는 회사에 대한 규제 준수의 중요성을 보여준다고 말했습니다.
"기업은 개인 데이터 보호를 우선시하고 EU에서 정한 엄격한 데이터 보호 규정을 준수해야 합니다. 규정 준수는 선택 사항이 아닙니다."
'충분히 규제되지 않음'
소비자 옹호 단체 BEUC는 또한 미국에서 불만이 제기된 후 EU 및 국가 당국(데이터 보호 감시 기관 포함)에 ChatGPT 및 유사한 챗봇을 조사할 것을 촉구했습니다.
EU가 현재 AI에 관한 세계 최초의 입법을 위해 노력하고 있지만, BEUC는 AI 법안이 발효되기까지 몇 년이 걸리고 충분히 규제되지 않은 기술로 인해 소비자가 피해를 입을 위험에 처하게 될 것이라고 우려하고 있습니다.
BEUC의 우르줄라 파츨 부국장은 사회가 "현재 AI가 일으킬 수 있는 피해로부터 충분히 보호받지 못하고 있다"고 경고했다.
"ChatGPT 및 유사한 챗봇이 어떻게 사람들을 속이고 조종할 수 있는지에 대한 심각한 우려가 커지고 있습니다. 이러한 AI 시스템은 더 많은 공개 조사가 필요하며 공공 기관은 이를 다시 통제해야 합니다."라고 그녀는 말했습니다.
ChatGPT는 중국, 이란, 북한, 러시아를 포함한 여러 국가에서 이미 차단되었습니다.
OpenAI는 Garante라고 하는 이탈리아 데이터 보호 규제 기관의 요청에 따라 이탈리아 사용자에 대해 ChatGPT를 비활성화했다고 BBC에 말했습니다.
"우리는 사람들의 개인 정보를 보호하기 위해 최선을 다하고 있으며 GDPR 및 기타 개인 정보 보호법을 준수한다고 믿습니다."라고 썼습니다.
조직은 AI 시스템이 "개인이 아닌 세상에 대해 배우기"를 원했기 때문에 ChatGPT와 같은 AI 시스템 교육에서 개인 데이터를 줄이기 위해 노력했다고 말했습니다.
"우리는 또한 AI 규제가 필요하다고 생각하므로 Garante와 긴밀히 협력하고 시스템 구축 및 사용 방법에 대해 교육할 수 있기를 기대합니다."
OpenAI는 "곧" 이탈리아에서 ChatGPT를 다시 사용할 수 있기를 기대한다고 말했습니다.