추천 콘텐츠
세계 최초의 AI 규제법
2023년 12월 11일, explained
EU가 세계 최초로 AI 규제법에 합의했다. GDPR처럼 글로벌 표준이 될 수 있다.
12월 8일 밤 EU가 AI 규제법에 합의하자 티에리 브르통 EU 집행위원이 X에 올린 게시물. 사진: X, @ThierryBreton
NOW THIS
유럽 연합(EU)이 세계 최초로 AI 규제 법안에 합의했다. 12월 8일 EU 집행위원회와 유럽 의회, 27개 회원국을 대표하는 이사회는 37시간에 걸친 마라톤 회의 끝에 ‘AI 법(The AI Act)’에 합의했다. AI가 시민의 안전과 기본권을 침해하지 않도록 보장하고, 규정을 지키지 않는 기업에 벌금을 부과하는 내용이다. 법안은 내년 초 유럽 의회와 회원국의 공식 승인을 거쳐 발효될 예정이다.
WHY NOW
현재 AI 시장은 크게 두 방향으로 나뉜다. 혁신 중심의 미국, 규제 중심의 유럽이다. 유럽은 미국보다 AI 기술 발전이 느렸지만, 한발 앞서 규제에 나서면서 AI 경쟁의 주도권을 가져오게 됐다. 기업은 두 가지 기준을 좋아하지 않는다. 유럽용 AI 따로, 북미용 AI 따로 개발하는 건 비효율적이다. 이번 AI 규제법은 일반 데이터 보호 규정(GDPR)처럼 글로벌 표준이 될 수 있다.
The AI Act
“Deal!(합의!)” EU가 AI 규제법에 합의한 12월 8일 밤, 티에리 브르통 EU 집행위원이 X에 글을 올렸다. EU는 AI 사용에 규칙을 설정한 최초의 대륙이 됐다. 모든 절차가 끝난 것은 아니다. 합의안은 내년 초 유럽 의회에서 표결에 부쳐진다. 합의가 이뤄졌기 때문에 형식적인 절차가 될 것으로 보인다. 최종 합의문은 공개되지 않았다. 세부 사항은 당분간 계속 논의될 전망이다.
저위험
AI 규제법은 우리가 자동차의 안전성을 보장하기 위해 관련 법령을 두는 것처럼 AI라는 제품의 안전성을 보장하기 위해 만들어진 법이다. EU는 AI를 최소 위험, 제한적인 위험, 고위험, 허용할 수 없는 위험, 네 가지 등급으로 분류해서 각기 다른 규제를 적용한다. 스팸 메일 분류 같은 최소 위험 AI는 규제가 없다. 이미지 생성 같은 제한적 위험 AI는 콘텐츠가 AI로 만들어졌다는 사실을 공개하는 등 가벼운 수준의 투명성 의무가 적용된다.
고위험
고위험 AI는 시민의 건강과 안전, 기본권에 위협을 가할 수 있는 단계다. 필수적인 인프라(교통, 전기 등), 법 집행(증거의 신뢰성 평가), 교육 또는 채용 시험 평가(시험 채점), 필수적인 민간 및 공공 서비스(대출 실행을 위한 신용 평가), 의료(AI 로봇의 보조 수술) 등에 사용되는 AI가 여기에 해당한다. 고위험 AI 공급자는 제품과 서비스 출시 전에 적합성 평가를 받아야 한다.
허용할 수 없는(unacceptable) 위험
사용을 아예 금지하는 AI 기술도 있다. 인간의 인지 행동을 조종하거나, 정부와 기업이 AI를 사용해 개인의 ‘사회적 점수’를 매기는 시스템은 금지된다. 공공장소에서 법 집행을 목적으로 실시간 원격 생체 인식 기술을 사용하는 행위도 원칙적으로 금지된다. 다만 실종 아동 수색, 구체적이고 임박한 테러 위협 방지, 심각한 범죄 행위의 용의자 탐지 등에 있어서는 예외를 허용하기로 했다.
적용 범위
이번 합의안은 EU 역내에서 기업 활동을 하는 회사에만 영향을 미치는 것이 아니다. EU의 GDPR처럼 EU 거주자에게 제품과 서비스를 제공하는 모든 AI 시스템은 공급자의 위치와 관계없이 이 규정을 적용받는다. 당장 구글, MS 등 미국 빅테크가 규제 대상이다. 한국에 본사를 두고 있는 국산 AI 서비스를 프랑스 파리에 거주하는 사람이 이용하는 경우에도 이 법의 적용 대상이 된다.
처벌
AI 규제법을 어긴 기업에는 벌금이 부과된다. 미리 정한 벌금 또는 전년도 전 세계 매출액의 일정 비율 중에서 더 높은 금액을 내야 한다. 금지된 AI를 만들면 3500만 유로 또는 매출의 7퍼센트를 벌금으로 물린다. 의무를 위반하면 1500만 유로 또는 3퍼센트, 부정확한 정보를 제공하면 750만 유로 또는 1.5퍼센트를 벌금으로 부과한다. 중소기업과 스타트업은 벌금이 낮춰질 수 있다.
발효
이번에 합의된 법안은 특정 조항에 대한 일부 예외를 제외하고는 발효되고 나서 2년이 경과한 날부터 적용된다. 합의안은 2024년 초 유럽 의회와 회원국들의 공식 승인을 거쳐 발효된다. 그러니까 2026년부터 규제가 적용될 것으로 보인다. 한편 EU는 AI 모델을 감독하고 규제하는 기관인 ‘AI 오피스’를 설치하기로 했다.
IT MATTERS
AI 세계가 유럽과 미국, 두 방향으로 나뉘고 있다. 미국은 AI의 혁신을 우선한다. 위험성을 최소화하면서도 혁신을 저해하지 않는 데 중점을 둔다. EU는 AI의 잠재적 위험을 우려해 안전성을 최우선 고려한다. 기술에선 미국이 앞섰다면, 규제에선 EU가 앞섰다. EU의 AI 규제법은 현재 AI 규제를 검토하고 있는 각국 정부에 레퍼런스가 될 수 있다. 다시 말해 이번 법안의 주요 내용이 유럽 밖으로 확대될 가능성이 크다. AI 기업 입장에서 서로 다른 시장에 맞게 별도의 모델을 만드는 것은 비효율적이다. EU의 AI 규제법은 GDPR처럼 AI를 만드는 글로벌 스탠더드가 될 수 있다.
유럽 연합(EU)이 세계 최초로 AI 규제 법안에 합의했다. 12월 8일 EU 집행위원회와 유럽 의회, 27개 회원국을 대표하는 이사회는 37시간에 걸친 마라톤 회의 끝에 ‘AI 법(The AI Act)’에 합의했다. AI가 시민의 안전과 기본권을 침해하지 않도록 보장하고, 규정을 지키지 않는 기업에 벌금을 부과하는 내용이다. 법안은 내년 초 유럽 의회와 회원국의 공식 승인을 거쳐 발효될 예정이다.
WHY NOW
현재 AI 시장은 크게 두 방향으로 나뉜다. 혁신 중심의 미국, 규제 중심의 유럽이다. 유럽은 미국보다 AI 기술 발전이 느렸지만, 한발 앞서 규제에 나서면서 AI 경쟁의 주도권을 가져오게 됐다. 기업은 두 가지 기준을 좋아하지 않는다. 유럽용 AI 따로, 북미용 AI 따로 개발하는 건 비효율적이다. 이번 AI 규제법은 일반 데이터 보호 규정(GDPR)처럼 글로벌 표준이 될 수 있다.
The AI Act
“Deal!(합의!)” EU가 AI 규제법에 합의한 12월 8일 밤, 티에리 브르통 EU 집행위원이 X에 글을 올렸다. EU는 AI 사용에 규칙을 설정한 최초의 대륙이 됐다. 모든 절차가 끝난 것은 아니다. 합의안은 내년 초 유럽 의회에서 표결에 부쳐진다. 합의가 이뤄졌기 때문에 형식적인 절차가 될 것으로 보인다. 최종 합의문은 공개되지 않았다. 세부 사항은 당분간 계속 논의될 전망이다.
저위험
AI 규제법은 우리가 자동차의 안전성을 보장하기 위해 관련 법령을 두는 것처럼 AI라는 제품의 안전성을 보장하기 위해 만들어진 법이다. EU는 AI를 최소 위험, 제한적인 위험, 고위험, 허용할 수 없는 위험, 네 가지 등급으로 분류해서 각기 다른 규제를 적용한다. 스팸 메일 분류 같은 최소 위험 AI는 규제가 없다. 이미지 생성 같은 제한적 위험 AI는 콘텐츠가 AI로 만들어졌다는 사실을 공개하는 등 가벼운 수준의 투명성 의무가 적용된다.
고위험
고위험 AI는 시민의 건강과 안전, 기본권에 위협을 가할 수 있는 단계다. 필수적인 인프라(교통, 전기 등), 법 집행(증거의 신뢰성 평가), 교육 또는 채용 시험 평가(시험 채점), 필수적인 민간 및 공공 서비스(대출 실행을 위한 신용 평가), 의료(AI 로봇의 보조 수술) 등에 사용되는 AI가 여기에 해당한다. 고위험 AI 공급자는 제품과 서비스 출시 전에 적합성 평가를 받아야 한다.
허용할 수 없는(unacceptable) 위험
사용을 아예 금지하는 AI 기술도 있다. 인간의 인지 행동을 조종하거나, 정부와 기업이 AI를 사용해 개인의 ‘사회적 점수’를 매기는 시스템은 금지된다. 공공장소에서 법 집행을 목적으로 실시간 원격 생체 인식 기술을 사용하는 행위도 원칙적으로 금지된다. 다만 실종 아동 수색, 구체적이고 임박한 테러 위협 방지, 심각한 범죄 행위의 용의자 탐지 등에 있어서는 예외를 허용하기로 했다.
적용 범위
이번 합의안은 EU 역내에서 기업 활동을 하는 회사에만 영향을 미치는 것이 아니다. EU의 GDPR처럼 EU 거주자에게 제품과 서비스를 제공하는 모든 AI 시스템은 공급자의 위치와 관계없이 이 규정을 적용받는다. 당장 구글, MS 등 미국 빅테크가 규제 대상이다. 한국에 본사를 두고 있는 국산 AI 서비스를 프랑스 파리에 거주하는 사람이 이용하는 경우에도 이 법의 적용 대상이 된다.
처벌
AI 규제법을 어긴 기업에는 벌금이 부과된다. 미리 정한 벌금 또는 전년도 전 세계 매출액의 일정 비율 중에서 더 높은 금액을 내야 한다. 금지된 AI를 만들면 3500만 유로 또는 매출의 7퍼센트를 벌금으로 물린다. 의무를 위반하면 1500만 유로 또는 3퍼센트, 부정확한 정보를 제공하면 750만 유로 또는 1.5퍼센트를 벌금으로 부과한다. 중소기업과 스타트업은 벌금이 낮춰질 수 있다.
발효
이번에 합의된 법안은 특정 조항에 대한 일부 예외를 제외하고는 발효되고 나서 2년이 경과한 날부터 적용된다. 합의안은 2024년 초 유럽 의회와 회원국들의 공식 승인을 거쳐 발효된다. 그러니까 2026년부터 규제가 적용될 것으로 보인다. 한편 EU는 AI 모델을 감독하고 규제하는 기관인 ‘AI 오피스’를 설치하기로 했다.
IT MATTERS
AI 세계가 유럽과 미국, 두 방향으로 나뉘고 있다. 미국은 AI의 혁신을 우선한다. 위험성을 최소화하면서도 혁신을 저해하지 않는 데 중점을 둔다. EU는 AI의 잠재적 위험을 우려해 안전성을 최우선 고려한다. 기술에선 미국이 앞섰다면, 규제에선 EU가 앞섰다. EU의 AI 규제법은 현재 AI 규제를 검토하고 있는 각국 정부에 레퍼런스가 될 수 있다. 다시 말해 이번 법안의 주요 내용이 유럽 밖으로 확대될 가능성이 크다. AI 기업 입장에서 서로 다른 시장에 맞게 별도의 모델을 만드는 것은 비효율적이다. EU의 AI 규제법은 GDPR처럼 AI를 만드는 글로벌 스탠더드가 될 수 있다.