유럽 ​​인공지능법은 2025년 2월 2일에 주요 변경 사항을 도입하여 다음과 같은 사항을 확실히 규정했습니다. AI 실무 유럽 ​​연합 전역에서 불법입니다. 네덜란드 기업 이제 기업들은 어떤 AI 시스템을 사용할 수 있는지에 대한 엄격한 규칙을 준수해야 합니다.

금지된 AI 도구를 제거하지 않는 기업은 막대한 벌금형에 처해질 뿐만 아니라 피해를 입은 사람으로부터 법적 조치를 당할 수도 있습니다.

2025년 2월부터 네덜란드에서는 사람을 조종하거나, 사회적 점수를 사용하거나, 생체 데이터를 기반으로 개인을 분류하거나, 공공장소에서 실시간 얼굴 인식을 사용하는 AI 시스템이 금지됩니다. 이러한 금지 조치는 직장과 학교에서의 감정 인식 기술뿐만 아니라 인식 데이터베이스 구축을 위해 인터넷에서 무분별하게 얼굴 이미지를 수집하는 행위에도 적용됩니다.

이 규정은 즉시 적용되므로 기업은 이러한 시스템을 단계적으로 폐지할 유예 기간이 없습니다. 어떤 AI 관행이 금지되는지, 그리고 조직이 어떤 조치를 취해야 하는지 이해하는 것은 벌금을 피하는 데 필수적입니다.

이 안내서는 구체적인 금지 사항을 설명하고, 여러분의 권한을 개괄적으로 안내합니다. 규정 준수 의무 네덜란드 기업으로서, 새로운 법률에 따라 합법적으로 사업을 운영하는 데 필요한 교육 요건을 다룹니다.

2025년 2월 금지 사항 개요

규정(EU) 2024/1689, 일명 EU AI 법네덜란드 법은 특정 인공지능 관련 행위에 대한 구체적인 금지 조항을 도입했으며, 이는 2025년 2월 2일부터 시행됩니다. 이 규정은 네덜란드에서 사업을 운영하면서 인공지능을 개발, 배포 또는 사용하는 경우에 적용됩니다. AI 시스템네덜란드 또는 더 넓은 유럽 연합 내의 국가들.

금지된 AI 관행의 범위

인공지능법은 기본권과 유럽의 가치에 용납할 수 없는 위험을 초래하는 특정 인공지능 관행을 금지합니다. 유럽연합 규정(EU) 2024/1689 제5조는 이러한 금지 관행을 기술 자체가 아닌 잠재적 위해성을 기준으로 규정합니다.

주요 금지 품목은 다음과 같습니다.

• 조작적인 AI 시스템 특정 집단의 취약점을 악용하는
• 사회적 점수 시스템 공공 당국에 의해
• 실시간 원격 생체 인식 공개적으로 접근 가능한 공간에서 법 (일부 예외를 제외하고) 집행
• 생체 인식 분류 시스템 민감한 속성을 추론하는
• 타겟팅되지 않은 스크래핑 인터넷이나 CCTV 영상에서 얻은 얼굴 이미지

네덜란드에서 AI 제공업체, 배포업체 또는 유통업체로 사업을 운영하는 경우, 이러한 금지 사항에 해당됩니다. 네덜란드 데이터 보호 당국은 다른 유럽 연합 집행 기관과 협력하여 규정 준수를 보장합니다.

규정을 준수하지 않을 경우 전 세계 연간 매출액의 최대 7%에 달하는 벌금이 부과될 수 있습니다.

시행일 및 전환 기간

제5조에 따른 금지 사항은 2025년 2월 2일부터 적용됩니다. 따라서 관련 AI 시스템을 사용하거나 개발하는 기업은 즉시 해당 규정을 준수해야 합니다.

시행 체계는 단계적 일정에 따라 진행됩니다. 모든 처벌 조항, 지배구조 및 기밀 유지 조항은 2025년 8월 2일부터 효력을 발휘합니다.

이는 귀사에 6개월의 유예 기간을 제공하며, 이 기간 동안에는 규정이 적용되지만 완전한 시행 메커니즘은 아직 확립되지 않은 상태입니다. 유럽 위원회는 이러한 금지 조치가 실제로 어떻게 적용되는지 명확히 하기 위해 2025년 2월 4일에 공식 지침을 발표했습니다.

네덜란드 데이터 보호 당국을 포함한 시장 감독 당국은 2월부터 이러한 규칙을 모니터링하고 시행할 책임을 맡게 되었습니다.

주요 정의: AI 시스템 및 실무

인공지능법에 따라, AI 시스템 머신러닝, 논리 기반 접근 방식 또는 통계적 방법을 사용하여 예측, 추천 또는 의사 결정과 같은 결과를 생성하는 소프트웨어를 의미합니다. 이 정의는 현재 및 미래의 기술을 포괄하기 위해 의도적으로 광범위하게 설정되었습니다.

A 금지된 AI 관행 이는 유럽 연합이 용납할 수 없다고 판단한 특정 인공지능 배포 또는 사용 방식을 의미합니다. 이 금지는 기본 기술이 아닌 해당 관행 자체에 적용됩니다.

이는 허용된 용도로는 동일한 AI 시스템을 사용할 수 있지만 특정 용도에서는 사용이 금지될 수 있음을 의미합니다. 기업은 AI 시스템(기술)과 그 사용 방식(실행)을 명확히 구분해야 합니다.

인공지능 기반의 얼굴 인식 시스템은 건물 출입 통제에는 합법적일 수 있지만, 공공장소에서의 실시간 감시에는 금지될 수 있습니다. EU 규정 2024/1689에 따라 합법성 여부는 맥락과 적용 방식에 따라 결정됩니다.

금지된 AI 관행에 대한 상세 목록

EU 인공지능법은 기본권과 안전에 용납할 수 없는 위험을 초래하는 특정 인공지능 애플리케이션을 금지합니다. 이러한 금지된 관행은 크게 세 가지 범주로 나뉩니다. 인간의 행동을 조작하는 시스템, 그리고 취약 계층을 착취한다그리고 사회적 점수 시스템을 통해 대규모 감시를 가능하게 하는 메커니즘.

조작적이고 기만적인 시스템

인공지능법은 인간의 행동을 실질적으로 왜곡하여 해를 끼치는 방식으로 잠재의식적 기법을 사용하는 모든 인공지능 시스템을 금지합니다. 이러한 기법은 의식적인 인지 범위를 넘어 인간의 결정이나 행동에 영향을 미치는 방식입니다.

금지된 조작 행위에는 다음이 포함됩니다.

• 감지할 수 없는 잠재의식적 요소를 사용하는 AI 시스템
• 아동의 연령 관련 취약점을 악용하도록 설계된 시스템
• 신체적 또는 심리적 피해를 유발하기 위해 행동을 조작하는 기술

인공지능을 이용해 의도적으로 행동할 수는 없습니다. 사람들을 속이다 다음과 같은 방식으로 이어집니다 중대한 해로움즉, 기업은 인공지능이라는 사실을 사용자에게 숨기는 챗봇이나 가상 비서를 배포해서는 안 됩니다. 이러한 기만 행위는 손해를 초래할 수 있기 때문입니다.

이번 금지 조치는 사용자를 유해한 선택으로 유도하기 위해 악의적인 패턴이나 심리적 조작을 사용하는 AI 시스템에도 적용됩니다. 법 합리적인 의사결정 과정을 우회하는 AI 관행으로부터 개인을 보호합니다.

인공지능 시스템이 투명한 정보가 아닌 은밀한 조작을 통해 행동에 영향을 미치는 경우, 이는 해당 법률을 위반하는 것입니다.

취약계층 착취

나이, 장애, 사회경제적 상황과 관련된 취약점을 악용하는 AI 시스템은 엄격히 금지됩니다. 이해력이나 조작에 저항할 능력이 부족한 사람들을 이용하기 위해 AI를 사용하는 것은 절대 금지됩니다.

이 금지 조치는 어린이의 미숙함이나 노인의 인지 기능 저하를 악용하는 AI에 적용됩니다. 귀사는 신체적 또는 정신적 장애를 이용하여 행동을 조작하는 시스템을 배포할 수 없습니다.

경제적 어려움이나 사회적 고립을 악용하는 AI 또한 이러한 금지 대상에 포함됩니다.

보호 대상 취약 계층은 다음과 같습니다.

• 어린이 및 미성년자
• 인지 장애가 있는 노인
• 신체적 또는 정신적 장애를 가진 사람들
• 경제적 어려움에 직면한 개인들

이 금지 조항은 인공지능 시스템이 악용을 통해 심각한 피해를 야기하거나 야기할 가능성이 있는 경우에 적용됩니다. 인공지능 애플리케이션이 취약 계층을 부당하게 표적으로 삼을 수 있는지 여부를 평가해야 합니다.

사회적 점수 매기기 및 행동 프로파일링

인공지능법은 인간의 신체적, 정신적 특성을 기준으로 평가하거나 분류하는 인공지능 시스템을 금지합니다. 사회적 행동 또는 개인적 특성. 불공정한 대우나 피해를 초래하는 사회적 점수 산정 메커니즘은 사용할 수 없습니다.

사회적 점수화는 개인의 행동, 관계 또는 예측되는 행동을 기반으로 개인을 평가하는 것입니다. 이를 통해 프로필이 생성되고, 이 프로필은 서비스, 기회 또는 권리에 대한 접근 권한을 결정하는 데 사용됩니다.

금지된 소셜 스코어링 활동은 다음과 같습니다.

• 사회적 또는 직업적 행동을 기준으로 시민을 평가합니다.
• 개인 데이터를 기반으로 신뢰도 점수 생성
• 프로파일링을 기반으로 범죄 행위 예측
• 행동 평가를 기반으로 서비스 제공을 거부하는 것

인공지능 시스템을 이용하여 특정인이 의료 서비스, 교육, 고용 또는 금융 서비스를 받을 자격을 점수로 결정하는 것은 금지되어 있습니다. 이러한 시스템을 공공기관이 운영하든 민간 기업이 운영하든 관계없이 이 금지 조항이 적용됩니다.

실시간 원격 생체 인식 공공장소에서의 행위 또한 법 집행 기관의 예외를 제외하고는 엄격히 금지됩니다.

생체인식, 얼굴 인식 및 감정 AI 금지

EU 인공지능법은 위험을 초래할 수 있는 여러 유형의 생체 인식 및 얼굴 인식 시스템을 금지합니다. 기본적 권리이러한 금지 사항은 네덜란드 기업이 이를 활용하는 방식에 영향을 미칩니다. 생체 인식 데이터얼굴 인식 데이터베이스, 감정 인식 도구, 공공장소에서의 실시간 신원 확인 시스템 등이 포함됩니다.

생체 인식 분류 및 데이터 활용

생체 정보를 기반으로 인종, 정치적 견해, 노동조합 가입 여부, 종교적 신념 또는 성적 지향을 추론하는 인공지능 시스템을 사용하는 것은 금지됩니다. 이러한 시스템을 시장에 출시하거나, 서비스에 투입하거나, 또는 이러한 특정 목적으로 사용하는 경우 이 금지 조항이 적용됩니다.

이 금지 조치는 다음과 같은 시스템을 대상으로 합니다. 민감한 추론 생체 분석을 통해 개인에 대한 정보를 수집합니다. 이를 준수하지 않을 경우 기업은 전 세계 연간 매출액의 최대 7%에 달하는 벌금에 처할 수 있습니다.

이 규칙에는 한 가지 예외가 있습니다. 법 집행 맥락에서 합법적으로 획득한 생체 데이터 세트(예: 이미지)는 생체 데이터를 기반으로 레이블을 지정하거나 필터링할 수 있습니다.

법 집행 기관을 제외하고는 이러한 분류 관행은 완전히 금지되어 있습니다.

얼굴 인식 기술에 대한 제한 사항

인터넷이나 CCTV 영상에서 얼굴 이미지를 무차별적으로 수집하여 얼굴 인식 데이터베이스를 구축하거나 확장하는 것은 금지됩니다. 이 금지 조항은 2025년 2월 2일부터 시행됩니다.

이 금지 조치가 적용되려면 네 가지 조건이 충족되어야 합니다.

• 이 행위는 인공지능 시스템을 설치, 관리 또는 사용하는 것을 포함합니다.
• 목적은 얼굴 인식 데이터베이스를 구축하거나 확장하는 것입니다.
• 이 방법은 얼굴 이미지에 대한 비표적 스크래핑을 사용합니다.
• 데이터 소스는 인터넷 또는 CCTV 영상입니다.

핵심 단어는 "비표적"입니다. 얼굴 이미지를 광범위하고 무차별적인 방식으로 수집할 수는 없습니다.

즉, 특정 타겟팅 기준 없이 슈퍼마켓이나 공공장소에 카메라를 설치하여 자동으로 얼굴 정보를 수집하고 인식 데이터베이스를 구축할 수 없다는 의미입니다.

고용 및 교육 분야에서의 감정 인식

직장 및 교육 기관에서 인공지능 시스템을 사용하여 사람들의 감정을 추론하는 것은 금지됩니다. 이 금지 조치는 감정 감지 도구 도입을 고려할 수 있는 인사 부서, 학교 및 교육 기관에 직접적인 영향을 미칩니다.

이 금지 조치는 특정 환경에서 감정 상태를 읽거나 해석하도록 설계된 모든 AI 시스템에 적용됩니다. 얼굴 분석, 음성 패턴 인식 또는 기타 생체 인식 지표를 사용하는지 여부는 중요하지 않습니다.

한 가지 예외 사항이 있습니다. 감정 인식 AI가 의료 또는 안전 목적에 부합하는 경우 사용할 수 있습니다.

예를 들어, 안전상의 이유로 운전자의 주의력을 모니터링하거나 의료 환경에서 환자의 고통을 감지하는 것은 이 예외 조항에 해당될 수 있습니다.

원격 생체인식 식별의 한계

엄격하게 정의된 예외적인 경우를 제외하고는, 공공장소에서 법 집행 목적으로 실시간 원격 생체인식 시스템을 사용할 수 없습니다. 이러한 예외에는 납치 또는 인신매매 피해자 수색, 생명에 대한 임박한 위협 또는 테러 공격 방지, 그리고 4년 이상의 징역형에 처할 수 있는 중범죄 용의자 소재 파악이 포함됩니다.

각 사용 시마다 사전 승인 에서 사법권 또는 독립적인 행정 기관. 긴급한 상황에서는 승인 없이 사용을 시작할 수 있지만, 24시간 이내에 승인을 요청해야 합니다.

당국이 승인을 거부하는 경우, 시스템 사용을 즉시 중단하고 모든 데이터를 삭제해야 합니다. 네덜란드는 국내법 내에서 이러한 예외 사항에 대한 세부 규정을 정할 수 있습니다.

귀사는 관련 시장 감시 기관 및 국가 데이터 보호 기관에 모든 사용 내역을 통보해야 합니다. 회원국은 실시간 원격 생체 인식 사용에 대한 연례 보고서를 유럽 위원회에 제출합니다.

네덜란드 기업의 준수 의무

네덜란드 기업들은 금지된 시스템을 식별하고, 운영에서 해당 시스템을 제거하고, 적절한 문서를 유지함으로써 AI 규정을 준수하기 위한 구체적인 조치를 취해야 합니다. 네덜란드 DPA 네덜란드 디지털 인프라 당국은 이러한 요건을 엄격히 시행할 것이며, 위반 시 상당한 처벌을 내릴 것입니다.

운영 내에서 금지된 AI 식별

새로운 규정을 위반할 가능성이 있는 AI 시스템을 찾아내기 위해 조직 전체에 걸쳐 철저한 위험 평가를 수행해야 합니다. 이는 조작 기법을 사용하거나, 취약점을 악용하거나, 사회적 점수 시스템을 구현하거나, 공공장소에서 실시간 생체 인식을 수행하는 모든 기술을 검토하는 것을 의미합니다.

먼저 현재 사용 중인 모든 AI 시스템의 목록을 작성하세요. 각 시스템의 기능, 데이터 처리 방식, 그리고 영향을 받는 대상을 문서화하십시오.

고객, 직원 또는 일반 대중과 상호 작용하는 시스템에 특히 주의를 기울여야 합니다. 위험 평가에서는 어떤 시스템이든 기본권을 침해할 가능성이 있는지 여부를 평가해야 합니다.

여기에는 AI 시스템이 행동, 개인적 특성 또는 사회적 관계를 기반으로 사람에 대한 결정을 내리는지 여부를 확인하는 것이 포함됩니다. 투명성 없이 개인을 추적하거나 프로파일링하는 시스템은 즉각적인 검토가 필요합니다.

기술팀과 협력하여 각 AI 시스템의 작동 방식을 이해하십시오. 공급업체의 설명에만 의존해서는 안 됩니다.

네덜란드 데이터보호청(DPA)은 시스템을 직접 구축했는지 또는 제3자로부터 구매했는지 여부와 관계없이 규정 준수에 대한 책임은 사용자에게 있음을 명확히 했습니다.

금지된 AI 시스템의 단계적 폐지 또는 제거

금지된 AI 기술 사용을 즉시 중단해야 합니다. 법은 금지된 시스템에 대해 어떠한 유예 기간도 허용하지 않습니다.

위험 평가에서 금지된 관행이 확인되면 즉시 해당 관행을 중단해야 합니다. 기술적 영향과 운영적 영향을 모두 고려한 제거 계획을 수립하십시오.

일부 시스템은 더 큰 플랫폼에 내장되거나 여러 프로세스에 연결될 수 있습니다. 금지된 요소를 제거하는 과정에서 필수적인 비즈니스 기능이 중단되지 않도록 해야 합니다.

시스템을 종료하기 전에 해당 시스템이 이전에 수행했던 작업을 어떻게 처리할지 파악해야 합니다. 여기에는 수동 프로세스로 되돌아가거나, 다른 기술을 도입하거나, 워크플로를 완전히 재설계하는 것이 포함될 수 있습니다.

제거 과정의 모든 단계를 문서화하십시오. 금지된 행위를 발견한 시점, 취한 조치, 그리고 시스템이 완전히 비활성화된 시점을 기록하십시오.

규제 당국은 귀하가 위반 사항을 발견한 즉시 신속하게 조치를 취했다는 명확한 증거를 기대할 것입니다.

기록 보관 및 문서화

금지 규정 준수를 입증하는 기술 문서를 보관해야 합니다. 여기에는 위험 평가 기록, AI 시스템 관련 결정 사항, 그리고 규정 준수를 위해 수행한 모든 변경 사항이 포함됩니다.

제출하시는 서류에는 다음 내용이 포함되어야 합니다.

• 시스템 인벤토리 각 AI 애플리케이션에 대한 설명과 함께
• 위험성 평가 보고서 잠재적 위반 사항에 대한 분석 결과를 보여주세요.
• 제거 기록 금지된 시스템을 언제, 어떻게 비활성화했는지 자세히 설명하십시오.
• 기본권 영향 평가 경계선상의 사례의 경우

이 기록은 최소 5년간 보관하십시오. 네덜란드 데이터 보호청(DPA)은 검사 또는 조사 중에 해당 기록을 요청할 수 있습니다.

문서가 누락되거나 불완전할 경우 최대 7,500,000만 유로 또는 연간 전 세계 매출액의 1%에 해당하는 벌금이 부과될 수 있습니다. 규제 당국이 AI 시스템의 작동 방식과 법률 준수 이유를 이해할 수 있도록 기술 문서를 충분히 상세하게 작성해야 합니다.

일반적인 설명이나 마케팅 자료는 이 요구 사항을 충족하지 못합니다. 기술 사양, 데이터 흐름 및 의사 결정 프로세스를 포함하십시오.

AI 시스템을 수정하거나 새로운 시스템을 배포할 때마다 문서를 업데이트하십시오. 향후 시스템에 금지된 관행이 도입되지 않도록 지속적인 프로세스가 필요합니다.

AI 활용 능력 요건 및 직원 교육

2025년 2월 2일부터 네덜란드에서 인공지능(AI) 시스템을 제공하거나 배포하는 기업은 직원들이 적절한 AI 활용 능력을 갖추도록 해야 합니다. 이 의무는 고위험 AI 시스템 사용 여부와 관계없이 적용됩니다.

문서화된 교육 프로그램은 직원들의 역할과 기술적 배경에 맞춰 설계되어야 합니다.

인공지능 활용 능력 의무에 대한 설명

EU 인공지능법 제4조는 다음과 같은 사항을 부과합니다. 법적 요구 사항 모든 AI 제공업체 및 배포업체는 소속 직원의 AI 활용 능력을 충분히 확보해야 합니다. AI 시스템을 다루는 직원과 계약업체가 자신이 사용하는 기술을 제대로 이해할 수 있도록 조치를 취해야 합니다.

인공지능 활용 능력 의무는 귀사를 대신하여 인공지능 시스템을 운영, 사용 또는 관련 의사 결정을 내리는 모든 사람에게 적용됩니다. 여기에는 인공지능 시스템을 구축하거나 유지 관리하는 기술 직원뿐만 아니라 일상 업무에서 인공지능 도구를 사용하는 비기술 직원도 포함됩니다.

인공지능 활용 능력 교육은 각 개인의 역할, 기술 지식, 경험, 교육 수준, 그리고 인공지능 시스템을 사용하는 구체적인 맥락에 맞춰 조정해야 합니다. 인공지능 모델을 구현하는 소프트웨어 개발자에게 필요한 교육은 인공지능 기반 챗봇을 사용하는 고객 서비스 담당자에게 필요한 교육과는 다릅니다.

이 의무는 적절한 문해력 수준을 보장하기 위해 "최선의 노력"을 다할 것을 요구합니다. 형식적인 교육만 제공하고 규정을 준수했다고 주장할 수는 없습니다.

효과적인 교육 프로그램 개발

조직에서 사용하는 특정 AI 시스템에 초점을 맞춘 AI 활용 능력 교육 프로그램을 제공해야 하며, 일반적인 정보를 제공해서는 안 됩니다. 직원들은 자신이 사용하는 특정 AI 도구의 작동 방식, 한계점, 그리고 잠재적 위험을 이해해야 합니다.

교육 내용은 다음 사항을 포함해야 합니다.

• 시스템과 관련된 기본적인 AI 개념
• AI 도구를 올바르게 사용하는 방법
• AI 출력에 나타날 수 있는 잠재적 편향 및 오류
• 인간의 감독이 필요한 경우
• 귀사의 AI 정책 및 절차

각 직원의 초기 지식 수준을 고려해야 합니다. 기술 담당 직원은 모델 개발 및 테스트에 대한 고급 교육이 필요할 수 있으며, 일반 사용자는 AI 출력 해석 및 결과가 잘못된 것으로 보이는 시점을 파악하는 데 필요한 실질적인 지침이 필요합니다.

교육은 워크숍, 온라인 강좌, 현장 코칭, 외부 프로그램 등 다양한 형태로 제공될 수 있습니다. 형식 자체보다는 직원이 실제로 필요한 지식과 기술을 습득하는지 여부가 더 중요합니다.

AI 활용 능력 활동 기록

EU 인공지능법 준수를 입증하기 위해 인공지능 활용 능력 교육 활동 기록을 보관해야 합니다. 이 문서는 귀하가 의무를 이행했음을 증명하는 자료로 사용됩니다. 법적 의무.

귀하의 기록에는 다음이 포함되어야 합니다.

• 교육 프로그램 내용 및 자료
• 교육을 수료한 직원 목록
• 교육 일정 및 기간
• 평가 결과 (해당되는 경우)
• 각 직무에 적합한 문해력 수준을 어떻게 결정하셨나요?

조직 전체의 AI 활용 능력 요구 사항을 파악하는 프로세스를 문서화하십시오. 여기에는 AI 시스템과의 상호 작용을 기반으로 어떤 직원이 교육이 필요한지, 그리고 구체적으로 어떤 지식이 필요한지를 평가한 방법이 포함됩니다.

AI 시스템이 변경되거나 새로운 직원이 조직에 합류할 때 교육 업데이트 과정을 기록해 두십시오. AI 활용 능력은 일회성 요구 사항이 아니라 AI 기술 사용 방식의 변화에 ​​맞춰 지속적으로 업데이트해야 하는 의무입니다.

감독, 집행 및 처벌

EU 인공지능법은 상당한 수준의 다층적인 집행 구조를 구축합니다. 금전적 처벌 규정 미준수로 인해 네덜란드 기업들은 국내 및 유럽 당국의 감독을 받으며, 금지된 AI 관행을 사용할 경우 전 세계 연간 매출액의 최대 7%에 달하는 벌금이 부과될 수 있습니다.

네덜란드 및 EU 감독 당국

네덜란드 데이터 보호 당국은 네덜란드에서 인공지능법 시행을 담당하는 주요 국가 감독 기관입니다. 이 당국은 다른 지정된 네덜란드 시장 감독 기관과 협력하여 규정 준수 여부를 모니터링합니다.

유럽 ​​차원에서 유럽 위원회는 모든 회원국에 걸쳐 인공지능법의 이행을 감독합니다. 위원회 내에 설립된 유럽 인공지능 사무국은 집행 활동을 조정하고 기술 전문 지식을 제공합니다.

유럽 ​​데이터 보호 위원회는 특히 인공지능 시스템이 개인 데이터 처리를 수반하는 경우, 해당 법률의 일관된 적용을 지지합니다. 이러한 기관들은 유럽 연합 전역에서 균일한 집행을 보장하기 위해 협력합니다.

EU 여러 국가에서 AI 시스템을 운영하는 경우, 시스템이 배포되거나 영향을 미치는 각 관할 지역의 감독 기관으로부터 조사를 받을 수 있습니다.

제재 및 민사 책임

제5조의 금지 행위를 위반할 경우 최대 3,500만 유로 또는 전 세계 연간 총 매출액의 7% 중 더 높은 금액의 벌금이 부과될 수 있습니다. 이 벌금은 2025년 2월 2일부터 적용됩니다.

유럽사법재판소(CJEU)는 인공지능법 조항 해석에 대한 최종 권한을 보유합니다. 국내 법원은 금지된 행위가 무엇인지에 대한 분쟁이 발생할 경우 CJEU에 질문을 회부할 수 있습니다.

행정 벌금 외에도, 규정을 준수하지 않는 AI 시스템으로 인해 피해를 입은 개인이나 단체로부터 민사 책임 소송을 당할 수 있습니다. 회원국은 자국법에 따라 추가적인 처벌을 규정할 수 있습니다.

유럽 ​​및 국가 기관의 지침

유럽 ​​위원회가 발표했습니다 금지된 사항에 대한 지침 2025년 2월 4일부터 시행되는 AI 관련 규정. 이 문서는 당국이 제5조의 금지 사항을 어떻게 해석할지 설명하고 준수를 위한 실질적인 사례를 제공합니다.

이 지침은 구속력이 없지만, 집행 우선순위에 대한 귀중한 통찰력을 제공합니다. 권위 있는 법적 해석은 유럽사법재판소(CJEU)만이 제공할 수 있습니다.

네덜란드 감독 당국은 현지 사업 환경에 맞춘 추가적인 국가 지침을 발표할 수 있습니다. 집행 방식이 변화함에 따라 유럽 및 네덜란드 기관의 최신 정보를 지속적으로 확인해야 합니다.

이 지침은 국경을 넘어 상호 이해를 증진하기 위해 모든 EU 언어로 제공됩니다.

자주 묻는 질문

유럽 ​​인공지능법(AI Act)은 2025년 2월부터 네덜란드 기업에 영향을 미치는 특정 요건과 제한 사항을 도입합니다. 이 규정은 특정 AI 관행을 금지하고, 특정 AI 기술을 요구합니다. 준수 조치또한 위반 시 처벌 조항을 마련해야 합니다.

2025년 2월부터 네덜란드 기업의 인공지능 사용과 관련하여 어떤 새로운 규정이 시행되나요?

유럽 ​​인공지능법은 2024년 8월 1일에 발효되었으며, 첫 번째 금지 조항은 2025년 2월 2일부터 시행됩니다. 이 규정은 유럽 연합 내에서 인공지능 시스템을 개발, 배포 또는 사용하는 모든 네덜란드 기업에 적용됩니다.

이 법안은 사람들이 일반적으로 하지 않을 결정을 좌우하기 위해 잠재의식적 기법을 사용하는 조작적인 AI 시스템을 금지합니다. 나이, 장애 또는 사회경제적 지위에 따른 취약점을 악용하는 AI 시스템 또한 금지됩니다.

개인의 사회적 행동이나 개인적 특성을 기준으로 평가하는 사회적 점수 시스템은 전면 금지됩니다. 또한, 범죄 활동과 관련된 사실이 아닌 프로파일링이나 성격 특성 분석만을 통해 범죄를 예측하는 AI 기반 위험 평가도 금지됩니다.

얼굴 이미지나 지문을 통해 인종, 정치적 견해, 노동조합 가입 여부, 종교적 신념 또는 성적 지향을 추론하는 생체 인식 분류 시스템은 허용되지 않습니다. 공공장소에서의 실시간 원격 생체 인식은 엄격하게 정의된 특정 상황을 제외하고는 금지됩니다. 법적 승인.

2025년 2월에 발표될 네덜란드 AI 가이드라인은 데이터 개인정보 보호 및 소비자 보호에 어떤 영향을 미칠까요?

인공지능법은 GDPR을 비롯한 기존 데이터 보호 규정과 함께 작동합니다. 네덜란드 데이터 보호 당국은 인공지능 시스템이 데이터 보호 규칙, 특히 자동화된 의사 결정과 관련하여 어떻게 준수해야 하는지에 대한 지침을 제공합니다.

인터넷이나 카메라 영상에서 얼굴 이미지를 무차별적으로 수집하여 얼굴 인식 데이터베이스를 구축하거나 확장하는 행위는 금지됩니다. 이러한 제한은 개인의 사생활 보호 권리를 보장하고 생체 정보의 무단 수집을 방지하기 위한 것입니다.

인공지능 시스템은 전체 수명 주기 동안 기본권을 존중해야 합니다. 공공 기관 및 공공 서비스 제공 기관은 위험도가 높은 인공지능 시스템을 사용할 때 기본권 영향 평가를 실시해야 합니다.

최근 법률 개정으로 인해 네덜란드 기업들이 더 이상 참여할 수 없게 된 AI 기반 활동은 무엇입니까?

귀사는 직장이나 교육 환경에서 감정 인식 시스템을 사용할 수 없습니다. 이러한 시스템은 주장되는 이점이나 사용 사례와 관계없이 금지됩니다.

잠재의식 기법을 통해 사람들을 조종하거나 취약점을 악용하는 인공지능 시스템을 배포할 수 없습니다. 여기에는 장애, 사회적 지위 또는 연령을 기준으로 개인을 표적으로 삼아 행동에 영향을 미치는 시스템도 포함됩니다.

민감한 특성을 기반으로 사람을 분류하는 생체 인식 분류 시스템은 금지됩니다. 인공지능을 사용하여 생체 데이터로부터 개인의 인종, 정치적 견해, 종교적 신념 또는 성적 지향을 추론할 수 없습니다.

사회적 점수 시스템은 전면 금지됩니다. 사회적 행동이나 개인적 특성을 기반으로 사람들을 평가하거나 분류하는 AI는 구현할 수 없습니다.

공공장소에서의 실시간 원격 생체인식은 상업적 용도로 금지되어 있습니다. 법 집행 기관은 적법한 허가를 받은 제한된 상황에서만 이러한 시스템을 사용할 수 있습니다.

네덜란드 기업들은 2025년 2월에 시행될 규제 기준에 맞춰 인공지능 시스템을 정비하기 위해 어떤 조치를 취해야 할까요?

조직에서 현재 사용하거나 배포 중인 모든 AI 시스템을 파악해야 합니다. 이 목록에는 AI법에 정의된 위험 분류에 따라 각 시스템을 분류해야 합니다.

사용 중인 AI 시스템을 금지된 관행 목록에 따라 검토하십시오. 금지된 시스템을 사용하는 경우 규제 당국의 제재를 받지 않도록 즉시 단계적으로 폐지해야 합니다.

AI 시스템의 목적, 데이터 소스 및 의사 결정 프로세스를 문서화하십시오. 이러한 문서는 규정 준수를 입증하고 필요한 영향 평가를 지원하는 데 도움이 됩니다.

고위험 AI 시스템의 경우 추가적인 규정 준수 조치가 필요합니다. 공공 기관은 2026년 8월 2일까지 유럽 데이터베이스에 고위험 시스템을 등록하고 기본권 영향 평가를 실시해야 합니다.

새로운 요구사항에 대해 직원들을 교육하고 지속적인 규정 준수 모니터링을 위한 내부 프로세스를 구축하십시오. 규정 준수 프로그램에는 AI 시스템이 규제 범위 내에 있는지 확인하기 위한 정기적인 검토가 포함되어야 합니다.

새로운 규정에 따라 네덜란드 기업들이 알아두어야 할 AI 관련 업종별 금지 사항이 있습니까?

교육 부문 기관은 특정 제한 사항을 준수해야 합니다. 교육적 목적 여부와 관계없이 학생을 감시하거나 감정 상태를 평가하기 위해 감정 인식 시스템을 사용할 수 없습니다.

직장 환경에도 비슷한 제약이 있습니다. 고용주는 감정 인식 AI를 활용하여 업무 활동 중 직원의 감정 상태나 반응을 모니터링할 수 없습니다.

법 집행 기관은 생체 인식 시스템 사용에 대한 예외 조항이 제한적입니다. 이러한 예외는 엄격한 법적 승인을 필요로 하며, 납치 피해자 수색, 임박한 위협 방지 또는 중범죄 용의자 추적과 같은 특정 상황에만 적용됩니다.

공공 서비스를 제공하는 공공 기관은 일반적인 금지 사항 외에도 추가적인 요구 사항을 준수해야 합니다. 모든 고위험 AI 시스템에 대해 기본권 영향 평가를 실시하고 해당 시스템을 유럽 데이터베이스에 등록해야 합니다.

2025년 2월에 도입된 네덜란드의 인공지능 규제를 준수하지 않을 경우 어떤 처벌을 받게 되나요?

규제 당국은 인공지능법을 준수하지 않을 경우 상당한 벌금을 부과할 수 있습니다. 벌금 체계는 위반 정도에 따라 단계별로 적용됩니다.

금지된 AI 시스템을 사용하는 것은 가장 심각한 위반 행위입니다. 2025년 2월 마감일 이후에도 금지된 시스템을 계속 운영할 경우, 조직은 상당한 재정적 처벌을 받을 위험이 있습니다.

정확한 벌금액은 해당 조직이 중소기업인지 대기업인지에 따라 달라집니다. 규제 당국은 위반 행위의 성격, 지속 기간, 발생한 피해 규모 등의 요소를 고려합니다.

금전적 처벌 외에도, 규정 미준수는 조직의 평판을 손상시킬 수 있습니다. 금지된 AI 시스템으로 인해 피해를 입은 개인은 민사 소송을 통해 추가적인 구제책을 모색할 수 있습니다.

네덜란드 데이터 보호 당국 및 기타 규제 기관은 집행 권한을 가지고 있습니다. 이들은 불만 사항을 조사하고, 감사를 실시하며, 금지된 관행을 즉시 중단하도록 요구할 수 있습니다.