AI 투명성 확보 및 개인정보보호 가이드 (2)
AI 투명성 확보 및 개인정보보호 가이드 (by개인정보배움터)
1) AI 투명성과 개인정보보호의 이해
2) AI서비스 활용 시 개인정보보호 방안
AI 기술의 발전이 긍정적인 방향으로 나아갈 수 있도록 위험성을 인지하고 관리하는 것이 중요한데요. AI 기술의 긍정적인 사용은 장려하고, 부정적인 사용에 대해서 적극 대응하며, 이를 위해 윤리적 문제에 대한 올바른 판단과 함께 법적인 기준을 엄격히 준수해야 합니다.
AI 보안사고 사례 및 취약점과 위협
AI 관련 규제 동향
AI RMF는 AI 리스크를 관리하고 신뢰할 수 있는 AI 시스템을 책임감 있게 개발하기 위한 다이얼로그, 이해, 활동을 가능하게 하는 결과와 행동을 제공합니다. AI RMF의 핵심을 살펴보면, 거버넌스(Govern), 매핑(Map), 측정(Measure), 관리(Manage)의 4가지 기능을 제공하며, AI 리스크 관리 활동을 구성하고 있습니다. 리스크 관리는 AI 시스템 라이프 사이클 차원 전반에 걸쳐 지속적이고 적시에 수행되어야 합니다.
개인정보보호를 위한 AI설계 원칙
개인정보 최소 수집이란 ?
AI 시스템이 필요한 최소한의 정보만 수집하는 원칙으로, 불필요한 개인정보를 과도하게 수집하지 않음으로써 데이터 보호를 강화하고, 법적 규제 준수와 사용자 신뢰를 높이는 것이 목적입니다.
- AI 모델이 특정 목적을 달성하기 위해 꼭 필요한 데이터와 그렇지 않은 데이터를 구분하고, 이 과정에서 비필수 데이터를 최대한 배제합니다.
- 각 데이터 항목이 AI 모델의 성능 향상에 실제로 기여하는지를 기준으로 데이터 수집의 정당성을 평가하고
- 수집된 데이터가 필수 정보만 포함되도록 하기 위해 데이터를 축소 또는 필터링하는 기법을 사용합니다.
- 데이터가 AI 모델 학습에 필요한지, 그렇지 않다면 제거 여부를 정기적으로 평가합니다.
개인정보 처리의 법적 기준 및 동의 절차
AI 시스템이 개인정보를 수집, 저장, 분석, 공유하는 과정에서 지켜야 할 법적 규칙을 의미하는데요. 각국의 개인정보보호법은 _1 AI 시스템이 개인정보를 다룰 때 적용되는 규정을 설정하고 있으며, _2 주로 동의를 받는 절차와 투명성을 요구합니다. AI가 데이터 기반으로 학습하고 의사결정을 내리기 때문에 데이터 보호는 AI의 개발과 운영에서 매우 중요한 이슈입니다.
AI 시스템에서의 프라이버시 설계
AI가 개인정보를 처리하는 과정에서 개인정보보호를 우선시하고, 법적 규제와 윤리적 기준을 충족하기 위해 데이터 보호 원칙을 체계적으로 통합하는 것을 의미합니다. AI가 다루는 데이터는 매우 민감할 수 있기 때문에 AI 시스템 설계 초기부터 프라이버시를 염두에 두고 개발하는 것이 중요하죠.
자동화된 결정에 대한 정보주체의 권리
인공지능(AI) 기술 등을 활용하여 자동화된 시스템으로 의사결정을 하고 있는 기업과 기관 등은 ‘자동화된 결정 자율진단표’를 활용하여 스스로 자동화된 결정에 해당하는지 여부를 확인해 볼 수 있습니다. 단, 행정기본법 제20조에 따른 행정청의 자동적 처분 및 신용정보의 이용 및 보호에 관한 법률 제36조의 2에 따른 자동화 평가는 대상에서 제외됩니다.
정리
A l 보 안 사 고 사 례 및 취 약 점 과 위 협
• A I 시 스 템 이 처 리 하 는 대 규 모 데 이 터 중 개 인 정 보 가 포 함 된 경 우 , 보 안 사 고 가 발 생 하 면
심 각 한 개 인 정 보 유 출 로 이 어 질 수 있 음
• A I 모 델 이 잘 못 된 데 이 터 처 리 나 보 안 취 약 점 으 로 인 해 개 인 정 보 를 유 출 하 거 나 잘 못 된 결 정 을
내 리 는 사 례 들 이 발 생 하 고 있 음
• A 오 용 으 로 인 한 데 이 터 유 출 , 음 성 인 식 A I 의 개 인 정 보 유 출 , A I 를 이 용 한 악 성 코 드 탐 지
실 패 등 A I 관 련 정 보 보 안 및 개 인 정 보 보 안 사 고 사 례 가 있 음
A I 관 련 규 제 동 향
• 국 내 A I 관 련 정 책
- A I 국 가 전 략 ( 2 0 2 0 )
- A I 윤 리 기 준 ( 2 0 2 0 )
- 개 인 정 보 보 호 법 개 정 ( 2 0 2 3 )
- 국 정 원 챗 G P T 등 생 성 형 A I 활 용 보 안 가 이 드 ( 2 0 2 3 )
- 금 보 원 금 융 분 야 A I 보 안 가 이 드 라 인 ( 2 0 2 3 )
- 개 인 정 보 위 원 회 인 공 지 능 ( A l ) 개 발 • 서 비 스 를 위 한 공 개 된 개 인 정 보 처 리 안 내 서 ( 2 0 2 4 )
• 해 외 A l 관 련 규 제
- 미 국 N I S T A I R M F
- E U AI ACT
개 인 정 보 보 호 를 위 한 A I 설 계 원 칙
• 개 인 정 보 최 소 수 집 과 가 명 화 및 익 명 화 는 A I 시 스 템 설 계 시 개 인 정 보 를 보 호 하 기 위 한
핵 심 원 칙 임
• A I 시 스 템 이 점 점 더 많 은 개 인 데 이 터 를 처 리 하 고 의 사 결 정 에 활 용 되 기 때 문 에 , 이 과 정 에 서
개 인 정 보 보 호 와 관 련 된 법 적 기 준 을 준 수 하 는 것 이 필 수 적 임
• A I 시 스 템 의 설 계 단 계 부 터 프 라 이 버 시 와 데 이 터 보 호 가 내 재 된 방 식 으 로 구 현 되 는 접 근
방 식 인 프 라 이 버 시 설 계 ( P b D ) 는 개 인 정 보 보 호 가 단 순 한 사 후 조 치 가 아 니 라 , 시 스 템 의
핵 심 적 인 기 능 으 로 자 리 잡 도 록 만 드 는 원 칙 임
자 동 화 된 결 정 에 대 한 정 보 주 체 의 권 리
• ' 자 동 화 된 결 정 ' 은 인 공 지 능 기 술 을 적 용 한 시 스 템 을 포 함 한 완 전 히 자 동 화 된 시 스 템 으 로
개 인 정 보 를 처 리 하 여 이 루 어 지 는 결 정 을 말 함
• 정 보 주 체 는 자 동 화 된 결 정 에 대 해 설 명 또 는 검 토 요 구 를 할 수 있 고 , 권 리 또 는 의 무 에
중 대 한 영 향 을 미 치 는 경 우 에 는 거 부 할 수 있 음