AI 안전 지킴이, 80명 내년 8월까지

AI 안전 지킴이 80명이 국민의 눈높이에서 인공지능의 오류와 위험 사례를 찾아 제보하는 활동에 나선다. 한시적으로 운영했던 국민 참여 캠페인을 상시 제보 체계로 확대해, 일상에서 누구나 인공지능을 안전하게 믿고 사용할 수 있는 환경을 만들어 가는 것이 핵심이다.

국민이 직접 찾는 인공지능 오류

과학기술정보통신부와 인공지능안전연구소는 2026년 11월 12일 서울 여의도 글래드 호텔에서 발대식을 열고 국민 모니터링단의 출범을 알렸다.

모니터링단은 인공지능을 이용하는 과정에서 발견한 사실 왜곡과 편향, 보안 취약점 등 4대 분야의 오류 및 위험 사례를 찾아 제보한다. 국민이 일상에서 직접 경험한 문제를 지속적으로 수집할 수 있도록 상시 참여 구조를 갖춘다는 데 의미가 있다.

인공지능이 남녀노소 누구나 사용하는 일상적인 기술로 자리 잡은 상황에서, 안전한 이용 환경도 국민과 함께 만들어야 한다는 취지가 이번 운영 체계에 담겼다.

625건 접수에서 상시 체계로

이번 모니터링단은 앞서 진행된 국민 참여 캠페인의 성과를 바탕으로 구성됐다. 과기정통부와 인공지능안전연구소는 신뢰할 수 있는 인공지능 이용 환경을 만들기 위해 2025년 12월부터 30여 일 동안 ‘정보 오류 없는 찐 AI 챌린지’를 운영했다.

캠페인 기간에는 총 625건의 사례가 접수됐다. 이 가운데 464건이 유효한 오류 사례로 확인됐다. 많은 국민이 직접 사례를 제출하면서 인공지능의 안전성과 신뢰성에 높은 관심을 보인 것이다.

과기정통부와 인공지능안전연구소는 이 같은 참여를 일회성 캠페인으로 끝내지 않고, 국민이 인공지능의 오류와 위험을 꾸준히 찾아 제보할 수 있는 체계로 이어갈 필요가 있다고 판단했다. 이에 따라 약 1년 동안 활동하는 국민 모니터링단을 구성했다.

10대부터 60대 이상까지 참여

모니터링단은 2026년 8월과 9월 두 차례 진행된 공개 모집을 통해 선발됐다. 모두 138명이 지원했으며, 이 가운데 최종 80명이 지킴이로 위촉됐다.

참여자의 연령과 직업도 다양하다. 10대 고등학생부터 60대 이상까지 폭넓은 세대가 이름을 올렸고, 직장인과 가사종사자, 프리랜서, 학생 등 여러 분야의 국민이 함께 활동한다.

서로 다른 연령과 생활환경을 가진 국민이 직접 인공지능을 사용하면서 발견한 문제를 제보한다는 점이 모니터링단의 중심 역할이다. 특정 분야의 전문가에게만 의존하지 않고 실제 이용자의 경험을 안전성 평가와 위험 연구에 연결하는 구조다.

제보 사례는 검증 거쳐 확정

지킴이들이 제출한 모든 사례가 곧바로 확정되는 것은 아니다. 제보 내용은 정확성과 위험도, 재현 가능성, 활용 가능성 등을 기준으로 유효성 검증을 거친다.

정확성은 제보된 내용이 실제 오류인지 확인하는 기준이며, 위험도는 해당 사례가 이용자에게 미칠 수 있는 영향을 살피는 요소다. 재현 가능성은 같은 조건에서 문제가 다시 나타나는지 확인하는 데 활용된다. 활용 가능성은 제보 사례가 안전성 평가와 위험 연구 자료로 쓰일 수 있는지를 판단하는 기준이다.

이 같은 검증을 통과해 확정된 사례는 인공지능 안전성 평가와 위험 연구를 위한 기초 자료 등으로 활용될 예정이다. 과기정통부와 인공지능안전연구소는 관련 기업에도 사례를 공유하며 인공지능 기업과 지속적으로 소통할 계획이다.

발굴 방법과 제보 기준 교육

발대식에는 엄열 과기정통부 인공지능정책실장과 김명주 인공지능안전연구소장, 지킴이 등 50여 명이 참석했다. 행사는 위촉장 수여와 운영계획 안내, 대표 지킴이 소감 발표 순으로 진행됐다.

행사가 끝난 뒤에는 지킴이들을 대상으로 오류 사례를 발굴하는 방법과 제보 기준을 다루는 교육도 이어졌다. 모니터링단이 일상에서 발견한 문제를 일정한 기준에 따라 제출하고, 이후 검증 과정에서 활용할 수 있도록 활동의 기본 절차를 공유한 것이다.

엄열 인공지능정책실장은 인공지능이 모든 연령층이 사용하는 일상이 된 만큼 안전한 사용 환경도 모두가 함께 만들어야 한다고 밝혔다. 국민의 눈높이에서 찾아낸 각각의 오류가 모이면 더욱 안전한 인공지능을 만드는 소중한 기반이 될 것이라고 강조했다.

모니터링단은 2027년 8월까지 약 1년 동안 활동한다. 국민이 직접 찾아낸 오류와 위험 사례를 검증하고 이를 평가와 연구에 활용하는 상시 체계를 통해, 인공지능을 보다 안전하게 이용할 수 있는 환경을 만들어 나갈 예정이다.