[소버린 AI (PG) (사진=연합뉴스)]
기후에너지환경부가 에너지 공급과 식수 생산 등 핵심 분야에 인공지능(AI) 서비스를 도입할 때 사람이 즉각 개입하거나 서비스를 중지할 수 있는 관리체계를 갖췄는지 점검하기로 했습니다.
오늘(21일) 기후부가 마련한 'AI 윤리 원칙 자율점검표'에 따르면 기후부는 에너지 공급과 먹는 물 생산 공정 등과 관련된 '고영향 AI' 서비스를 도입할 경우 인간의 즉각적인 개입·중지·검토가 가능한 관리체계 구축 여부를 확인하도록 했습니다.
또 AI 도입 전에는 예상되는 영향을 사전에 분석하고, 위험 예방과 완화, 손실 복구를 위한 대응체계를 마련했는지 점검할 계획입니다.
고영향 AI는 사람의 생명과 신체 안전, 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능 시스템을 의미합니다.
이번 점검표는 행정안전부가 지난해 11월 마련한 '공공부문 AI 윤리 원칙'을 기후부 업무 특성에 맞게 조정한 것입니다.
기후부는 AI가 자율적으로 의사결정을 수행하는 3단계 서비스에 대해 인간의 개입·중지·검토가 가능한 관리체계를 의무적으로 확인하도록 했습니다.
아울러 모든 AI 서비스에 대해 탄소중립 실현과 기후위기 대응, 에너지 전환 등 환경적 가치와 기후재난 대응, 환경 관리, 에너지 수급 등에서의 효과성을 높이는 데 기여하는지 점검할 예정입니다.
현세대뿐 아니라 미래세대에 미치는 영향도 검토 대상에 포함됐습니다.
민감정보를 활용하는 경우에는 관련 법령과 절차 준수 여부를 확인하도록 했으며, 환경보건 건강정보와 개인 에너지 소비 패턴, 위치정보 등을 민감정보 사례로 제시했습니다.
특히 3단계 AI 서비스에 대해서는 지속가능성 제고와 미래세대 보호 기여 여부, 에너지 사용과 온실가스 배출 등 환경 영향, 이해관계자 간 갈등 가능성 등을 추가로 검토하도록 했습니다.
또 AI 도입에 따른 환경적 편익이 기후·에너지·환경 취약계층과 지역에 균형 있게 제공되는지도 확인할 방침입니다.
기후부의 AI 윤리 원칙 자율점검표는 오는 10월부터 시행될 예정입니다.