로마 교황청, "AI 윤리를 위한 로마 콜(Rome Call for AI Ethics)" 발표

2020년 2월 28일(현지시간) 로마 교황청에서 "AI 윤리를 위한 로마 콜(Rome Call for AI Ethics)" 이란 것을 발표했습니다.

 

"로마 콜"은 서문, 윤리(Ethics), 교육(Education), 권리(Rights) 등 4개 부문으로 구성되어 있는데, 기본적으로 "AI 발전은 기술이 아니라 사람에 초점을 두고 이루어져야 한다"라는 기본 골격을 가지고 있습니다.

 

서문:       - AI는 인간의 삶에 큰 변화를 가지고 오고 있으며 앞으로도 그럴 것이다.       - 신 기술은 모든 "인간가족"에게 기여할 수 있는 기준에 따라 연구, 상용화되어야 한다.      - 기술이 아니라 인류와 환경의 이익에 중점을 둔 AI가 개발될 것이라는 전망을 보장하여야 한다. 윤리:       - AI 시스템을 사용하고 만들때에는 인간의 존엄과 권리, 자유와 평등을 보호하고 보장해야 한다.      - AI 시스템은 인간과 인간이 살고있는 환경에 봉사하고 보호하도록 설계, 구현되어야 한다.      - AI 기술은 사람들, 특히 가장 취약한 사람들을 악용하는데 절대로 사용해서는 안된다. 교육:      - AI에 대한 교육은 모든 사람이 접근할 수 있고 차별없이 기회의 평등을 제공해야 하며, 이를 위하여 업무 및 교육 부문의 수준높고 객관적인 표준을       확립해야 한다.      - AI 교육의 목표는 사회적 포용과 개인 존중의 관점에서 AI가 제시할 수 있는 기회와 가능한 중요한 문제에 대한 인식을 높이는 것이다. 권리:      - 인류와 지구를 위한 AI 개발은 사람들, 특히 약하고 소외된 계층과 자연 환경을 보호하는 규정과 원칙이 반영되어야 한다.      - 인류와 지구에 이익이 되는 AI 시스템을 개발, 구현하려면 AI는 강력한 디지털 보안대책과 병행하여 발전하여야 한다.      - 윤리 원칙에 대한 투명성과 준수를 촉진하기 위한 새로운 형태의 규제가 권장되어야 한다.

 

이 중에서 권리 부분은 "AI의 윤리적 이용을 위해 필요한 6가지 원칙"으로 "투명성, 포괄성, 책임성, 공정성, 신뢰성, 보안&프라이버시"를 제시하고 있는데요.

 

1. 투명성(Transparency) : 원칙적으로 AI 시스템은 설명 가능해야 한다.  2. 포괄성(Inclusion) : 모든 사람이 필요로 하고 모든 사람이 자신을 표현하고 발전시킬 수있는 최상의 조건을 제공할 수 있도록 모든 인간의 요구를                                    고려해야 한다.  3. 책임성(Responsibility) : AI 사용을 설계하고 배포하는 사람들은 책임성과 투명성을 유지해야한다.  4. 공정성(Impartiality) : 편견에 따라 만들어지거나 동작하지 않아야 하며 공정성과 인간 존엄성을 보호해야 한다.  5. 신뢰성(Reliability) : AI 시스템은 안정적으로 작동 할 수 있어야 한다.  6. 보안 및 개인 정보(Security and privacy) : AI 시스템은 안전하게 작동하고 사용자의 개인 정보를 존중해야 한다.

여기에서 제가 주목한 것은 투명성과 공정성입니다.

저를 아시는 분은 이미 알고 계시겠지만 저는 수년 전부터 XAI(Explainable AI, 설명가능한 AI) 라는 것에 관심을 가지고 있었거든요. (관련 글은 https://aidalab.tistory.com/52 에서)
로마콜 권리부분에서 제시한 투명성(Transparency)이란 "AI 시스템은 왜 그런 결정을 내렸는지 반드시 설명가능해야 한다" 라는 것을 의미하고 있습니다.
그리고 "편견없는 데이터 입력에 따라 동작해야 한다"는 공정성(Impartiality)을 이야기 하고 있습니다.
여기서 편견없는 데이터 입력을 해야 한다는 내용도 XAI와 연관이 되고 있네요.
편향된 데이터가 잘못된 AI의 학습을 이끌어내게 된다는 것인데 그것을 감시하기 위해서라도 XAI가 필요한 것이죠.

과연 이런 규제 문서가 어떤 효과를 가질 것인지는 의문이지만..
만드는 사람이 작정하고 다른 짓을 하면 막을 수 없죠.
어쨋든 이렇게 하나씩 기본 바탕을 만들어 나가기 시작한다는 것에 의미를 둬야 할 것 같습니다.

 

로마콜 원문을 읽어보시려면 여기( https://www.innovationpost.it/wp-content/uploads/2020/02/Rome-Call-for-AI-Ethics.pdf )를 참고해 주세요.