미국 미네소타대학(University of Minnesota)에 따르면 인공지능(Artificial Intelligence, AI) 도구에 대한 새로운 감사 지침 세트를 개발했다.

채용, 대학 입학, 치안 예측, 건강 개입 등 사용하는 도구의 불공정 및 편견에 대한 주장에 대응하기 위한 목적이다. 미국심리학회 대표 학술지인 American Psychologist 에 발표됐다.

대학에서는 AI를 활용해 자동적으로 누가 좋은 학생이 될 것인지 미리 결정할 목적으로 에세이 점수를 매기고 성적표를 처리한다. 또한 과외활동 등을 검토한다.

다수 기업들이 채용 시 이력서를 읽고 직무 관련 기술을 예측하기 위해 AI 도구를 사용한다. 많은 스타트업은 알고리즘을 활용해 사람을 고용하는 기존의 윤리적, 법적 기준에 익숙하지 않은 편이다.

따라서 회사와 관련 규제당국에 정보를 제공해 도움이 될 수 있도록 감사 지침을 개발했다. AI의 공정성을 보장하기 위해 심리학 및 교육연구원의 개인 특성을 측정해 연구·전문 표준을 적용했다.

연구원들은 3가지 주요 초점을 통해 공정과 편견의 아이디어를 첫 번째로 고려해 AI 감사를 위한 지침을 개발했다.

3가지 지침은 △결정이 공정하고 편경이 없는지 결정하는 방법 △사회적, 법적, 윤리적 및 도덕적 표준이 공정성과 편견을 나타내는 방법 △컴퓨터 과학, 통계, 심리학과 같은 개별 기술 영역에서 내부적으로 공정성과 편견을 정의하는 방법 등이다.

또한 감사 프레임워크에는 3가지 범주가 있다. 첫째, AI의 생성, 처리 및 예측과 관련된 구성요소이다. 둘째, AI가 사용되는 방식, AI의 결정이 영향을 미치는 대상 및 이유와 관련된 구성 요소이다.

셋째, AI가 사용되는 문화적 맥락, AI의 영향을 받는 사람들에 대한 존중, AI 제공자가 주장을 뒷받침하기 위해 사용하는 연구의 과학적 무결성 등이 중요한 구성 요소이다.

3가지 범주의 감사 프레임워크에는 12가지 구성 요소들을 갖고 있다. 인공지능의 응용영역이 넓어질수록 각종 표준에 대한 필요성이 높아질 것으로 판단된다.

▲ 미네소타대(University of Minnesota) 홈페이지