[세미나] 이루다 사건으로 본 인공지능 거버넌스: AI의 일탈을 어떻게 막을 것인가?

이루다 사건으로 본 인공지능 거버넌스: AI의 일탈을 어떻게 막을 것인가?

- 일자: 2021.2.4 (목) 16:00 ~ 17:30
- 패널: 고학수 교수(서울대학교 법학전문대학원), 한애라 교수(성균관대학교 법학전문대학원), 이준환 교수(서울대학교 언론정보학과), 박상철 교수(서울대학교 법학전문대학원), 정교화 대표변호사(한국마이크로소프트), 정미나 정책실장(코리아스타트업포럼), 김경만 과장(과학기술정보통신부 인공지능기반정책과)
- 주제: 인공지능 윤리의 문제와 이에 대한 정책적, 규범적 측면의 해결방안 모색

이준환 교수님의 AI의 Fallback 전략과 이에 따른 젠더 스테레오 타입 형성에 대한 설명이 가장 인상 깊었음.

성범죄 피해자 상담 챗봇 개발의 사례
: 일반적인 대화 데이터를 학습했기 때문에 AI가 성범죄 피해라는 맥락에 맞지 않는 답변을 내놓게 됨.

Explainable AI
: AI는 학습된 문장에서 가장 적절한 문장을 찾아 대답함. 따라서 AI가 결정한 답변의 근거와 타당성을 인간이 보고 판단할 필요가 있음.

Fallback 전략
: 보통 AI는 학습되지 않은 데이터에 대해 되묻거나 사과함. 하지만 이러한 전략은 사람들의 흥미를 떨어트림 (재미없다)

이루다의 전략
: 무관심과 회피를 사용함. 보다 자연스럽지만 잘못된 페르소나 생성 가능.
-> 페미니즘(혹은 성적 지향성)을 부정한다기보다 이에 대한 적절한 답변을 찾지 못해 fallback 전략을 사용한 것이 아닌가 라는 추측 가능.

젠더 스테레오 타입이 관계 형성에 끼치는 영향
: 사람들은 상대방의 성격을 보고 그에 맞는 관계를 형성한다.

결론
: 대화를 이어나가는 기술적 성취도 중요하지만 관계를 형성하는 사회적 Rapport 중요.