fbpx
SPEAKER

DAY 1

Speaker

https://aisummit.co.kr/wp-content/uploads/2020/10/김인준-500x500-1.jpg

김 인 준 전)IBM GBS 홍콩 | Sr. Engagement Manager for AI Initiatives

김인준 상무는 아시아권(싱가폴, 홍콩, 한국) 금융(은행, 보험) 고객들과 혁신적인 인공지능 프로젝트를 진행하여 왔다.  PwC,  IBM GBS 한국에서 경험을 쌓은 후, IBM GBS 홍콩에서 금융권 Engagement Manager 및 AI Architect로서 다양한 AI프로젝트(AI 도입전략, 운영효율화 및 고객 인사이트를 위한 AI적용,  AI Target Operating Model설계, AI Model Risk Management 등)를 고객사와 수행하였다. 현재는 싱가폴에 HQ를 둔 글로벌 은행에서 AI기반 트랜스포메이션 프로그램을 리딩하고 있다. 

인공지능 모델 편향리스크근본원인 및 거버넌스 체계

편향된 데이터를 근거로 한 AI의 판단은 공정하지 않다.  특히, 고객, 채용, 직원평가와 관련한 의사결정이 AI에 의해 자동화 된 경우, 편향은 또 다른 편향을 확대 생성할 수 있다. 단순히 공정성을 고려한 데이터 수집 및 알고리즘 개발만으로는 AI모델의 편향리스크는 경감하기 어렵기에,  AI모델의 라이프사이클 전 주기에 걸친 거버넌스 체계가 요구된다.

본 강연 첫 번째 세션에서는 AI(머신러닝, 딥러닝, 자연어 처리) 모델 편향리스크에 대한 WHAT, WHERE, WHY, HOW 4가지 측면을 논의할 예정이다.

WHAT: AI(머신러닝, 딥러닝, 자연어 처리) 모델의 편향이란 무엇이며 이슈가 된 사례들은 무엇인가?
✓ 
WHERE: 불공정한 편향은 어디에서(근본원인) 발생하는가?
✓ 
WHY: 불공정한 편향에 의한 리스크를 경감해야 하는 이유는?
✓ 
HOW: AI 모델의 전 라이프사이클에 걸쳐 편향리스크를 경감할 수 있는 방법은?

두 번째 세션에서는, 기존 MRM(Model Risk Management) 프레임워크를 AI모델에 어떻게 확대 적용 할 수 있는지 아래 4가지 측면에서 고찰 해 볼 것이며,  고려사항에 대해 논의 할 것이다.   

✓ 조직 및 거버넌스 (Organization and Governance)
✓ AI 모델 통제 프레임워크 (
AI Models Control Framework)
✓ AI 모델 리스크 관리 프로세스 및 기술 (
AI Models Risk Management Process & Technology)
✓ AI 모델 리스크 정량화 (
AI Models Risk Quantification)