fbpx
SPEAKER

DAY 2

Speaker

https://aisummit.co.kr/wp-content/uploads/2020/12/Joel_500x500.jpg

Joel Lehman Open AI | ML Research Scientist

조엘 레만(Joel Lehman)은 현재 Open AI의 리서치 과학자이다. Uber AI 랩스의 창립 멤버였고 코펜하겐의 IT University의 조교수로 강의한 경력이 있다. 그의 연구는 개방성, 강화학습 그리고 AI 안전성에 초점을 맞추고 있다. 그의 박사학위 논문은 Ken Stanley오 함께 저술한 베스트셀링 과학책 “왜 위대함은 계획될 수 없는가?”에 영감을 주었다. 이 책에서 그는 서치 알로리즘이 개인과 사회적 목적에 미치는 의미를 탐구했다.

Towards Safe, Interpreteble and Moral Reinforcement Learning Agents

강화 학습은 머신 러닝의 강력한 패러다임이다. 로봇과 같은 에이전트는 과제를 수행하기 위한 보상책을 통해서 훈련된다. 이러한 접근법이 비디오 게임 등에서는 성공을 거두긴 했지만, 실제 세계에서 성공적으로 적용 되기란 매우 어렵다. ​그 이유 중 하나는 안전한 에이전트를 생성하기가 어렵기 때문이다. 예를 들면, 에이전트는 의도치 않게 본인 스스로 파괴하거나 주변 환경을 파괴하기도 한다.

이 강연에서는  AI의 안정성에 대한 도전적 이슈들을 다룰 예정이다. 또한, 최근 발표된 더 안전하고, 해석 가능하며, 더욱 도적적 규칙을 따르는 에이전트를 만들기 위한 방법에 대해 다룬 세 개의 리서치 프로젝트도 다룰 예정이다.