Machine Learning Fundamentals and Beyond: ML Algorithms for Heterogeneous Types of Data

신현정(아주대학교)

In this talk, we begin with basics of machine learning such as learning schemes, categories of various algorithms, regularization, and so on. Then we present heterogeneous types of data and introduce their respective traits and applicable algorithms. And afterwards we deal with some algorithms in depth for two or three types of data including signals and graphs. Theories behind them will be followed accordingly.

학습이론

윤성로(서울대학교)

본 튜토리얼에서는 인공지능의 한 분야인 기계학습의 기초가 되는 학습이론 (computational learning theory)에 대해 다룬다. 학습에 대한 포뮬레이션 (formulation)과 기계학습의 종류에 대한 설명으로 부터 시작하여, 일반화 (generalization) 이론, VC 바운드 (Vapnik-Chervonenkis bound), 모델 복잡도 (complexity)와 과적합 (overfitting), 일반화-근사 트레이드오프 (generalization-approximation tradeoff) 등의 주제에 대해 설명한다. 이들 주제와 연계하여 실제 기계학습 구현 및 학습에서 널리사용되는 최적화 (optimization) 기법 및 정규화 (regularization) 방법에 대해서도 소개한다.

최적화를 위한 반복법

김동환(KAIST)

많은 인공지능은 최적화 (Optimization) 문제를 통해 학습되며, 그 최적화 문제의 해를 찾기 위해서는 반복법 (Iterative method)이 필요하다. 현재 대다수의 인공지능 연구자들은 Stochastic gradient method와 ADAM 등의 인공지능 최적화에 적합한 몇 가지 반복법들을 도구로서 잘 쓰고 있으며 다양한 곳에서 좋은 결과를 내고 있다. 다른 한편으로는, 인공지능 관련 반복법 연구자들이 꾸준히 새로운 이론과 반복법들을 발표하고 있다. 본 세션은 인공지능 입문자와 연구자들에게 Stochastic gradient method와 ADAM 등의 바탕이 되는 반복법 이론들에 대해 가볍게 이야기하는 시간을 가지고자 한다. 그리고 시간이 된다면, 최신 인공지능 관련 반복법 연구 결과들에 대해서도 이야기하고자 한다.

로보틱스에서의 학습 I

서일홍(한양대학교)

“보행 및 점프 로봇의 멋진 시연에도 불구하고 오늘날의 로봇들은 대체로 어리석고, 부서지기 쉽고 융통성이 없다. 또 세심하게 설계된 환경에서만 작업이 가능하고, 예기치 않은 상황에서 역동적이고 지각 있는 반응을 기대하기 어렵다. 딥러닝은 특정 문제(얼굴인식, 물체 인식 등)에서 눈부시게 성공을 했지만 우리가 기대하는 스마트 로봇은 아직 도착하지 않았다. 약속된 로봇의 미래는 요원하다.” 이상의 이야기는 인지 과학자와 로봇공학자인 Gary Marcus, Rodney Brooks, Henry Christensen에 의해 최근에 창업된 로봇 지능 스타트업인 Robust.AI 창업의 이유이다. 이렇듯 로봇을 위한 인공지능 문제가 얼굴이나 물체 인식의 문제와 다른 이유는 로봇은 몸을 가지고 있으며 몸을 제어해서 하고자 하는 태스크를 달성하도록 주변 상황을 실시간으로 인식할 뿐만 아니라 조작(manipulation)과 이동(mobility)을 해야 하기 때문이다. 본 Tutorial 에서는 로봇이 하고자 하는 태스크를 달성하기 위하여 현재 관측하고 있는 센서 데이터로부터 적절한 동작(조작, 이동)을 생성하는 제어 전략을 데모 기반 학습과 심층 강화 학습을 통해서 학습하는 방법을 review 하고자 한다. 특히, Movement Primitive와 구글이 최근에 발표한 Planet등의 State Representation Learning 방법들을 review한다. 아울러 본인의 연구실과 스타트업인 CogAplex의 연구 및 기술 소개와 함께 스마트 로봇이 언제 우리에게 도착할 지에 대한 예측을 함께 해보고자 한다.

시계열 데이터와 기계학습 문제를 풀기위한 신경망 구조

정준영(Google DeepMind)

Deep neural networks have pioneered recent advances in the field of machine learning, and neural network architectures that can process time-series data became the key to this success. Many AI breakthrough algorithms have incorporated such neural networks as the main component and have shown promising results in applications such as neural machine translation or playing computer games like humans (AlphaStar). Network architectures for time-series data have evolved from simple recurrent neural networks to transformers with complex add-ons. In this talk, I will first review traditional machine learning models for handling time-series data. This talk will then move its focus to neural network based approaches for modeling time-series. This talk will enumerate different neural network models and highlight the pros and cons of each algorithmic advance. Finally, I will conclude the talk with their applications in machine learning problems.

로보틱스에서의 학습 II

최성준(Disney Research)

본 튜토리얼에서는 로보틱스의 소프트웨어 적인 측면에서 기계 학습이 로봇 연구에 어떻게 활용될 수 있는지에 대해서 다뤄보고자 한다. 기존에 많이 연구가 되어왔던 모방 학습(imitation learning), 강화 학습(reinforcement learning)에 대해서 먼저 다뤄보고, 최근에 활발히 연구가 되고 있는 불확실성 예측(uncertainty estimation)과 그 응용 사례에 대해서 이야기해고자 한다. 후반부에서는 현재 많은 리딩 그룹들에서 다루고 있는 sim2real과 latent space 학습에 대한 내용을 다루고자 한다. sim2real은 하드웨어가 있는 로봇을 실제 환경에서 다룰 때, 시뮬레이터를 어떻게 잘 활용(leverage)할 수 있는지를 다루고 있으며, domain randomization 등의 방법이 사용되고 있다. Latent space 학습은 로봇이 걷거나 물체를 조작하는 등의 상대적으로 복잡한 행동을 해야할 때 이를 어떻게 하면 효과적으로 표현할 수 있을지에 대한 연구가 주로 진행되고 있다.