<div dir="ltr"><div class="gmail_default"><font face="arial, sans-serif">Han Zhao will be giving a seminar on  "Costs and Benefits of Invariant Representation Learning" from <u>12:00 - 01:00 PM</u> in Newell Simon Hall (NSH) 3305.</font></div><div class="gmail_default"><font face="arial, sans-serif"><br></font></div><div class="gmail_default"><font face="arial, sans-serif">CMU AI Seminar is sponsored by Fortive. Lunch will be served.</font></div><div class="gmail_default"><font face="arial, sans-serif"><br></font></div><div class="gmail_default"><font face="arial, sans-serif">Following are the details of the talk:</font></div><div class="gmail_default"><font face="arial, sans-serif"><br></font></div><div class="gmail_default"><font face="arial, sans-serif"><b>Title: </b>Costs and Benefits of Invariant Representation Learning<br></font></div><div class="gmail_default"><font face="arial, sans-serif"><br></font></div><div class="gmail_default"><font face="arial, sans-serif"><b>Abstract: </b><span style="color:rgb(0,0,0)">The success of supervised machine learning in recent years crucially hinges on the availability of large-scale and unbiased data. However, it is often time-consuming and expensive to collect such data. Recent advances in deep learning focus on learning invariant representations that have found abundant applications in both domain adaptation and algorithmic fairness. However, it is not clear what price we have to pay in terms of task utility for such universal representations. In this talk, I will discuss my recent work on understanding and learning invariant representations. </span></font></div><div class="gmail_default"><font face="arial, sans-serif"><span style="color:rgb(0,0,0)"><br></span></font></div><div class="gmail_default"><font face="arial, sans-serif"><span style="color:rgb(0,0,0)">In the first part, I will focus on understanding the costs of existing invariant representations by characterizing a fundamental tradeoff between invariance and utility. In particular, I will use domain adaptation as an example to both theoretically and empirically show such tradeoff in achieving small joint generalization error. This result also implies that when the base rates differ, any fair algorithm has to make a large error on at least one of the groups. </span></font></div><div class="gmail_default"><font face="arial, sans-serif"><span style="color:rgb(0,0,0)"><br></span></font></div><div class="gmail_default"><font face="arial, sans-serif"><span style="color:rgb(0,0,0)">In the second part of the talk, I will focus on designing learning algorithms to escape the existing tradeoff and to utilize the benefits of invariant representations. I will show how the algorithm can be used to ensure equalized treatment of individuals between groups, and what additional problem structure that permits efficient domain adaptation through learning invariant representations.</span></font></div><div class="gmail_default"><span style="color:rgb(0,0,0)"><font face="arial, sans-serif"><br></font></span></div><div class="gmail_default"><font face="arial, sans-serif"><span style="color:rgb(0,0,0)"><b>Bio</b>: </span><span style="color:rgb(0,0,0)">Han Zhao is a final-year PhD student at the Machine Learning Department, Carnegie Mellon University. At CMU, he works with Prof. Geoff Gordon. Before coming to CMU, he obtained his BEng degree from the Computer Science Department at Tsinghua University and MMath from the University of Waterloo. He has a broad interest in both the theoretical and applied side of machine learning. In particular, he works on invariant representation learning, probabilistic reasoning with Sum-Product Networks, transfer and multitask learning, and computational social choice. More details are here: <a href="https://www.cs.cmu.edu/~hzhao1/">https://www.cs.cmu.edu/~hzhao1/</a></span></font></div><div class="gmail_default"><br></div><div class="gmail_default"><font face="arial, sans-serif">To learn more about the seminar series, please visit the <a href="http://www.cs.cmu.edu/~aiseminar/" target="_blank">website</a>. </font></div><div><br></div>-- <br><div dir="ltr" class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div style="margin:0px;padding:0px 0px 20px;width:864px;font-family:Roboto,RobotoDraft,Helvetica,Arial,sans-serif"><div><div style="margin:8px 0px 0px;padding:0px"><div><div dir="ltr"><div><font color="#444444">Aayush Bansal</font><br></div><div><a href="http://www.cs.cmu.edu/~aayushb/" target="_blank">http://www.cs.cmu.edu/~aayushb/</a></div><div style="font-size:medium"><br></div></div><div style="font-size:medium"></div><div style="font-size:medium"></div></div></div><div style="font-size:medium"></div></div></div></div></div></div></div></div></div></div>