<div dir="ltr"><br>Hi all,<div><br></div><div>Just a reminder that the <a href="http://www.cs.cmu.edu/~aiseminar/" target="_blank">CMU AI Seminar</a> is tomorrow 12pm-1pm: <a href="https://cmu.zoom.us/j/94477694788?pwd=WmdvNTlsUW5oRHl1dFRDbzkrVmVNdz09">https://cmu.zoom.us/j/94477694788?pwd=WmdvNTlsUW5oRHl1dFRDbzkrVmVNdz09</a>. </div><div><br></div><div>Vaishnavh Nagarajan (CMU) will be talking about the theories and intuitions behind the failure modes of out-of-distribution generalization (see below). </div><div><br></div><div>Thanks,</div><div>Shaojie</div><div><br></div><div class="gmail_quote"><div dir="ltr" class="gmail_attr">---------- Forwarded message ---------<br>From: <strong class="gmail_sendername" dir="auto">Shaojie Bai</strong> <span dir="auto"><<a href="mailto:shaojieb@andrew.cmu.edu">shaojieb@andrew.cmu.edu</a>></span><br>Date: Tue, Feb 23, 2021 at 12:15 PM<br>Subject: Mar 2 (Zoom) -- Vaishnavh Nagarajan (CMU) -- Understanding the Failure Modes of Out-of-Distribution Generalization -- AI Seminar sponsored by Fortive<br>To:  <<a href="mailto:ai-seminar-announce@cs.cmu.edu">ai-seminar-announce@cs.cmu.edu</a>><br></div><br><br><div dir="ltr"><div>Dear all,</div><div><br></div><div>We look forward to seeing you <b>next Tuesday (3/2)</b> from 12:00-1:00 PM (U.S. Eastern time) for the next talk of our <b>CMU AI seminar</b>, sponsored by <a href="https://careers.fortive.com/" target="_blank">Fortive</a>.</div><div><br></div><div>To learn more about the seminar series, see the future schedule, or add the seminar calendar to your own, please visit the <a href="http://www.cs.cmu.edu/~aiseminar/" target="_blank">seminar website</a>.<a href="http://www.cs.cmu.edu/~aiseminar/" target="_blank"></a></div><div><br></div><font color="#0b5394" style="background-color:rgb(255,255,0)">On 3/2, <b>Vaishnavh Nagarajan</b> (CMU Computer Science Department) will be giving a talk on "<b>Understanding the Failure Modes of Out-of-Distribution Generalization</b>."</font><br><br><font color="#0b5394"><b>Title</b>: Understanding the Failure Modes of Out-of-Distribution Generalization<br><br><b>Talk Abstract</b>: Classifiers often rely on features like the background that may be spuriously correlated with the label. In practice, this results in poor test-time accuracy as the classifier may be deployed in an environment where these spurious correlations no longer hold. While many algorithms have been developed to heuristically tackle this challenge of out-of-distribution generalization, in this work, we take a step back to ask: why do classifiers rely on spurious correlations in the first place? While the answer to this might seem straightforward, I'll begin by explaining why existing theoretical models of spurious correlations do not capture the fundamental reasons behind why classifiers rely on spurious correlations. I'll then propose an alternative theoretical model which helps uncover those fundamental reasons. In particular, by theoretically studying linear classifiers in this theoretical model, we'll look at two failure modes: one that is "geometric" in nature another that is "statistical" in nature. These modes shed insight to the exact biases in gradient descent, and the exact properties of real-world data that incentivize classifiers to use spurious correlations. Finally, I'll discuss experiments on neural networks that validate these insights in more practical scenarios. Hopefully, with the knowledge of these failure modes, algorithm designers can be better informed about how to fix these failure modes, and OoD research can be built upon a more rigorous foundation. <br><br><b>Speaker Bio</b>: Vaishnavh Nagarajan is a final year Computer Science PhD student at Carnegie Mellon University (CMU), advised by Zico Kolter. Vaishnavh is broadly interested in the theoretical foundations of machine learning, involving problems in the intersection of learning theory and optimization. He is particularly interested in theoretically understanding when and why modern machine learning algorithms work (or do not work) in practice. His work has received an Outstanding New Directions Paper Award at NeurIPS'19, an oral presentation at NeurIPS'17 and three workshop spotlight talks. Prior to CMU, Vaishnavh completed his undergraduate studies in Computer Science and Engineering in the Indian Institute of Technology, Madras.</font><div><br></div><div><b>Zoom Link</b>:<br><a href="https://cmu.zoom.us/j/94477694788?pwd=WmdvNTlsUW5oRHl1dFRDbzkrVmVNdz09" target="_blank">https://cmu.zoom.us/j/94477694788?pwd=WmdvNTlsUW5oRHl1dFRDbzkrVmVNdz09</a><br><br><br>Thanks,<br>Shaojie Bai (MLD)</div></div>
</div></div>