<div dir="ltr">Dear all,<div><br></div><div>Welcome to the CMU AI Seminar for the Spring 2022 semester!</div><div><br></div><div><div>We look forward to seeing you <b>next Tuesday (2/8)</b> from <b><font color="#ff0000">1</font></b><font color="#ff0000"><b>2:00-1:00 PM (U.S. Eastern time)</b></font> for the next talk of our <b>CMU AI seminar</b>, sponsored by<span class="gmail-Apple-converted-space"> </span><a href="https://www.morganstanley.com/about-us/technology/" target="_blank">Morgan Stanley</a>.</div><div><br></div><div>To learn more about the seminar series or see the future schedule, please visit the <a href="http://www.cs.cmu.edu/~aiseminar/" target="_blank">seminar website</a>.</div><div><br></div><font color="#0b5394" style="background-color:rgb(255,255,0)">On 2/8,<span class="gmail-Apple-converted-space"> <b><u>Huan Zhang</u></b></span> (CMU) will be giving a talk titled "<b>How We Trust a Black-box: Formal Verification of Deep Neural Networks</b></font><font color="#0b5394" style="background-color:rgb(255,255,0)">" to explain state-of-the-art neural network verification techniques.</font><br><br><font color="#0b5394"><b>Title</b>: How We Trust a Black-box: Formal Verification of Deep Neural Networks</font><div><font color="#0b5394"><br></font><div><font color="#0b5394"><b>Talk Abstract</b>: Neural networks have become a crucial element in modern artificial intelligence. However, they are often black-boxes and can behave unexpectedly and produce surprisingly wrong results. When applying neural networks to mission-critical systems such as autonomous driving and aircraft control, it is often desirable to formally verify their trustworthiness such as safety and robustness. In this talk, I will first introduce the problem of neural network verification and the challenges involved to guarantee neural network output given bounded input perturbations. Then, I will discuss the bound propagation based neural network verification algorithms such as CROWN and beta-CROWN, which efficiently propagate linear inequalities through the network in a backward manner. My talk will highlight state-of-the-art verification techniques used in our α,β-CROWN (alpha-beta-CROWN) verifier, a scalable, powerful and GPU-accelerated neural network verifier that won the 2nd International Verification of Neural Networks Competition (VNN-COMP’21) with the highest total score.</font><div><font color="#0b5394"><br><b>Speaker Bio</b>: <span class="gmail-il" style="caret-color: rgb(80, 0, 80);">Huan</span><span style="caret-color: rgb(80, 0, 80);"><span class="gmail-Apple-converted-space"> </span></span><span class="gmail-il" style="caret-color: rgb(80, 0, 80);">Zhang</span><span style="caret-color: rgb(80, 0, 80);"><span class="gmail-Apple-converted-space"> </span>is a postdoctoral researcher at CMU, supervised by Prof. Zico Kolter. He received his Ph.D. degree at UCLA in 2020.<span class="gmail-Apple-converted-space"> </span></span><span class="gmail-il" style="caret-color: rgb(80, 0, 80);">Huan</span><span style="caret-color: rgb(80, 0, 80);">'s research focuses on the trustworthiness of artificial intelligence, especially on developing formal verification methods to guarantee the robustness and safety of machine learning.<span class="gmail-Apple-converted-space"> </span></span><span class="gmail-il" style="caret-color: rgb(80, 0, 80);">Huan</span><span style="caret-color: rgb(80, 0, 80);"><span class="gmail-Apple-converted-space"> </span>was awarded an IBM Ph.D. fellowship and he led the winning team in the 2021 International Verification of Neural Networks Competition.<span class="gmail-Apple-converted-space"> </span></span><span class="gmail-il" style="caret-color: rgb(80, 0, 80);">Huan</span><span style="caret-color: rgb(80, 0, 80);"><span class="gmail-Apple-converted-space"> </span>received the 2021 AdvML Rising Star Award sponsored by MIT-IBM Watson AI Lab.</span></font><div><br></div><div><b>Zoom Link</b>: <span class="gmail-Apple-converted-space"> <a href="https://cmu.zoom.us/j/99510233317?pwd=ZGx4aExNZ1FNaGY4SHI3Qlh0YjNWUT09">https://cmu.zoom.us/j/99510233317?pwd=ZGx4aExNZ1FNaGY4SHI3Qlh0YjNWUT09</a></span></div></div></div></div></div><div><br></div><div>Thanks,</div><div>Asher Trockman</div></div>