<div dir="ltr"><div>DEar Colleagues<br></div><div><br></div><div>There's a lot of discussion about whether the new LLMs indicate that we are entering a risky phase in AI. Having thought a lot about that topic for many years, I tried to summarize my thoughts in this piece - written for a more lay audience than this list. While it's unlikely that any sort of real regulation will - or should - occur in the very short term, I came to the conclusion that the risks are very real and not as broadly appreciated in the AI community as they should be. In particular, I don't think that many people in AI appreciate the inherent and irreducible hazard in systems where emergent behaviors are not undesirable things to be suppressed but the entire purpose of the system. How we connect such systems to the real world has to be thought out really, really carefully in ways that go beyond the confidence that we will be able to make such AI safe, harmless, aligned, or human compatible. Rather, I feel that we'll need to make human society and our systems anti-fragile to it, to borrow Taleb's phrase. How do we do that? I think that's a discussion worth having.<br></div><br><div><a href="https://3quarksdaily.com/3quarksdaily/2023/04/thinking-through-the-risks-of-ai.html">https://3quarksdaily.com/3quarksdaily/2023/04/thinking-through-the-risks-of-ai.html</a></div><div><br><div>Any comments - and especially 
critiques to set me straight - are most welcome.<br></div>

</div><div><br></div><div>Best</div><div>Ali<br></div><div><br></div><div><br></div><div><div dir="ltr" class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><b>Ali A. Minai, Ph.D.</b><br>Professor and Graduate Program Director<br>Complex Adaptive Systems Lab<br>Department of Electrical & Computer Engineering<br></div><div>828 Rhodes Hall<br></div><div>University of Cincinnati<br>Cincinnati, OH 45221-0030</div><div><br>Phone: (513) 556-4783<br>Fax: (513) 556-7326<br>Email: <a href="mailto:Ali.Minai@uc.edu" target="_blank">Ali.Minai@uc.edu</a><br>          <a href="mailto:minaiaa@gmail.com" target="_blank">minaiaa@gmail.com</a><br><br>WWW: <a href="http://www.ece.uc.edu/%7Eaminai/" target="_blank">https://eecs.ceas.uc.edu/~aminai/</a></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div>