<div dir="ltr">Geoff, Gary, Connectionists,<div><br></div><div>To me the risk is ChatGPT and the like may be 'overfitting' understanding, as it were. (Especially at nearly a hundred billion parameters.)</div><div><br></div><div>--ms</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Mon, Mar 13, 2023 at 6:56 AM Barak A. Pearlmutter <<a href="mailto:barak@pearlmutter.net">barak@pearlmutter.net</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;border-left-color:rgb(204,204,204);padding-left:1ex">Geoff,<br>
<br>
> He asked [ChatGPT] how many legs the rear left side of a cat has.<br>
> It said 4.<br>
<br>
> I asked a learning disabled young adult the same question. He used the index finger and thumb of both hands pointing downwards to represent the legs on the two sides of the cat and said 4.<br>
> He has problems understanding some sentences, but he gets by quite well in the world and people are often surprised to learn that he has a disability.<br>
<br>
That's an extremely good point. ChatGPT is way up the curve, well<br>
above the verbal competence of many people who function perfectly well<br>
in society. It's an amazing achievement, and it's not like progress is<br>
stuck at its level. Exploring its weaknesses is not so much showing<br>
failures but opportunities. Similarly, the fact that we can verbally<br>
"bully" ChatGPT, saying things like "the square root of three is<br>
rational, my wife said so and she is always right", and it will go<br>
along with that, does not imply anything deep about whether it really<br>
"knows" that sqrt(3) is irrational. People too exhibit all sorts of<br>
counterfactual behaviours. My daughter can easily get me to play along<br>
with her plan to become a supervillain. Students knowingly write<br>
invalid proofs on homeworks and exams in order to try to get a better<br>
grade. If anything, maybe we should be a bit scared that ChatGPT seems<br>
so willing to humour us.<br>
</blockquote></div><br clear="all"><div><br></div><span class="gmail_signature_prefix">-- </span><br><div dir="ltr" class="gmail_signature"><div dir="ltr"><div dir="ltr" style="color:rgb(34,34,34)">Miguel I. Solano</div><div dir="ltr" style="color:rgb(34,34,34)">Co-founder & CEO, VMind Technologies, Inc.</div><div dir="ltr"><div style="color:rgb(34,34,34)"><br></div><div><span style="color:rgb(0,0,0)">If you are not an intended recipient of this email,</span><span style="color:rgb(0,0,0)"> </span><span style="color:rgb(0,0,0)">do not read, copy, use, forward or disclose the email or any of its attachments to others. </span><span style="color:rgb(0,0,0)">Instead, please inform the sender and then delete it. Thank you.</span></div></div></div></div>