<div dir="ltr"><div><br></div>A huge part of the problem in any discussion about consciousness is there isn't even a clear definition of consciousness for humans (and animals), as consciousness is perceptual and not possible to measure externally. <div>Moreover it is possible to do complex tasks without being conscious, e.g. have conversations, go (e.g. drive) from one place to another without conscious awareness if you are: tired, sick, on medications that will keep you awake and responsive but have you forget the surgery, bump your head, etc...  </div><div>So consciousness is not necessary or sufficient for complex thoughts or behavior.</div><div>Subsequently consciousness may be a behavioral mechanism for self preservation labeling *My* memories and experience gathering is important thus I must preserve myself and not do things I know may put an end to them..</div><div>In other words a figment to behaviorally motivate us to focus on our survival.</div><div><br></div><div>The situation becomes worse when applying to algorithms something that is not well defined in the first place.  That is why I stay away.</div><div>But that is not to say there are not huge differences between organisms and current AI.  Organisms can learn and update without catastrophic interference and forgetting.  They dont require the methods currently needed to store all bits of information and present-rehearse it in fixed frequencies and random order (iid) whenever something new is to be learned.  Most natural environments are not iid so online learning does not apply either.  <br></div><div><br></div><div>There is also a huge amount of feedback back to the inputs that has been hypothesized to be associated with consciousness.  I think the secret to organism-like flexibility lies in those connections, but the association of these connections with consciousness (as opposed to recognition) is hugely misleading, not the least because of the reasons above.</div><div><br></div><div>-Tsvi</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Mon, Feb 14, 2022 at 8:20 AM Iam Palatnik <<a href="mailto:iam.palat@gmail.com" target="_blank">iam.palat@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div>A somewhat related question, just out of curiosity.</div><div><br></div><div>Imagine the following:</div><div><br></div><div></div><div>- An automatic solar panel that tracks the position of the sun.<br></div><div><div>- A group of single celled microbes with phototaxis that follow the sunlight.</div><div>- A jellyfish (animal without a brain) that follows/avoids the sunlight.</div><div>
- A cockroach (animal with a brain) that avoids the sunlight.</div><div>- A drone with onboard AI that flies to regions of more intense sunlight to recharge its batteries.<br></div><div>- A human that dislikes sunlight and actively avoids it.<br></div><div><br></div><div>Can any of these, beside the human, be said to be aware or conscious of the sunlight, and why?</div><div>What is most relevant? Being a biological life form, having a brain, being able to make decisions based on the environment? Being taxonomically close to humans?<br></div><div><br></div><div><br>

</div><div><br></div><div><br></div><div><br></div><div><br></div></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Mon, Feb 14, 2022 at 12:06 PM Gary Marcus <<a href="mailto:gary.marcus@nyu.edu" target="_blank">gary.marcus@nyu.edu</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">Also true: Many AI researchers are very unclear about what consciousness is and also very sure that ELIZA doesn’t have it.<br>
<br>
Neither ELIZA nor GPT-3 have<br>
- anything remotely related to embodiment<br>
- any capacity to reflect upon themselves<br>
<br>
Hypothesis: neither keyword matching nor tensor manipulation, even at scale, suffice in themselves to qualify for consciousness.<br>
<br>
- Gary<br>
<br>
> On Feb 14, 2022, at 00:24, Geoffrey Hinton <<a href="mailto:geoffrey.hinton@gmail.com" target="_blank">geoffrey.hinton@gmail.com</a>> wrote:<br>
> <br>
> Many AI researchers are very unclear about what consciousness is and also very sure that GPT-3 doesn’t have it. It’s a strange combination.<br>
> <br>
> <br>
<br>
</blockquote></div>
</blockquote></div>