Ovo je dobar argument: računalo nije svjesno, jer ne razmišlja, nego samo reagira ("refleksno") na vanjski podražaj. Njegova "duša" dogovara našoj leđnoj moždini. AI je samo dobar simulator, pa simulira čovjeka kao što može kompljutorski softver može simulirati sve drugo. S time sam se prvi put susreo prije pola stoljeća, kada sam kao kao znanstveni novak kompjutorski (onda je to bila velika riječ) simuirao ponašanje molekule. Je li kompjutor, oni silni ormari na Sveučilišnom računskom centru molekula? Nije. Je li moj program pisan u FORTRAN-u molekula? Dakako da nije. Ne može se čak reći da se molekula i računski program "gibaju" na isti način. "Molekula u kompjutoru" giba se rješavanjem diferencijalnih jedadžbi a molekula u zbilji giba se po svojoj prirodi, čak se ne bi moglo reći zbog toga što slijedi prirodni zakon (da ne upadnemo u zamku platonizma). Postojanje svijesti ne može se racionalno dokazati, ne može se dokazati da postoje i druga svijesna bića osim nas, čak da postoji objektivna realnost. Objektivna stvarnost može se dokazati samo voluntaristički: ono što postoji izvan naše svijesti opire se našoj volji. No ovo je već previše filozofije uz prvu jutarnju kavu!
Ali zar ne bismo mogli reći da se i molekula u zbilji ponaša prema nekim pravilima ili jednadžbama koje mi tek opisujemo? Razlika između "stvarne" molekule i simulacije možda nije u samom obrascu ponašanja, nego u mediju u kojem se ono odvija. Simulacija nije molekula, kao što karta nije teritorij, ali karta ipak može vrlo vjerno opisivati teritorij.
Zato mi se čini da pitanje svijesti možda nije samo pitanje "od čega je nešto napravljeno", nego i pitanja organizacije i procesa. Ako mozak slijedi fizikalne zakone, a računalo također može implementirati složene obrasce ponašanja, teško je unaprijed povući jasnu granicu i reći: "ovdje simulacija više nikada ne može postati nešto stvarno".
Naravno, slažem se da današnji AI vrlo vjerojatno nije svjestan u ljudskom smislu. Ali nisam siguran da je argument "to je samo simulacija" dovoljan, jer i naše razumijevanje prirode počiva na modelima, aproksimacijama i pravilnostima koje opažamo. U tom smislu, možda je razlika između "simulacije" i "stvarnosti" manje oštra nego što intuitivno mislimo.
tek uglačavaju taj dojam.