Imagina a alguien encerrado en una habitación con un manual de instrucciones. Por una ranura le pasan preguntas escritas en chino; él, sin saber chino, busca en el manual qué símbolos devolver y los pasa de vuelta. Desde fuera, parece que en la habitación hay alguien que habla chino.
Searle lo usó para responder al test de Turing: un sistema puede comportarse como si entendiera sin entender nada. Es el argumento más citado cuando se discute si ChatGPT «piensa».
La inteligencia artificial no piensa ni siente: es un SPI, un Simulador de Procesos Inteligentes, capaz de reflejar nuestra cultura pero incapaz de comprenderla.
La inteligencia artificial general no es inevitable, porque a la IA actual le falta la inferencia que usamos los humanos para hacer conjeturas a partir del contexto.
La conciencia es un fenómeno biológico real causado por el cerebro, y un programa no la tiene solo por ejecutarse: manejar símbolos no es comprenderlos.