ChatGPT genera texto prediciendo cuál es la siguiente palabra más probable dado todo lo que ha venido antes. No busca información, no razona en el sentido humano y no tiene acceso a internet en su versión base.
Estos modelos se entrenan en cantidades masivas de texto: libros, artículos, páginas web, código. El resultado es un modelo que puede generar texto coherente no porque entienda el contenido, sino porque ha aprendido los patrones de cómo se escribe sobre ese contenido.
El modelo no distingue entre lo que sabe y lo que no sabe. Si la combinación más probable de palabras para completar una frase incluye un dato incorrecto, lo genera con el mismo tono confiado. A esto se le llama alucinación, y es una consecuencia directa de cómo funcionan estos modelos.
ChatGPT es el loro más sofisticado que jamás ha existido. La pregunta filosófica interesante no es si piensa, sino qué significa pensar cuando el loro da respuestas que ningún humano podría dar solo.