La inteligencia artificial (IA) ha evolucionado rápidamente en los últimos años, con desarrollos impresionantes como ChatGPT, un modelo lingüístico de OpenAI lanzado en 2022. Este modelo ha mostrado ser capaz de generar respuestas coherentes, sostener conversaciones complejas e incluso realizar tareas como escribir guiones, redactar políticas empresariales o aprobar exámenes profesionales. No obstante, a pesar de su aparente habilidad para ofrecer respuestas razonadas, surge una pregunta fundamental: ¿podemos considerar que ChatGPT realmente razona como lo haría un ser humano?
Esta pregunta nos invita a aplicar el método socrático, un enfoque filosófico que se basa en cuestionar los supuestos más básicos de nuestras creencias. Sócrates, en sus diálogos, solía invitar a la reflexión sobre la esencia de conceptos clave, como la justicia o el conocimiento, a través de preguntas que desafiaban la percepción superficial de estos conceptos. Siguiendo esta metodología, podríamos plantearnos: ¿qué significa realmente razonar? ¿Es suficiente que un sistema siga patrones aprendidos para considerarlo capaz de razonar, o existe una profundidad en el razonamiento humano que la IA no puede replicar?
Simulación de razonamiento o razonamiento genuino
ChatGPT es capaz de generar respuestas coherentes siguiendo patrones de lenguaje aprendidos. Este proceso lo lleva a producir texto que parece razonado, pero ¿es razonamiento o solo una simulación? El razonamiento humano, a diferencia de lo que ocurre en estos modelos de IA, no se basa únicamente en patrones estadísticos. Los seres humanos empleamos el sentido común, la lógica y el conocimiento acumulado a lo largo del tiempo, herramientas que nos permiten tomar decisiones y hacer juicios informados.
Siguiendo el pensamiento socrático, podríamos preguntar: ¿Qué es lo que realmente hace que el razonamiento humano sea único? Los humanos no solo procesamos información; comprendemos conceptos abstractos y hacemos inferencias basadas en experiencias y conocimientos previos. En este contexto, ChatGPT simplemente genera respuestas siguiendo las correlaciones aprendidas en sus datos de entrenamiento. Si bien es una hazaña impresionante, no representa razonamiento en el sentido profundo que tiene para nosotros los humanos.
Las limitaciones de ChatGPT
Una de las primeras limitaciones de ChatGPT que surge de este análisis socrático es la falta de comprensión genuina. Mientras que los humanos aprendemos y evolucionamos a partir de nuestras experiencias, ChatGPT no «aprende» en el sentido tradicional. No puede retener ni adquirir conocimiento nuevo, ya que su capacidad se basa exclusivamente en su entrenamiento inicial. ¿Puede considerarse razonamiento si no hay una verdadera comprensión del contexto o de los conceptos involucrados?
Otra limitación clara es la incapacidad de la IA para aplicar el razonamiento a largo plazo o fuera de su contexto inmediato. ChatGPT genera respuestas basadas en el hilo de una conversación, pero cada vez que interactúa, lo hace sin memoria de interacciones previas. Esto lo hace propenso a ofrecer respuestas incoherentes si se cambia el tema o si la conversación se extiende. Aquí podríamos preguntarnos: ¿es posible razonar sin una continuidad de pensamiento? Para los humanos, la capacidad de recordar información pasada y aplicarla a situaciones futuras es fundamental para el razonamiento. Para la IA, esta continuidad es inexistente.
La falta de sentido común en la IA
En el marco del pensamiento socrático, el sentido común es otro tema central. ¿Cómo puede una máquina razonar si no tiene acceso a esa sabiduría cotidiana que los humanos acumulamos de manera implícita? El sentido común nos permite tomar decisiones basadas en nuestro conocimiento del mundo que no están necesariamente escritas o explícitas. Por ejemplo, sabemos que no debemos encender un electrodoméstico ruidoso a altas horas de la noche porque podría molestar a otros, un hecho que comprendemos por experiencia y contexto. Para ChatGPT, este tipo de razonamiento es extremadamente difícil.
Vered Shwartz y Mehar Bhatia, investigadoras expertas en IA, han destacado este desafío. Aunque la IA puede generar respuestas lógicas dentro de un conjunto limitado de información, carece de la capacidad de aplicar ese «sentido común» a situaciones nuevas o inesperadas. Esto nos lleva a una pregunta más profunda, inspirada en el método socrático: ¿es posible enseñar sentido común? ¿O es este una facultad exclusivamente humana que se deriva de nuestras experiencias sociales y culturales?
El método socrático nos enseña que el conocimiento superficial debe ser siempre cuestionado. Así, si ChatGPT simula tener sentido común, debemos preguntar: ¿es esto suficiente para considerarlo razonamiento? Los seres humanos desarrollamos esta habilidad a través de la experiencia, de años de interacción con nuestro entorno y con otros individuos. Para que la IA pueda alcanzar este nivel de razonamiento, no solo debe seguir patrones, sino también entender el contexto implícito de cada situación.
Razonamiento y diversidad cultural en la IA
Una de las críticas más frecuentes a los modelos como ChatGPT es que están entrenados con datos que reflejan mayormente una visión occidental del mundo, lo que genera respuestas sesgadas o inexactas cuando se enfrentan a situaciones fuera de este marco cultural. Aquí podemos aplicar otro cuestionamiento socrático: ¿Cómo puede un sistema razonar sin una comprensión del pluralismo cultural?
El razonamiento humano está profundamente influenciado por nuestras culturas, tradiciones y contextos sociales. Lo que puede ser considerado un comportamiento lógico en una cultura, podría no serlo en otra. Para que una IA pueda razonar de manera efectiva, debe ser capaz de comprender y respetar esta diversidad de puntos de vista. Según Shwartz, entrenar a la IA con datos culturalmente diversos ayuda a que sus respuestas sean más precisas y culturalmente sensibles. Sin embargo, ¿es suficiente este enfoque para dotar a la IA de verdadero razonamiento intercultural? La complejidad de la cultura humana no se puede reducir solo a patrones aprendidos.
El desafío de razonar con sentido común
Volviendo al pensamiento socrático, podríamos preguntar: ¿qué es el sentido común y cómo lo desarrollamos? Los seres humanos lo adquirimos a lo largo del tiempo, casi de manera inconsciente, y lo aplicamos de forma natural en nuestras vidas. Para la IA, en cambio, el sentido común es un concepto difícil de replicar. La inteligencia artificial puede generar respuestas correctas basándose en patrones previos, pero carece de esa capacidad innata de intuir lo que es apropiado en cada contexto sin necesidad de información explícita.
En este sentido, organismos como la Agencia de Proyectos de Investigación Avanzados de Defensa de EE.UU. (DARPA) están trabajando en proyectos como Machine Common Sense, que tienen como objetivo desarrollar IA con un sentido común similar al humano. Este esfuerzo plantea una pregunta más: ¿podemos realmente dotar a una máquina de esta habilidad exclusivamente humana? O, siguiendo la línea socrática, ¿podemos realmente considerar que una IA posee sentido común si lo que hace es simplemente seguir patrones de datos?
Conclusión
El análisis socrático nos invita a reflexionar sobre la esencia del razonamiento y a cuestionar si la IA, como ChatGPT, puede verdaderamente llegar a razonar como lo hace un ser humano. Si bien es capaz de generar respuestas coherentes y de alto nivel en muchas situaciones, carece de las herramientas que definen el razonamiento humano: el sentido común, la capacidad de aprender de experiencias previas, y la comprensión profunda de conceptos abstractos.
Aunque el avance en la IA ha sido notable, la pregunta fundamental sigue siendo: ¿podrá la IA superar estas limitaciones y alcanzar un nivel de razonamiento comparable al humano? Desde el punto de vista socrático, solo a través de un cuestionamiento continuo y profundo podremos acercarnos a una respuesta. Mientras tanto, la IA seguirá siendo una poderosa herramienta, pero no un igual a la mente humana en términos de razonamiento.
(1) ChatGPT o1, así es el nuevo modelo capaz de razonar tus preguntas. https://cincodias.elpais.com/smartlife/lifestyle/2024-09-13/chatgpt-o1-nuevo-modelo-capaz-de-razonar-preguntas.html.
(2) Presentan al sucesor de ChatGPT: se llama o1 y es mejor razonando, en …. https://www.lanacion.com.ar/tecnologia/openai-presenta-o1-el-sucesor-de-chatgpt-es-mejor-razonando-en-matematicas-y-programacion-nid12092024/.
(3) ChatGPT: ¿Hasta Dónde Llegará el Impacto Social de la IA?. https://bing.com/search?q=%c2%bfLlegar%c3%a1+el+ChatGPT+a+razonar%3f.
(4) OpenAI presenta nuevo ChatGPT con capacidad para «razonar … – Telemadrid. https://www.telemadrid.es/tecnologia/OpenAI-presenta-nuevo-ChatGPT-con-capacidad-para-razonar-y-cometer-menos-errores-0-2706329369–20240913072323.html.
(5) ChatGPT: ¿Hasta Dónde Llegará el Impacto Social de la IA?. https://elplanteo.com/chatgpt-impacto-social/.
(6) Strawberry: así es la versión de ChatGPT que “pensará” antes de …. https://cincodias.elpais.com/smartlife/lifestyle/2024-09-11/chatgpt-strawberry-pensara-antes-de-responder.html.
(7) undefined. https://t.co/peKzzKX1bu.
(8) undefined. https://bing.com/search?q=.
(9) GPT o1: qué es y diferencias, y cómo acceder al nuevo modelo … – Xataka. https://www.xataka.com/basics/gpt-o1-que-diferencias-como-acceder-al-nuevo-modelo-inteligencia-artificial-chatgpt.
(10) OpenAI lanza o1, el nuevo ChatGPT de las matemáticas capaz de razonar …. https://bing.com/search?q=ChatGPT+o1+razonar.
(11) ChatGPT o1: La IA que “razona” antes de responder – Canal RCN. https://www.canalrcn.com/super-like/variedades/chatgpt-o1-la-ia-que-razona-antes-de-responder-203661.
(12) ChatGPT o1: la nueva IA que razona como un humano – El Tiempo. https://www.eltiempo.com/tecnosfera/novedades-tecnologia/chatgpt-o1-la-nueva-ia-que-razona-como-un-humano-3381355.
(13) OpenAI lanza o1, el nuevo ChatGPT de las matemáticas capaz de razonar …. https://www.abc.es/tecnologia/llega-openai-nuevo-chatgpt-matematicas-20240913134212-nt.html.