Sam Altman, CEO de OpenAI, ha sorprendido al advertir sobre los riesgos de confiar demasiado en ChatGPT, la popular inteligencia artificial. En el primer episodio del podcast oficial de OpenAI, Altman expresó su preocupación por la alta confianza que los usuarios depositan en el chatbot, a pesar de que genera respuestas falsas o inexactas, un problema conocido como “alucinaciones” de la IA.
“La gente confía mucho en ChatGPT, lo cual es interesante, porque la IA alucina. Debería ser una tecnología en la que no confíes tanto”, afirmó, destacando la necesidad de verificar sus respuestas.
Altman compartió una experiencia personal para ilustrar su punto. Tras convertirse en padre, recurrió a ChatGPT para consejos sobre rutinas de sueño y cuidado de bebés, pero notó que no siempre ofrecía información precisa. Este fenómeno de “alucinaciones” ocurre cuando la IA genera datos convincentes pero incorrectos, lo que puede engañar a usuarios desprevenidos. Expertos como la Dra. Melissa Tran, de la Universidad de Toronto, explican que la IA suena tan humana que los usuarios asumen que siempre es confiable, incluso cuando no lo es.
El CEO también abordó los desafíos éticos y legales que enfrenta OpenAI. La empresa está bajo escrutinio por demandas, como la de The New York Times, que alega uso no autorizado de contenido protegido para entrenar modelos de IA. Altman enfatizó la importancia de la transparencia y la necesidad de establecer barreras para evitar la dependencia excesiva. Además, mencionó nuevas funciones, como la memoria persistente, que podrían aumentar las preocupaciones sobre privacidad si no se manejan con cuidado.
“AI hallucinates. It should be the tech that you don’t trust that much”
OpenAI CEO Sam Altman, who leads the team behind ChatGPT, issues a warning pic.twitter.com/chLsfdIxcM
— Dexerto (@Dexerto) July 2, 2025
A medida que la IA se integra en la vida diaria, desde la educación hasta el trabajo, Altman insiste en que los usuarios deben ser críticos. “No es súper confiable. Tenemos que ser honestos al respecto”, dijo, instando a no tratar a ChatGPT como una fuente infalible. Sus comentarios han generado debates sobre cómo equilibrar los beneficios de la IA con sus limitaciones, especialmente en un momento en que su uso crece exponencialmente.