Aunque todo el mundo está sorprendido con las habilidades técnicas que despliega ChatGPT en cada una de sus respuestas, el software no está exento de errores ya que, en algunas ocasiones, presenta fallos que demuestran que es una tecnología en progreso y con un amplio margen de mejora.
Por: Clarín
El modo en que funcionan las IA generativas de texto, como ChatGPT, a veces puede conducir a algo que en la jerga se describe como una alucinación, lo que ocurre cuando una máquina proporciona una respuesta convincente pero completamente inventada.
Es así que la versión de Bing basada en ChatGPT comenzó a incurrir en estas alucinaciones. Incluso por encima del ChatGPT original, que ya había protagonizado ‘alucinaciones’, respondiendo con datos detallados pero falsos, a la pregunta del récord de cruzar a pie el Canal de la Mancha o sobre la última vez que se transportó el Golden Gate a través de Egipto.
Para hacer que su tecnología de chatbot sea más confiable, los ingenieros de OpenAI han revelado que actualmente se están enfocando en mejorar su software para reducir y, con suerte, eliminar estas ocurrencias problemáticas.
Un grupo de investigadores especializado en IA dentro de OpenAI fue quien reveló los planes de la compañía para apaciguar estas alucinaciones. Explican que “incluso los modelos más avanzados son propensos” a producirlas, dado que tienden a “inventar hechos en momentos de incertidumbre”.
Puedes leer la nota completa en Clarín