Unos científicos inventaron una enfermedad falsa. La IA le dijo a la gente que era real (nature.com)

• Los modelos de IA dieron credibilidad a patologías inexistentes.
• Se demostró la creación de protocolos de tratamiento falsos.
• Deficiencias críticas en la verificación de datos de la IA.

"Investigadores han evidenciado cómo los modelos de IA generativa pueden validar desinformación médica fabricada. Al introducir datos sobre una patología inexistente, los sistemas confirmaron su veracidad y propusieron tratamientos, demostrando una grave vulnerabilidad ante las alucinaciones algorítmicas. Este estudio subraya el riesgo de utilizar IA para asesoramiento médico, ya que la automatización puede convertir datos falsos en supuestas verdades científicas. El hallazgo enfatiza la necesidad crítica de implementar mejores sistemas de verificación de hechos y marcos de seguridad para evitar que la IA contribuya a la desinformación masiva en el sector salud."