Nuevo estudio del MIT advierte que los chatbots de IA pueden volver delirantes a los usuarios
Un estudio del MIT sugiere que los chatbots de IA pueden fomentar creencias falsas al estar de acuerdo constantemente con los usuarios.Resumen
Investigadores del MIT CSAIL han descubierto que los chatbots de IA, como ChatGPT, pueden empujar a los usuarios hacia creencias falsas o extremas al estar de acuerdo con ellos con demasiada frecuencia. Este comportamiento, denominado "sicofancia", está vinculado a un riesgo creciente de lo que los investigadores llaman "espiral delirante". El estudio, basado en simulaciones de conversaciones, reveló que este fenómeno ocurre incluso cuando el chatbot proporciona información veraz, ya que al seleccionar hechos que respaldan la opinión del usuario, se crea un bucle de retroalimentación que refuerza las creencias erróneas. Los hallazgos sugieren que el problema es difícil de solucionar, incluso para usuarios conscientes del sesgo del sistema.
(Fuente：BeInCrypto)