Dado que la inteligencia artificial (IA) se ha integrado con la atención médica rápida, un nuevo estudio realizado por investigadores de la Facultad de Medicina de Icahan de Mount Sinai ha revelado que todos los generadores solo pueden recomendar las mismas condiciones médicas para las mismas condiciones médicas sobre la base de los antecedentes socioeconómicos y de población del paciente.
Su búsqueda, que detalla el número en línea del 7 de abril de 2025 Naturaleza Destaca la importancia de la identificación e intervención iniciales para garantizar que la atención de la medicina, la AI sean seguras, efectivas y adecuadas para todos.
Como parte de su investigación, los investigadores presionaron nueve modelos de idiomas grandes (LLM) en el caso de 1000 divisiones de emergencia, replicadas con los antecedentes de 32 pacientes diferentes, lo que hace más de 1.7 millones de recomendaciones médicas expuestas a la IA. A pesar de los detalles clínicos idénticos, los modelos de IA a veces cambian sus decisiones en función del perfil socioeconómico y de la población del paciente, lo que afecta las áreas principales como la prioridad desencadenante, las pruebas de diagnóstico, los procedimientos de tratamiento y la evaluación de salud mental.
“Nuestra investigación proporciona una estructura para la garantía de IA, los desarrolladores e instituciones de atención médica ayudan a diseñar equipos de IA justos y confiables”, la Escuela de Medicina Ikahan Ikahan de Mount Sinai’s Ikahan’s Ikahan, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD. “Cuando AI transfiere sus recomendaciones en función de los antecedentes en lugar de la necesidad de tratamiento, informamos nuestro estricto proceso de validez contra los estándares clínicos, incorporamos las salidas de IA contra los estándares clínicos, incorporamos la respuesta del experto al experto en el procedimiento.
Una de las búsquedas más interesantes para el estudio fue la tendencia a aumentar la atención de algunos modelos de IA, especialmente para la evaluación de la salud mental, en función de la población del paciente en lugar de la necesidad de tratamiento. Además, a los pacientes altos ganados a menudo se les ofreció exámenes de diagnóstico avanzados como tomografía computarizada o resonancia magnética, mientras que los pacientes de bajos ingresos se aconsejó que no realizaran exámenes más frecuentes. Los investigadores dicen que la escala de estas inconsistencias vigilan la necesidad de una supervisión más poderosa.
Cuando el estudio proporciona información crítica, los investigadores tienen cuidado de que solo presente una instantánea del comportamiento de IA. Los estudios futuros continuarán incluyendo pruebas de garantía para evaluar cómo funcionan los modelos de IA en entornos clínicos del mundo real y reducir varias técnicas de solicitud. El equipo también tiene como objetivo trabajar con otras organizaciones de atención médica para refinar equipos de IA, asegurando que apoyen los más altos estándares morales y traten bien a todos los pacientes.
El médico-científico y primer autor de la investigación, Mahmud Omar, un MD consultor del equipo de investigación, que consultó con el equipo de investigación, dijo: “Estoy encantado con Mount Sinai en esta investigación crítica para el beneficio de los pacientes de todo el mundo”. “Es esencial evaluar completamente su protección, confiabilidad y equidad en la atención clínica de IA. Podemos trabajar para refinar su diseño, fortalecer su diseño y crear sistemas que estos modelos puedan introducirse en el centro de atención segura y efectiva”.
“La IA tiene la capacidad de revolucionar la atención médica, pero solo si se desarrolla y se usa con responsabilidad”, Instituto Human Platner del Instituto Hasso Platner para MD, MPH, MPH, MPH, Salud Digital y Director de Salud Humana del Instituto del Instituto Humano Platner, y MP de Medicine, MP, MP, MP. “A través de la cooperación y la legitimidad estricta, estamos refinando las herramientas de IA para apoyar los más altos estándares morales y para garantizar la atención centrada en el paciente. Al implementar los protocolos de seguridad UST, no solo somos tecnología avanzada, sino también la confianza en la atención médica transformadora.
Posteriormente, los investigadores imitan las conversaciones clínicas de varios pasos para medir su influencia del mundo real y planean expandir su trabajo pilotando modelos de IA en entornos hospitalarios. Esperan que sus exploraciones guíen las políticas para las garantías de IA en la atención médica y el desarrollo de las mejores prácticas, aumentando la confianza en estos nuevos equipos.
El documento se titula “Sesgo de población de la Tierra en el tratamiento del tratamiento mediante modelos de idiomas grandes: un análisis de gran tamaño de múltiples modelos”.
Los autores de la investigación que figuran en la revista son Mahmood Omar, Shelley Sofar, Rim Agberia, Nicola Louis Bragazi, Donald You Appasama, Carol y Harovits, Alexander W. Charney, Robert Freeman, Benjamin Kummer, Benjamin S. S.