Estás leyendo la publicación: La OMS destaca la importancia de una IA segura y ética para promover la salud y el bienestar
La Organización Mundial de la Salud (OMS) se unió a la conversación en torno a la inteligencia artificial (IA) y los modelos de lenguaje extenso (LLM), pidiendo su uso seguro y ético para proteger y promover el bienestar humano, la seguridad humana y la autonomía y preservar la salud pública. .
Con el rápido desarrollo de las plataformas generativas de IA, como ChatGPT de OpenAI, Bard de Google y otras, la inteligencia artificial tiene el potencial de transformar la industria de la salud mediante el análisis de grandes cantidades de datos clínicos y de pacientes para desarrollar posibles nuevos medicamentos y terapias y brindar información que pueda ayudar a los médicos a crear planes de tratamiento personalizados para los pacientes.
La IA también puede ayudar a identificar posibles enfermedades y recomendar medidas preventivas antes de que aparezcan los síntomas. Recientemente, los investigadores han descubierto un modelo de inteligencia artificial innovador que puede predecir con precisión el riesgo de las personas de desarrollar cáncer de páncreas.
En medio de las discusiones en curso en torno a la regulación de la IA, la OMS expresó su preocupación por el uso de la tecnología con fines dañinos y pide el desarrollo de salvaguardas para mitigar los riesgos que pueden causar daño a los pacientes y la industria de la salud.
La organización afirma que es crucial que los riesgos se examinen cuidadosamente cuando se utilizan LLM para mejorar el acceso a los datos de salud, como una herramienta de apoyo a la toma de decisiones o para aumentar la capacidad de diagnóstico en entornos de escasos recursos. Si bien la OMS apoya el uso apropiado de las nuevas tecnologías, le preocupa que no se tenga precaución de manera constante con los LLM.
Según la OMS, las preocupaciones que exigen una supervisión rigurosa necesaria para que la IA y los LLM se utilicen de manera segura, eficaz y ética incluyen:
- Los datos sesgados pueden usarse para entrenar a la IA, generando información engañosa o inexacta que podría presentar riesgos para la salud, la equidad y la inclusión;
- Los LLM generan respuestas que pueden parecer autorizadas y plausibles para un usuario final, pero pueden ser completamente incorrectas o contener errores graves;
- Los LLM pueden recibir capacitación sobre datos obtenidos sin permiso, y es posible que los LLM no protejan los datos confidenciales (incluidos los datos de salud) que un usuario proporciona a una aplicación para generar una respuesta;
- Los LLM pueden usarse indebidamente para generar y difundir desinformación altamente convincente en forma de contenido de texto, audio o video que el público no puede distinguir del contenido de salud confiable;
- Si bien apoya el aprovechamiento de nuevas tecnologías, incluida la IA y la salud digital, para mejorar la salud humana, la OMS alienta a los responsables de la formulación de políticas a priorizar la seguridad y la protección del paciente, mientras que las empresas de tecnología trabajan para comercializar los LLM.
La OMS propone que se aborden estas preocupaciones y recomienda una evaluación exhaustiva de las ventajas tangibles de la IA en la industria de la salud antes de su implementación generalizada. En 2021, la organización publicó una guía sobre la Ética y Gobernanza de la Inteligencia Artificial para la Salud. El informe establece que el desarrollo de tecnologías de IA debe poner la ética y los derechos humanos en el centro de su diseño, implementación y uso.
Leer más:
