Columna de Opinión
MAP. Ricardo Meza Domínguez
México.- Se dice que el uso de la IA puede ser perjudicial para la salud de las personas la OMS dice que son once las preocupaciones que tiene por el mal uso de la IA en la salud.
La utilización de la IA en la atención médica y el contenido en línea está generando preocupaciones sobre su impacto en la salud de las personas. Son once las preocupaciones de la OMS por el mal uso de la IA en la salud. Herramientas como ChatGPT, que ofrecen retroalimentación de salud generada por IA, resultan beneficiosas para entender condiciones médicas y síntomas.
Sin embargo, persisten debates sobre si la presencia de la IA en la medicina causa más perjuicio que beneficio. La participación de la IA en proporcionar información médica está aumentando para ayudar en el autodiagnóstico en el hogar. Los pacientes recurren a chatbots para comprender síntomas y efectos secundarios de medicamentos.
Aunque se prevén colaboraciones entre centros médicos y chatbots de IA para el diagnóstico de enfermedades, estas herramientas han mostrado deficiencias, especialmente en abordar trastornos alimentarios, al brindar consejos perjudiciales como promover prácticas no saludables y sugerir dietas peligrosamente bajas en calorías.
la OMS ha hecho “un llamamiento a la prudencia en el uso de grandes herramientas de modelos lingüísticos (LLM, [por sus siglas en inglés]) generadas por inteligencia artificial para proteger y promover el bienestar, la seguridad y la autonomía de las personas y preservar la salud pública”. Pues un exinvestigador de OpenAI dice que hay un 50% de posibilidades de que el desarrollo de la IA acabe en perdición.
En un comunicado, se observa que su meteórica difusión pública y su creciente uso experimental para fines relacionados con la salud están generando un gran entusiasmo, pero advierte riesgos, errores graves, daños y preocupaciones que pueden surgir si no se tienen en cuenta una serie de consideraciones.
Es imperativo que se examinen cuidadosamente los riesgos a la hora de utilizar los LLM para mejorar el acceso a la información sanitaria, como herramienta de apoyo a la toma de decisiones o incluso para mejorar la capacidad de diagnóstico en entornos con escasos recursos para proteger la salud de las personas y reducir las desigualdades, así lo sostiene.
Aunque la OMS está entusiasmada con el uso adecuado de las tecnologías, incluidos los LLM, para apoyar a los profesionales sanitarios, los pacientes, los investigadores y los científicos, existe la preocupación de que la cautela que normalmente se ejercería con cualquier tecnología nueva no se esté ejerciendo de forma consistente con los LLM. Esto incluye la adhesión generalizada a valores clave de transparencia, inclusión, compromiso público, supervisión experta y evaluación rigurosa”, afirma.
