La inteligencia artificial (IA) está transformando radicalmente el sector salud al optimizar el diagnóstico médico, personalizar tratamientos y automatizar la gestión administrativa. El uso de la inteligencia artificial tiene avances clave y aplicaciones actuales sobre proceso como son; diagnostico acelerado, medicina de precisión, asistentes de consulta en tiempo real, descubrimiento acelerado de fármacos, gestión hospitalaria predictiva, creación de documentos entre otros.
En, Deappharma, estamos convencidos que el avance de la tecnología va a pasos agigantados. Sin embargo, pensamos que el uso de estos modelos es por tendencia, perdiendo conciencia del impacto negligente que esta puede tener al no contar con los procesos de calificación y validación que avalen la precisión, integridad de datos y ética de la aplicación. Es importante definir, que el hecho de usar alguna inteligencia artificial en entornos regulados y obtener respuestas o resultados de esta, no establece la verdad absoluta. El sesgo actual es grande y, la premura de las industrias por implementar estos modelos termina por encarecer el resultado. La visión de muchos usuarios al usar y realizar tareas con estas herramientas de IA (Inteligencia artificial) manifiesta el uso para la optimización de tiempos y respuestas en procesos controlados. Si embargo, el cumplimiento de normatividades y regulaciones internacionales se ve mermado por el ímpetu de sentirse parte de y no con la responsabilidad que esta conlleva para ser aplicada en un entorno regulado.
Recientemente la FDA emitió la primera carta de advertencia relacionada al uso de modelos de inteligencia artificial emitida en abril 2026. Dicha carta de advertencia fue emitida para el laboratorio de medicamentos homeopáticos PUROLEA COSMETICS LAB (Consulta la carta directamente del sitio de FDA) , con sede en EE.UU. La sanción fue derivada del uso inapropiado de inteligencia artificial en la fabricación farmacéutica. Esta medida marca un inicio en el uso para el control de estas tecnologías dentro de la regulación farmacéutica, dispositivos médicos y otros sectores regulados. A continuación, te compartimos el hallazgo:
“Durante la inspección de la FDA a su planta de fabricación de medicamentos, PUROLEA COSMETICS LAB declaró a los investigadores de la FDA que utilizaba agentes de inteligencia artificial (IA) para ayudar a su empresa a cumplir con las regulaciones de la FDA. Específicamente, utilizó la inteligencia artificial para crear especificaciones de productos farmacéuticos, procedimientos y registros maestros de producción o control, para cumplir con los requisitos de la FDA”.
Ante los eventos observados la FDA responde:
“Si utiliza IA como herramienta para la creación de documentos, debe revisar los documentos generados por inteligencia artificial para garantizar que sean precisos y cumplan con las Buenas Prácticas de Fabricación (BPF). El incumplimiento de esta obligación constituye una violación de 21 CFR 211.22(c). Durante la inspección también se documentó una dependencia excesiva de la inteligencia artificial en sus operaciones de fabricación de medicamentos. Por ejemplo, los investigadores de la FDA descubrieron que PUROLEA COSMETICS LAB no había realizado la validación del proceso antes de la distribución de sus productos farmacéuticos, como lo exige 21 CFR 211.100, y se lo informaron. Usted respondió que desconocía el requisito legal, ya que el agente de IA que utilizó nunca le informó que era necesario”.
Con los hallazgos la FDA reconoce a PUROLEA COSMETICS LAB el haber cesado la producción de medicamentos. Para lo cual FDA manifiesta lo siguiente ; Si planea reanudar la producción de medicamentos y utilizar IA para ayudar con las actividades de Buenas Prácticas de Fabricación (BPF), como el desarrollo de procedimientos y especificaciones, cualquier resultado o recomendación de un agente de IA debe ser revisado y aprobado por un representante humano autorizado de la Unidad de Control de Calidad (UCC) de su empresa, de conformidad con la sección 501(a)(2)(B) de la Ley Federal de Alimentos, Medicamentos y Cosméticos (FD&C Act). Véase también 21 CFR 211.22; 21 CFR 211.100.
Con este hallazgo, se observa el impacto regulatorio y productivo de la industria. Otro punto importante al utilizar este tipo de tecnologías es la brecha ética entre el resultado y el uso de estos por profesionales de la salud ya que existen profesionales quienes confían plenamente en la respuesta obtenida, sin contar con un pensamiento crítico basado en el riesgo.
Recordemos que la industria regulada y las directrices documentales que ayudan a calificar y validar estos modelos de inteligencia artificial, establecen que el resultado final siempre sea intervenido, corregido, entrenado, validado, respaldado y cuestionado por un ser humano competente y con experiencia demostrable en el sector de aplicación. Esta fase del proceso de denomina “Human in the Loop “(HITL, por sus siglas en inglés, o humano en el bucle). El concepto Human in the Loop (HITL) se refiere a la integración de la supervisión y el criterio humano en los sistemas de inteligencia artificial (IA) para asegurar el cumplimiento de estándares éticos y de seguridad.
Es importante considerar que el hallazgo emitido por la FDA es el inicio del control, ya que en la actualidad existente sistemas para; diagnósticos, administrativos, ERP etc. que incluyen modelos de inteligencia artificial utilizando de manera inconsciente, atribuyendo que los resultados de estos modelos son correctos sin demostrar si estos cumplen con su entrenamiento, pruebas y validación en concordancia con las directrices internacionales.
En, Deappharma, somo pioneros en la calificación y validación de modelos de inteligencia artificial para entornos regulados. Contamos con políticas y procedimientos de trabajo trazables y auditables que te darán toda la certidumbre regulatoria que requieres y con esto utilices con un pensamiento crítico basado en riesgos el modelo de inteligencia artificial que estes adaptando en tu organización. No pongas en riesgo la continuidad de tu negocio y acércate a nosotros para que te brindemos soporte y apoyo en la calificación de tus modelos de inteligencia artificial.
“LA INTELIGENCIA ARTIFICIAL SERA TU ALIADO EN PRODUCTIVIDAD, SIEMPRE Y CUANDO ESTE CUMPLA CON LOS REQUISITOS DE INTEGRIDAD, ETICOS Y DE CUMPLIMIENTO QUE LAS DIRECTIRES INTERNACIONALES SOLICITAN”
Te invitamos a que nos contactes para que nuestros expertos te hablen a profundidad sobre este servicio.