Categoría en Validación de sistemas computarizados

Se registra la primera carta de advertencia de la FDA en relación con el uso de modelos de inteligencia artificial (HITO GLOBAL)

Por enCFR21 parte 11, Control de laboratorio, Desarrollo analítico y validación, Documentos y digitalización, Integridad de datos, Inteligencia artificial, Validación de sistemas computarizados

La inteligencia artificial (IA) está transformando radicalmente el sector salud al optimizar el diagnóstico médico, personalizar tratamientos y automatizar la gestión administrativa. El uso de la inteligencia artificial tiene avances clave y aplicaciones actuales sobre proceso como son; diagnostico acelerado, medicina de precisión, asistentes de consulta en tiempo real, descubrimiento acelerado de fármacos, gestión hospitalaria predictiva, creación de documentos entre otros.

En, Deappharma, estamos convencidos que el avance de la tecnología va a pasos agigantados. Sin embargo, pensamos que el uso de estos modelos es por tendencia, perdiendo conciencia del impacto negligente que esta puede tener al no contar con los procesos de calificación y validación que avalen la precisión, integridad de datos y ética de la aplicación. Es importante definir, que el hecho de usar alguna inteligencia artificial en entornos regulados y obtener respuestas o resultados de esta, no establece la verdad absoluta. El sesgo actual es grande y, la premura de las industrias por implementar estos modelos termina por encarecer el resultado. La visión de muchos usuarios al usar y realizar tareas con estas herramientas de IA (Inteligencia artificial) manifiesta el uso para la optimización de tiempos y respuestas en procesos controlados. Si embargo, el cumplimiento de normatividades y regulaciones internacionales se ve mermado por el ímpetu de sentirse parte de y no con la responsabilidad que esta conlleva para ser aplicada en un entorno regulado.

Recientemente la FDA emitió la primera carta de advertencia relacionada al uso de modelos de inteligencia artificial emitida en abril 2026. Dicha carta de advertencia fue emitida para el laboratorio de medicamentos homeopáticos PUROLEA COSMETICS LAB (Consulta la carta directamente del sitio de FDA) , con sede en EE.UU. La sanción fue derivada del uso inapropiado de inteligencia artificial en la fabricación farmacéutica. Esta medida marca un inicio en el uso para el control de estas tecnologías dentro de la regulación farmacéutica, dispositivos médicos y otros sectores regulados. A continuación, te compartimos el hallazgo:

“Durante la inspección de la FDA a su planta de fabricación de medicamentos, PUROLEA COSMETICS LAB declaró a los investigadores de la FDA que utilizaba agentes de inteligencia artificial (IA) para ayudar a su empresa a cumplir con las regulaciones de la FDA. Específicamente, utilizó la inteligencia artificial para crear especificaciones de productos farmacéuticos, procedimientos y registros maestros de producción o control, para cumplir con los requisitos de la FDA”.

Ante los eventos observados la FDA responde:

“Si utiliza IA como herramienta para la creación de documentos, debe revisar los documentos generados por inteligencia artificial para garantizar que sean precisos y cumplan con las Buenas Prácticas de Fabricación (BPF). El incumplimiento de esta obligación constituye una violación de 21 CFR 211.22(c). Durante la inspección también se documentó una dependencia excesiva de la inteligencia artificial en sus operaciones de fabricación de medicamentos. Por ejemplo, los investigadores de la FDA descubrieron que PUROLEA COSMETICS LAB no había realizado la validación del proceso antes de la distribución de sus productos farmacéuticos, como lo exige 21 CFR 211.100, y se lo informaron. Usted respondió que desconocía el requisito legal, ya que el agente de IA que utilizó nunca le informó que era necesario”.

Con los hallazgos la FDA reconoce a PUROLEA COSMETICS LAB el haber cesado la producción de medicamentos. Para lo cual FDA manifiesta lo siguiente ; Si planea reanudar la producción de medicamentos y utilizar IA para ayudar con las actividades de Buenas Prácticas de Fabricación (BPF), como el desarrollo de procedimientos y especificaciones, cualquier resultado o recomendación de un agente de IA debe ser revisado y aprobado por un representante humano autorizado de la Unidad de Control de Calidad (UCC) de su empresa, de conformidad con la sección 501(a)(2)(B) de la Ley Federal de Alimentos, Medicamentos y Cosméticos (FD&C Act). Véase también 21 CFR 211.22; 21 CFR 211.100.

Con este hallazgo, se observa el impacto regulatorio y productivo de la industria. Otro punto importante al utilizar este tipo de tecnologías es la brecha ética entre el resultado y el uso de estos por profesionales de la salud ya que existen profesionales quienes confían plenamente en la respuesta obtenida, sin contar con un pensamiento crítico basado en el riesgo.

Recordemos que la industria regulada y las directrices documentales que ayudan a calificar y validar estos modelos de inteligencia artificial, establecen que el resultado final siempre sea intervenido, corregido, entrenado, validado, respaldado y cuestionado por un ser humano competente y con experiencia demostrable en el sector de aplicación. Esta fase del proceso de denomina “Human in the Loop “(HITL, por sus siglas en inglés, o humano en el bucle). El concepto Human in the Loop (HITL) se refiere a la integración de la supervisión y el criterio humano en los sistemas de inteligencia artificial (IA) para asegurar el cumplimiento de estándares éticos y de seguridad.  

Es importante considerar que el hallazgo emitido por la FDA es el inicio del control, ya que en la actualidad existente sistemas para; diagnósticos, administrativos, ERP etc. que incluyen modelos de inteligencia artificial utilizando de manera inconsciente, atribuyendo que los resultados de estos modelos son correctos sin demostrar si estos cumplen con su entrenamiento, pruebas y validación en concordancia con las directrices internacionales.

En, Deappharma, somo pioneros en la calificación y validación de modelos de inteligencia artificial para entornos regulados. Contamos con políticas y procedimientos de trabajo trazables y auditables que te darán toda la certidumbre regulatoria que requieres y con esto utilices con un pensamiento crítico basado en riesgos el modelo de inteligencia artificial que estes adaptando en tu organización.  No pongas en riesgo la continuidad de tu negocio y acércate a nosotros para que te brindemos soporte y apoyo en la calificación de tus modelos de inteligencia artificial.

“LA INTELIGENCIA ARTIFICIAL SERA TU ALIADO EN PRODUCTIVIDAD, SIEMPRE Y CUANDO ESTE CUMPLA CON LOS REQUISITOS DE INTEGRIDAD, ETICOS Y DE CUMPLIMIENTO QUE LAS DIRECTIRES INTERNACIONALES SOLICITAN”

Te invitamos a que nos contactes para que nuestros expertos te hablen a profundidad sobre este servicio.

“Fase de operación” un marco teórico descrito en el “Anexo 11” para la validación de sistemas computarizados.

Por enAlmacenamiento, Audit Trail, Calificación de sistemas computarizados, CFR21 parte 11, Integridad de datos, Pruebas especiales, Software, Validación de hojas de cálculo, Validación de sistemas computarizados

Anteriormente, logramos definir el alcance del proceso de validación, al momento de enfrentar un proyecto que involucre sistemas computarizados (Leer articulo previo). Como complemento a dicho artículo, seguiremos analizando el “Anexo 11” de la comisión europea (Eudralex) , para abordar el enfoque de “operación” y conocer los requerimientos normativos para llevar a buen puerto nuestro proyecto.

La fase de operación de validación de sistemas computarizados, la podemos definir como: la evidencia documentada de un sistema computarizado para cumplir con los requerimientos operacionales y funcionales descritos en la especificación, con base en el propósito de diseño definido. A continuación, mencionaremos aspectos operativos relevantes al enfrentar un proceso de validación en su etapa de “operación”.

Fase de proyecto «OPERACIÓN»

Durante la etapa de calificación de operación de sistemas computarizados, debemos considerar que las pruebas deben evidenciar el cumplimiento regulatorio y de funciones operacionales de diseño. Los atributos para revisar y evidenciar son los siguientes:

Datos. Los sistemas informáticos que intercambian datos electrónicamente con otros sistemas, deben incluir controles integrados adecuados para la introducción (captura) y el correcto y seguro procesamiento estos, con el fin de minimizar los riesgos.

Controles de precisión. En el caso de datos críticos introducidos manualmente, se debe realizar una comprobación adicional de su precisión. Esta comprobación puede ser realizada por un segundo usuario o por medios electrónicos validados. La criticidad y las posibles consecuencias de la introducción errónea o incorrecta de datos en un sistema deben estar cubiertas por la gestión de riesgos.

Almacenamiento de datos. Los datos deben protegerse contra daños, la protección será por medios físicos y/o electrónicos. Durante la validación del presente requerimiento, se debe comprobar la: accesibilidad, legibilidad y precisión de los datos almacenados. El acceso a los datos debe garantizarse durante todo el período de retención.También, se deben realizar copias de seguridad periódicas de todos los datos y registros relevantes. Así como, pruebas de integridad y precisión de los datos obtenidos de copias de seguridad, verificando con esto la capacidad de restauración.

Impresiones (Inspeccionalidad de registros). Debe ser posible obtener copias impresas nítidas de los datos almacenados electrónicamente y, a su vez, que estas impresiones muestren la información precisa respecto a la mostrada en el sistema.

Registros de auditoría y/o «LOG» de trazabilidad. Se debe considerar, con base en una evaluación de riesgos, la integración dentro del sistema de un mecanismo de registro de cambios y eliminaciones de datos y registros. Para cambios y/o eliminación de datos relevantes GxP, se debe documentar y/o trazar mediante una justificación el motivo de dicho cambio. Los registros (reportes) de auditoría deben estar disponibles, ser convertibles a un formato generalmente inteligible, estar siempre activos y permitir su revisión de forma periódica.

Gestión de cambios y configuración. Cualquier cambio en un sistema informático, que incluya las configuraciones del sistema, deben realizarse de forma controlada, bajo un procedimiento definido de controles de cambio. Para cambios de atributos de configuración, el sistema debe ser capaz de gestionar la trazabilidad de dichos cambios mediante perfiles de acceso autorizados.

Evaluación periódica (Mantenimiento de estado validado). Los sistemas informáticos deben evaluarse periódicamente para confirmar que se mantienen en un estado válido y, estos siguen cumpliendo con los parámetros GxP. Dichas evaluaciones deben incluir, cuando corresponda: la funcionalidad actual, los registros de desviaciones, los incidentes, los problemas, el historial de actualizaciones, el rendimiento, la fiabilidad, la seguridad, los controles de cambios, los hallazgos de auditoría y los informes de mantenimiento de estado validado previos.

Seguridad. Para los sistemas informáticos se deben implementar controles físicos y/o lógicos para restringir el acceso al sistema a personas autorizadas. Los métodos adecuados para prevenir el acceso no autorizado al sistema, pueden incluir el uso de llaves (ID), tarjetas de acceso, códigos personales con contraseñas, datos biométricos etc. El alcance de los controles de seguridad depende de la criticidad del sistema informático. El sistema debe ser operativamente funcional para registrar la creación, modificación y cancelación de autorizaciones de acceso. Los sistemas de gestión de datos y documentos deben estar diseñados para registrar la identidad de los usuarios que:  introducen, modifican, confirman o eliminan datos, incluyendo fecha y hora.

Gestión de Incidentes. Todos los incidentes, no solo las fallas del sistema y los errores de datos deben reportarse y evaluarse. Se debe identificar la causa raíz de un incidente crítico y, esta debe ser la base de implementación para las acciones correctivas y preventivas.

Firma Electrónica. Si el sistema computarizado tiene alcance para firma electrónica, se espera que las firmas electrónicas, cumplan con los siguientes atributos:

  • tengan el mismo impacto que las firmas manuscritas dentro de los límites de la organización,
  • estén vinculadas permanentemente a su respectivo registro,
  • incluyan la hora y fecha de aplicación.

Continuidad del negocio. Para la disponibilidad de los sistemas informáticos que dan soporte a procesos críticos, se deberán establecer disposiciones para garantizar la continuidad del soporte para dichos procesos, en caso de una falla del sistema (por ejemplo, un sistema manual o alternativo validado). El tiempo necesario para la puesta en funcionamiento de las soluciones alternativas, deberá basarse en el riesgo y ser adecuado para cada sistema y proceso de negocio en particular al que brinda soporte.

Archivo. Deben existir procesos de archivo de datos. Los datos archivados deben permitir la verificación, la accesibilidad, la legibilidad y la integridad. Si se realizan cambios relevantes en el sistema (por ejemplo, en equipos o programas informáticos), se debe garantizar y probar la capacidad de recuperación de los datos.

Recuerda que, Deappharma, tienes un proveedor de soluciones informáticas en cumplimiento con la normatividad local NOM-059 BPF e internacional. Te invitamos a conocer nuestras soluciones, las cuales cumplen con los requerimientos CFR21 y Anexo 11 de la comisión europea. Nuestras soluciones satisfacen las regulaciones más exigentes de nuestro sector farmacéutico.

Conoce como transformamos el control de Libros de Excel con, eDocuSeed, y la gestión de validación de métodos analíticos con, eADMxL.

¡Te esperamos!