Matérias

Auditar sistemas computadorizados na indústria farmacêutica sempre significou avaliar requisitos definidos, funcionalidades validadas, controles de acesso, registros eletrônicos e evidências documentais capazes de demonstrar conformidade.

Mas uma nova questão começa a desafiar os modelos tradicionais: como auditar um sistema que aprende?

A inteligência artificial deixou o campo experimental e passou a integrar processos críticos em ambientes regulados. Algoritmos já apoiam atividades de Controle de Qualidade, revisão documental, monitoramento ambiental, investigação de desvios, farmacovigilância e modelos preditivos para identificação antecipada de riscos.

Esse avanço representa uma transformação importante dentro do universo GxP.

Grande parte dos conceitos clássicos de validação foi desenvolvida considerando sistemas com comportamento previsível: dados de entrada, regras determinadas e resultados esperados.

A inteligência artificial muda essa lógica.

Modelos baseados em aprendizado de máquina podem evoluir conforme novos dados são incorporados, criando uma questão essencial para auditores, especialistas em validação e profissionais da qualidade: um algoritmo continua validado depois que aprende?

As discussões envolvendo FDA Computer Software Assurance (CSA), GAMP® 5 Second Edition e frameworks de governança em IA reforçam uma mudança de mentalidade.

O foco passa a considerar risco, conhecimento do processo, criticidade do uso pretendido e impacto potencial ao paciente, e não só a documentação extensiva da validação.

Auditar inteligência artificial exige uma visão ampliada.

É necessário compreender como o modelo foi desenvolvido, quais dados foram utilizados no treinamento, quais controles reduzem vieses, como mudanças são gerenciadas e qual nível de supervisão humana permanece sobre decisões críticas.

Termos como Explainable AI (XAI), Model Lifecycle Management, Bias Detection, Algorithm Validation e Human Oversight passam a fazer parte da rotina dos profissionais da Qualidade Farmacêutica.

Os princípios de Data Integrity continuam indispensáveis.

ALCOA+, trilhas de auditoria, rastreabilidade, segurança da informação, controles do 21 CFR Part 11 e requisitos do EU GMP Annex 11 permanecem aplicáveis, agora em uma arquitetura tecnológica mais dinâmica e complexa.

A principal mudança está em compreender que validar uma solução baseada em IA não deve ser tratada como um evento único, concluído após a implantação.

O ciclo de vida passa a ser contínuo.

Monitoramento de desempenho, controle de mudanças, avaliação periódica do modelo e revisão baseada em risco tornam-se essenciais para demonstrar que a tecnologia permanece confiável ao longo do tempo.

O futuro das auditorias GxP será cada vez menos sobre verificar sistemas estáticos e cada vez mais sobre avaliar ecossistemas digitais inteligentes.

Autor: Carlos Eduardo Rodrigues Costa