INAEP publica guia de uso de Inteligência Artificial em Pesquisa com Seres Humanos
A Instância Nacional de Ética em Pesquisa (INAEP) deu mais um passo relevante na consolidação do novo marco regulatório brasileiro de pesquisa com seres humanos ao publicar um conjunto de documentos voltados à utilização de inteligência artificial (IA) em pesquisas científicas. As iniciativas buscam promover maior segurança jurídica, previsibilidade regulatória e proteção dos participantes de pesquisa diante do uso crescente de tecnologias baseadas em IA.
As publicações integram um movimento mais amplo de modernização do sistema ético brasileiro, iniciado com a criação do Sistema Nacional de Ética em Pesquisa (SINEP) e da própria INAEP, que substituiu o antigo modelo CEP/CONEP por uma estrutura mais centralizada, com prazos definidos e maior previsibilidade para a condução de pesquisas multicêntricas e estudos clínicos.
O que é o Guia de Uso Ético de Inteligência Artificial em Pesquisa com Seres Humanos?
O guia tem como objetivo auxiliar pesquisadores, instituições e Comitês de Ética em Pesquisa (CEPs) na identificação e avaliação dos riscos éticos decorrentes da utilização de sistemas de IA em pesquisas envolvendo seres humanos.
Entre os principais pontos do Guia, destacam-se:
- adoção de uma abordagem baseada no contexto de uso e na proporcionalidade do risco;
- atenção especial a vieses algorítmicos, representatividade de dados e discriminação;
- exigência de transparência e explicabilidade dos sistemas utilizados;
- necessidade de supervisão humana efetiva sobre decisões apoiadas por IA;
- preocupação com governança de dados, privacidade e risco de reidentificação;
- reforço da responsabilidade humana sobre os resultados produzidos por sistemas de IA;
- diretrizes sobre integridade científica, autoria e uso de ferramentas de IA generativa na produção acadêmica.
O documento deixa claro que a utilização de IA não constitui, por si só, uma categoria específica de risco. A avaliação deve considerar fatores como finalidade da tecnologia, tipo de dado utilizado, impacto potencial sobre participantes e grau de autonomia do sistema.
O que é a MARIAH?
A MARIAH (Matriz de Avaliação de Risco em Inteligência Artificial em Pesquisa com Seres Humanos) é a ferramenta criada para apoiar os CEPs na identificação, classificação e documentação dos riscos associados ao uso de IA.
A INAEP destaca que a MARIAH:
(i) não substitui a análise ética realizada pelos CEPs;
(ii) não gera aprovação ou reprovação automática;
(iii) busca tornar a avaliação mais sistemática, transparente e rastreável;
(iv) utiliza critérios relacionados à autonomia do sistema, impacto sobre participantes, governança de dados, representatividade dos modelos e supervisão humana.
A ferramenta foi concebida a partir de referências internacionais e adaptada ao contexto regulatório brasileiro, considerando a Lei nº 14.874/2024, a LGPD e as especificidades do Sistema Único de Saúde (SUS). Segundo a INAEP, os documentos servirão como parâmetros nacionais para avaliação ética de pesquisas envolvendo inteligência artificial, contribuindo para maior consistência nas decisões e maior proteção aos participantes de pesquisa.
Relevância prática
A aprovação do Guia e da MARIAH busca uniformizar a atuação dos CEPs em temas que vêm gerando dúvidas, especialmente em relação à proteção de dados, vieses algorítmicos, discriminação, supervisão humana e responsabilização pelo uso de sistemas de IA. Além disso, essa iniciativa reflete a preocupação da autoridade em acompanhar as transformações tecnológicas e fortalecer a governança da pesquisa científica no Brasil.
Para patrocinadores, instituições de pesquisa, universidades, empresas de tecnologia e desenvolvedores de soluções baseadas em IA, os novos documentos representam importante referência para a estruturação de projetos que envolvam pesquisa com seres humanos, indicando as expectativas regulatórias da autoridade ética brasileira para os próximos anos.
Nosso time de Life Sciences & Healthcare permanece à disposição para quaisquer esclarecimentos pelo e-mail lifesciences@soutocorrea.com.br.