À medida que a inteligência artificial avança sobre decisões cada vez mais estratégicas, cresce também a pressão por transparência nas informações e processos dessas tecnologias.
O debate chegou à Comissão de Comunicação da Câmara dos Deputados, que recentemente aprovou um Projeto de Lei (2.688/2025) para instituir o Marco Regulatório do Desenvolvimento e Uso da Inteligência Artificial no Brasil.
A PL ainda carece de aprovação em outras comissões antes de seguir para votação no Plenário da Câmara, mas, para especialistas no setor, é um sinal claro sobre como o tema é central para o avanço das IAs no Brasil.especialistas do setor, é um sinal claro de como o tema é central para o avanço das IAs no Brasil. Para a Revio, empresa de tecnologia especializada em soluções para os setores fiscal e jurídico, as marcas que ainda operam com modelos de “IA não explicáveis”, ou seja, que carecem de clareza e detalhamento do seu funcionamento para as pessoas.
“Nesse cenário, as empresas podem enfrentar riscos ao não compreender como suas próprias decisões são construídas. A IA explicável não apenas responde, mas mostra o porquê. Ela evidencia o raciocínio por trás da análise”, afirma Edson Hideki, sócio-fundador da Revio.
Critérios e previsibilidade jurídica
Este cenário, conhecido no setor de tecnologia como o da “caixa-preta” da IA, começa a mudar com o avanço da chamada IA explicável (Explainable AI, ou XAI). Segundo Edson Hideki, mais do que gerar respostas, esse modelo revela os critérios e caminhos que levaram a cada conclusão, um fator que vem se tornando essencial para empresas que operam sob pressão por transparência e previsibilidade.
O princípio da IA explicável já vem sendo aplicadaaplicado em setores como o Direito e empresarial, onde a previsibilidade é uma vantagem competitiva. No uso corporativo, a IA explicável permite que análises deixem de ser apenas probabilísticas e passem a ser interpretáveis. Esse tipo de abordagem se apoia em jurimetria, com análise de milhares de decisões judiciais para identificar padrões que orientam estratégias.
“Em vez de indicar somente a chance de condenação em um processo, o sistema consegue apontar os fatores que levaram a essa conclusão, como o histórico do juiz, o entendimento do tribunal ou o peso das provas”, diz Edson Hideki.
Aplicação na saúde
Outro exemplo da IA explicável está presente na saúde. Um estudo na revista Nature Communications, conduzido por pesquisadores do Centro Alemão de Pesquisa em Diabetes (DZD), utilizou modelos de aprendizado profundo para analisar imagens de tecidos pancreáticos e identificar padrões associados ao diabetes tipo 2, condição que afeta mais de 500 milhões de pessoas no mundo.
O desafio da equipe médica estava associado à dificuldade de identificar a doença por métodos tradicionais. A solução veio da combinação entre grandes volumes de dados e inteligência artificial explicável. A partir de imagens de alta resolução, os algoritmos foram treinados para distinguir, com precisão, tecidos de pacientes com e sem a doença.
“A IA trabalha com identificação de padrões, inclusive aqueles invisíveis ao olhar humano, especialmente quando há grandes volumes de dados. As técnicas de machine learning e redes neurais permitem encontrar regularidades ocultas, classificar informações e antecipar cenários. Isso viabiliza desde a identificação de anomalias até a previsão de comportamentos complexos”, afirma.
Fonte: Contábeis
