VP de Dados e IA da Thoughtworks vê avanço de projetos de “explicabilidade” para comprovação de valor da IA

Nos últimos meses, a Inteligência Artificial (IA) generativa tem vivido um novo momento dentro das organizações. Ao mesmo tempo que o hype e ritmo de inovação persistem na indústria, empresas estão focadas em projetos que buscam extrair valor real da tecnologia, de olho no potencial de negócio e impacto de ROI.

Danilo Sato, vice-presidente e líder de Tecnologia para Data e IA da Thoughtworks, consultoria global de software, tem acompanhado essa transformação de perto. Em novembro do ano passado, o brasileiro baseado em Londres, no Reino Unido, assumiu sua nova posição dentro da companhia, e passou a trabalhar mais próximo a CDOs (Chief Data Officers) e outros líderes de dados de clientes para entender quais as principais demandas e tendências que têm surgido nos mercados de IA e dados.

Uma delas tem sido o avanço dos projetos de “explicabilidade” de IA. De acordo com Sato, essas iniciativas têm o objetivo principal de comprovar a eficácia de ferramentas de IA generativa a partir dos outputs que dão aos prompts inseridos, avaliando sua precisão antes de colocá-las em produção.

“Criar uma prova de conceito de IA generativa é relativamente fácil e gera resultados impressionantes, mas a questão é que clientes que estão tentando colocá-la em produção ou utilizá-la em aplicações sensíveis, e, para isso, precisam de uma precisão maior e avaliação de output”, explica em conversa com o IT Forum.

De acordo com o executivo, esse tipo de comprovação de eficácia não é algo novo na indústria. Mesmo modelos tradicionais de IA, como machine learning, também apresentavam desafios similares. Por sua natureza não-determinística, no entanto, a IA generativa traz uma nova camada de desafio para empresas nesse aspecto – especialmente entre setores regulados da economia, como o financeiro e o farmacêutico.

Leia também: Chegou a hora da IA na manufatura. Você está pronto?

“São modelos probabilísticos, você vai treiná-los e eles tentarão prever o que vai acontecer, mas nunca terão uma eficácia de 100%. Dependendo do caso de uso, isso pode ser aceitável ou não; as pessoas podem decidir se vão confiar no modelo e seguir com sua resposta ou usá-la como mais um input que será avaliado por humanos para a tomada de decisão de negócio”, pontua.

O tema também tem sido discutido internamente pela própria Thoughtworks. De acordo com Sato, a empresa tem hoje um time de pesquisa que olha para este desafio específico, em busca de estratégias para entender como os modelos estão gerando suas respostas e para avaliá-las de forma mais quantitativa.

“Há empresas que já estão usando um Large Language Model (LLM) para julgar a saída de outro LLM – pegando a saída do primeiro e perguntando a um segundo para julgá-la de acordo com critérios estabelecidos. Mas se você não confia na saída do primeiro, quando começa a encadear modelos, pode acabar produzindo ainda mais incerteza nesse processo”, pondera.

Além de projetos de explicabilidade Sato aponta que o tema de “plataformas de IA” também tem evoluído junto aos cliente, e deve ganhar relevância conforme as iniciativas de inteligência artificial vão se tornando mais complexas nas empresas. A questão é não apenas uma tendência, mas também um imperativo para organizações, segundo o executivo, uma vez que a a complexidades de sistemas de IA deve se expandir.

Um dos exemplos é nos chamados sistemas de IA compostos, que irão combinar ações em modelos específicos com tarefas paralelas, como resgatar informações em um banco de dados. “Ferramentas diferentes vão se combinar, e a forma como se arquiteta e constroi sistemas vai se tornar mais complexa”, anota o executivo.

“As técnicas de engenharia de design vão se tornar cada vez mais importantes. Então, estamos investindo em crescer essa área para criação de sistemas mais robustos – assim conseguiremos demonstrar algo legal não só em demo, mas também colocar em produção”, finaliza.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!