Confiar na caixa negra? Como a transparência molda o papel da IA na inovação

• Esta opinião resulta de uma parceria do ECO com a Católica-Lisbon com vista a publicação regular de artigos de opinião sobre empreendedorismo.

“O surgimento de uma IA poderosa será a melhor ou a pior coisa que alguma vez aconteceu à humanidade. Ainda não sabemos qual.”. Com esta citação, Stephen Hawking enquadra, ainda que involuntariamente, o dilema que está no centro da inovação contemporânea: devemos confiar na inteligência artificial quando esta oferece aconselhamento estratégico, sobretudo na avaliação de novas ideias de negócio?

Transparência e Confiança na Avaliação da Inovação

A avaliação de ideias inovadoras constitui um desafio crítico para o desenvolvimento bem-sucedido de novos produtos. Nesta fase inicial, frequentemente designada fuzzy front end da inovação, os dados são escassos, a incerteza é elevada e o risco de erros estratégicos é substancial. Rejeitar prematuramente uma ideia promissora pode significar perder vantagem competitiva; avançar com ideias fracas implica desperdiçar recursos e credibilidade.

Tradicionalmente, as organizações têm recorrido à intervenção humana, como painéis de especialistas, conselhos consultivos e grupos de foco, para lidar com esta incerteza. Embora estas abordagens permitam captar conhecimento valioso, tendem a ser lentas, exigentes em termos de recursos e vulneráveis a enviesamentos cognitivos e sociais, como o groupthink, o enviesamento da novidade, o excesso de confiança e os efeitos de confirmação.

Neste contexto, a IA surge como uma alternativa mais rápida, económica e escalável.

A IA consegue identificar padrões subtis em grandes volumes de dados, simular cenários e complementar, ou até superar, o julgamento humano. Contudo, a maioria dos sistemas de IA funciona como uma “caixa negra” opaca, produzindo resultados sem explicar o raciocínio subjacente, o que deixa os decisores inseguros quanto à validade das recomendações. Algumas abordagens de investigação procuraram compreender como as pessoas reagem ao aconselhamento de IA, mas os resultados têm sido contraditórios. Alguns estudos identificam uma tendência de algorithm appreciation (predisposição para valorizar recomendações algorítmicas) enquanto outros evidenciam algorithm aversion, fenómeno em que pequenos erros são suficientes para destruir a confiança e provocar rejeição.

Apesar do debate em curso, continua a existir escassez de evidência empírica sobre a forma como a transparência e os fatores humanos influenciam a reação ao aconselhamento de IA. Defendemos que a transparência desempenha um papel central na determinação do grau de confiança dos decisores nos resultados gerados por IA. Ao clarificar os dados utilizados, os processos de raciocínio e os algoritmos subjacentes, a transparência poderá aumentar a perceção de fiabilidade e promover a integração da IA na tomada de decisão. Mas de que forma os fatores humanos, como a familiaridade com IA ou a confiança no próprio julgamento, influenciam efetivamente a predisposição para seguir recomendações algorítmicas?

Testar a Influência da Transparência

Para responder a esta lacuna de investigação, concebemos um inquérito experimental quantitativo, baseado no modelo Judge-Advisor System (JAS), envolvendo 366 empreendedores.

Os participantes foram convidados a assumir o papel de gestores de desenvolvimento de negócio de uma empresa fictícia de moda e a avaliar um novo modelo de subscrição de aluguer de roupa. A ideia foi analisada em quatro dimensões – novidade, viabilidade, relevância e potencial de mercado -, numa escala de 0 a 100. Foram consideradas três hipóteses:

• H1: níveis mais elevados de transparência da IA aumentam a utilização do aconselhamento de IA;
• H2: este efeito é mais forte entre indivíduos com baixa familiaridade com IA;
• H3: este efeito é mais fraco entre indivíduos com elevada confiança no seu próprio julgamento.

Posteriormente, os participantes foram distribuídos aleatoriamente por quatro grupos experimentais. Cada grupo recebeu a mesma avaliação gerada por IA (“aconselhamento”) relativamente à mesma ideia, apresentada com diferentes níveis de transparência:

• Sem transparência: apenas uma classificação numérica;
• Baixa transparência: classificação + fontes de dados;
• Transparência média: classificações + fontes de dados + explicação em linguagem simples (Explainable AI – XAI);
• Alta transparência: classificações + fontes de dados + explicação em linguagem simples (XAI) + detalhes algorítmicos.

De seguida, os participantes voltaram a avaliar a ideia. A diferença entre a avaliação inicial e a final foi medida através do indicador Weight of Advice (WOA), uma métrica standard em estudos sobre aceitação de aconselhamento, que mede até que ponto os indivíduos ajustam os seus julgamentos em função de contributos externos, neste caso, recomendações de IA.

O que revelam os dados

Os resultados foram claros: A transparência nos sistemas de IA provoca mudanças comportamentais. À medida que o nível de transparência aumentava, também aumentava a predisposição dos participantes para rever as suas avaliações em direção ao aconselhamento da IA. Em média, os participantes do grupo sem transparência alteraram as suas classificações em 38,4%, enquanto os do grupo de alta transparência ajustaram cerca de 51%. Assim, os dados sustentam a primeira hipótese.

A segunda hipótese recebeu apoio parcial: empreendedores com menor familiaridade com IA foram mais influenciados por cada nível adicional de transparência, enquanto utilizadores mais experientes demonstraram alterações menos significativas. Surpreendentemente, a terceira hipótese foi rejeitada. A confiança no próprio julgamento não reduziu a dependência das recomendações da IA. Indivíduos altamente confiantes mostraram-se tão propensos a ajustar as suas avaliações quanto aqueles com menor confiança.

Além disso, o efeito da transparência parece não ser universal, mas condicionado por diferenças individuais. Alguns participantes ignoraram o aconselhamento da IA mesmo perante elevados níveis de transparência, enquanto outros adotaram integralmente sugestões opacas. Esta coexistência entre algorithm appreciation e algorithm aversion demonstra que, embora a transparência seja importante, representa apenas uma parte do problema.

Para executivos que procuram integrar IA nos processos de inovação, a mensagem é clara: a transparência não é apenas uma exigência regulatória: é uma alavanca estratégica. Com base neste estudo, emergem quatro implicações principais:

• Desenvolver sistemas orientados para a transparência. A transparência pode funcionar como catalisador da aceitação e integração da IA nos processos de decisão;
• Construir competências em IA e inteligência híbrida. Combinar resultados transparentes de IA com deliberação humana estruturada permite aproveitar o melhor de ambos os mundos;
• Antecipar reações distintas. Alguns colaboradores resistirão ao aconselhamento da IA mesmo quando esta é transparente; outros poderão depender excessivamente dela. Ambas as tendências exigem gestão ativa;
• Manter a transparência acessível. Deve privilegiar-se a clareza em detrimento do excesso de detalhe, informação suficiente para gerar confiança, mas não tanta que provoque sobrecarga cognitiva.

A IA representa um motor significativo de inovação, oferecendo vantagens computacionais ao nível da velocidade, escalabilidade e capacidade analítica. Sistemas transparentes influenciam a tomada de decisão empreendedora ao promover maior abertura ao aconselhamento algorítmico. Contudo, a transparência, por si só, não consegue explicar a complexidade dos processos de decisão humanos. Será necessária investigação adicional para compreender os fatores que moldam a forma como as pessoas interagem com a IA.

Assim, à medida que as organizações adotam inovação impulsionada por IA, o desafio não reside apenas em desenvolver sistemas mais poderosos, mas em concebê-los de forma a que as pessoas estejam simultaneamente dispostas e capacitadas para confiar neles e adotá-los.