“Ainda não podemos responsabilizar o agente de IA. Vamos responsabilizar sempre o humano”

A passagem dos copilots para os agentes de inteligência artificial (IA) produzirá mais valor se servir para reinventar processos, em vez de acrescentar apenas uma nova camada tecnológica. Contudo, adotar sistemas autónomos requer sempre responsabilidade humana, dado que, juridicamente, os agentes não podem ser responsabilizados se algo correr mal.

Escolha o ECO como fonte preferida no Google

Escolher ›

Essas foram duas das ideias principais do painel “Do Copilot ao Agente: Quando a IA Começa a Executar”, integrado na Conferência .IA, que decorreu esta terça-feira, 14 de julho, no Centro Cultural de Belém (CCB). José Maurício Costa, Head of Transformation Office da Meo, João Anastácio, Managing Director e Data & AI Lead da Accenture Portugal, e Pedro Lomba, sócio da PLMJ, debateram as condições necessárias para que a autonomia destes sistemas se traduza em escala, retorno mensurável e transformação efetiva das organizações.

Na Meo, os agentes de IA já são uma realidade, enquadrados num programa de transformação e de implementação de soluções específicas. No debate, José Maurício Costa defendeu que “o grande salto não é de uma IA que responde e executa, mas sim de uma IA que salta do ganho de produtividade individual para a transformação organizacional”. Por isso, a tecnologia deve ser encarada de forma pragmática, como “um mapa de capacidades” que permita criar valor dentro da empresa, e não como um fim em si mesma.

“Eu diria que um use case bom de agente é um use case, acima de tudo, que tem primeiro dor, escala, ganhos mensuráveis, impacto mensurável e responsabilidade acima de tudo”, descreveu.

De acordo com o responsável, a Meo começou por aplicar estes sistemas em processos críticos e de grande escala, incluindo os call centers e a gestão dos técnicos que se deslocam a casa dos clientes. Num contacto motivado por uma dúvida sobre uma fatura, por exemplo, “há agentes que podem interagir com esses clientes, comparar a fatura daquele cliente, comparar a fatura do mês anterior e ser capaz de explicar para o cliente do que se trata”, exemplificou. O responsável ressalvou, contudo, que o cliente mantém a possibilidade de falar com um operador humano, “por regulamentação”, assumiu.

Por seu turno, João Anastácio começou por distinguir os dois conceitos, “copilots” e “agentes”. “Um copilot basicamente é um sistema em que o humano tem o controlo total” — recebe um pedido, pesquisa e devolve uma resposta, cabendo à pessoa decidir se e como atua. “Quando pensamos num agente, vamos para um paradigma diferente”, afirmou. Um agente pode ser proativo, interpretar eventos, raciocinar, planear tarefas, tomar decisões, atuar sobre outros sistemas e usar a memória para aprender com situações anteriores, explicou.

É precisamente essa capacidade de agir que abre a porta a uma transformação mais profunda. “O que os clientes procuram com os agentes é precisamente reinventar os processos de negócio”, explicou o responsável da Accenture, acrescentando que é nessa reinvenção que se encontra “o maior valor”. A adoção deve, por isso, começar pelo problema e pelo retorno esperado: “Não pôr a tecnologia antes do problema, não pôr a carroça à frente dos bois.” As organizações devem construir o business case, escolher os casos de uso com maior potencial e definir antecipadamente as métricas que permitirão medir os resultados.

A preparação tecnológica é igualmente determinante. Além de dados disponíveis e com qualidade, as empresas precisam de dar aos agentes uma definição semântica dos conceitos internos e das relações entre diferentes entidades. “Ensinar o negócio ao agente”, resumiu João Anastácio. Na arquitetura, “muitas vezes menos é mais”, pelo que um problema simples não deve dar origem a uma estrutura desnecessariamente complexa. A portabilidade entre fornecedores, o uso de protocolos standard e a capacidade de garantir “auditabilidade, rastreabilidade dos agentes” completam a lista de requisitos, segundo o especialista.

Mesmo com melhores dados e modelos, permanece uma fronteira difícil de automatizar: a sensibilidade humana. João Anastácio revelou estar a trabalhar num projeto em que se pretende que “o agente adquira o conhecimento tácito da pessoa que está a coadjuvar”, reconhecendo que a capacidade humana de entendimento e abstração continua a representar um desafio para a tecnologia.

Do ponto de vista jurídico, o advogado Pedro Lomba admitiu, por um lado, não estar “convencido de que as empresas portuguesas estejam ainda numa fase madura na adoção da IA não-agêntica”.

Por outro, a legislação existente ainda não contém um conceito plenamente ajustado à inteligência artificial agêntica. Um agente não é necessariamente um chatbot, um assistente virtual ou um sistema de recomendação, embora vários diplomas europeus possam aplicar-se consoante a finalidade e o risco, considerou. Há, porém, um princípio claro: “Juridicamente, o agente não tem personalidade jurídica”. Por isso, “ainda não podemos responsabilizar o agente, vamos responsabilizar sempre o humano.” Essa responsabilidade pode envolver quem concebeu, desenhou, disponibilizou ou autorizou a implementação do sistema, de acordo com o sócio da PLMJ.

Antes de configurar um agente, as empresas devem analisar os usos previstos e identificar as regras aplicáveis em matérias como proteção de dados, direitos dos consumidores ou responsabilidade pelo produto. Para Pedro Lomba, “essa avaliação antes de configuração do agente é absolutamente central”. A autonomia operacional não transfere para a máquina a responsabilidade pelo tratamento de dados nem pela definição das suas finalidades. Na Meo, José Maurício Costa assegurou que “cada agente tem no fim o seu supervisor” e que, mesmo quando o risco é suficientemente baixo para o sistema agir sozinho, “alguém é responsável”.

Os três participantes já recorrem a agentes em tarefas profissionais, do resumo de emails e acompanhamento de iniciativas de transformação à produção de documentação e testes automáticos. Pedro Lomba salientou que os utiliza apenas em tarefas de baixo risco, enquanto José Maurício Costa apontou a gestão da mudança como condição para levar estes sistemas além da produtividade individual. “Não há transformação empresarial sem a gestão da mudança”, afirmou. O verdadeiro salto, concluiu, está na alteração da forma como as pessoas trabalham — uma mudança que terá de ser acompanhada por supervisão, regulamentação e responsabilização.

Assista ao debate na íntegra: