Responsabilidade civil na era da decisão assistida

Tem-se generalizado a convicção de que a inteligência artificial é apenas uma ferramenta de produtividade, sem impacto real na forma como se decide ou na forma como se responde.

Convicção útil e até apaziguadora, mas que dificilmente resistirá ao primeiro conjunto relevante de litígios.

O Direito português mantém-se, para já, fiel às suas categorias clássicas. A responsabilidade civil assenta na culpa, na diligência exigível, na imputação a um sujeito humano ou organizacional. O AI Act europeu segue idêntica linha, não reconhece autonomia jurídica à inteligência artificial e preserva a lógica da supervisão humana.

Formalmente, tudo permanece estável. Materialmente, já não.

A decisão deixou de ser, na prática, um momento isolado de reflexão humana. É cada vez mais o resultado de um processo assistido por sistemas que filtram informação, sugerem respostas e reorganizam o raciocínio, tudo antes de qualquer validação consciente. Quando essa validação chega, sob a forma de aprovação de um parecer ou de um relatório, a intervenção humana ocorre já sobre um texto parcialmente pré-estruturado. A decisão continua a ser assinada por humanos, mas já não é evidente que seja integralmente construída por eles.

Em caso de litígio, dificilmente se discutirá se houve utilização de IA. A questão será mais saber até que ponto a decisão foi ainda verdadeiramente autónoma, e se essa autonomia era sequer exigível.

Aqui, o conceito de diligência começa a revelar fissuras. O padrão jurídico português sempre assentou na figura de um decisor informado, capaz de compreender os elementos relevantes da decisão. Mas o que sucede quando o próprio instrumento que influencia essa decisão escapa à plena compreensão de quem o utiliza, e não é totalmente auditável em tempo útil?

A resposta intuitiva tende a ser a validação do resultado. Mas é insuficiente, porquanto validar um output não equivale a compreender o processo que lhe deu origem. E em sede de responsabilidade civil, esta distinção pode não ser neutra.

Há um segundo plano de risco: a circulação de informação. O uso de IA implica, com frequência, a introdução de dados que não deveriam sair do perímetro organizacional: informação de clientes, dados pessoais, elementos cobertos por sigilo profissional. Estes dados entram em sistemas externos sem perceção clara das consequências jurídicas. O risco não é abstrato.

Acresce um terceiro plano: a ausência de controlo interno efetivo. Muitas organizações não definiram ainda quem pode utilizar estas ferramentas, em que condições, com que validação posterior. Esta lacuna traduz fragilidade na forma como a decisão é construída. Em contexto de litigância, será lida como falha de governação.

Estes três riscos convergem num ponto comum: a prova. Em tribunal, a discussão passará a centrar-se no processo. Que informação foi usada? Em que momento interveio a IA? E, sobretudo, se alguém estava em condições de contrariar o que o sistema sugeriu.

O AI Act fornece linguagem regulatória para este enquadramento, mas não resolve a questão essencial: como aferir diligência quando a decisão permanece formalmente humana, embora já não seja inteiramente explicável, nem totalmente controlável, por quem a toma.

O que está verdadeiramente em causa não é saber se a inteligência artificial decide. É antes saber até que ponto o Direito continuará a aceitar como “decisão humana” aquilo que, na prática, resulta de um processo assistido de tal intensidade que a autonomia, ainda que formalmente preservada, se torna difícil de demonstrar e sustentar quando questionada.