Num canal fora do ar: tecnologia, inteligência e os limites da regulação

“O céu sobre o porto tinha cor de televisão, sintonizada num canal fora do ar”. A icónica frase de abertura de Neuromancer (1984), de William Gibson, uma das mais importantes obras de ficção científica até hoje editadas, talvez possa ajudar a ilustrar a crescente complexidade da relação entre tecnologia e regulação.

Sabendo-se, à partida, que tecnologia e regulação seguem metodologias e processos de criação intrinsecamente diferenciados, é indiscutível que a rapidez com que a primeira, a tecnologia, se tem vindo a desenvolver (particularmente ao longo dos últimos anos) coloca à segunda, à regulação, dificuldades porventura inéditas e de cuja solução dependerá, em grande medida, não apenas o nosso futuro enquanto indivíduos e cidadãos, mas, também, o futuro das diferentes comunidades em que estamos inseridos.

Essas dificuldades constituem território há muito mapeado e gravitam, no essencial, em torno de três eixos principais: por um lado, da circunstância de a tecnologia evoluir a um ritmo exponencial, ao passo que a regulação evolui de forma incremental; por outro lado, da profunda assimetria de informação existente entre quem desenvolve tecnologia e quem a pretende regular e fiscalizar; finalmente, da enormíssima dificuldade em “encaixar” a multidimensionalidade da tecnologia e dos seus muitos objetos nas muitas vezes apertadas categorizações do direito e da regulação.

A resposta a estas dificuldades, em particular na União Europeia, tem sido corporizada na aprovação de um número muito significativo de diplomas legais (o “braço-armado” por excelência do policymaking europeu), procurando-se, por essa via, corrigir no papel as insuficiências existentes no tecido normativo.

Apesar da impressionante produção legislativa, a eficácia destes regimes enfrenta hoje importantes limitações estruturais.

Por um lado, porque a sua eficácia no “terreno” continua dependente da capacidade técnica, dos recursos e da maturidade das autoridades nacionais, frequentemente confrontadas com sistemas cuja complexidade tecnológica largamente ultrapassa os modelos tradicionais de supervisão. Regular algoritmos, infraestruturas digitais distribuídas ou cadeias globais de serviços tecnológicos, exige competências técnicas e de auditoria que raramente evoluem ao mesmo ritmo das tecnologias sob supervisão.

Em paralelo, muitas das obrigações impostas pelos recentes quadros legais (como é o caso do DORA, da NIS2 ou do AI Act) traduzem-se, sobretudo, em exigências organizacionais (criação de políticas internas, registos, avaliações de risco, mecanismos de reporte, planos de governance) que, sendo essenciais para estruturar a cadeia de responsabilidade, não garantem por si só um controlo efetivo sobre o funcionamento dos sistemas. Existe, nessa medida, um risco real de se instituir uma certa cultura de “compliance-on-paper”, onde as organizações criam documentação, procedimentos e relatórios que vão ao encontro daquilo que a lei exige, mas sem que isso se traduza necessariamente numa transformação operacional real ou numa compreensão profunda dos riscos tecnológicos envolvidos.

Esta tensão revela um limite mais profundo dos modelos regulatórios atuais. Na sua maioria, estes modelos foram concebidos para disciplinar organizações e processos relativamente estáveis, partindo do pressuposto de que é possível identificar e imputar responsabilidades de forma clara, avaliar riscos num momento ex ante e exercer supervisão sobre sistemas cujo comportamento é, em larga medida, previsível.

No entanto, à medida que os sistemas tecnológicos se tornam mais complexos, adaptativos e in(ter)dependentes, esta lógica começa, também ela, a ruir.

É neste ponto que o surgimento de sistemas de inteligência artificial com capacidade crescente de autonomia coloca um desafio qualitativamente novo.

O recente caso do Moltbook ajuda a ilustrar esta mudança. Nesta rede social, apenas agentes de inteligência artificial podem publicar, comentar e interagir, ficando os humanos relegados para um papel de meros observadores. Ainda que o grau efetivo de autonomia destes agentes seja discutível, o fenómeno tornou visível algo que até há pouco tempo apenas encontrávamos em livros de ficção científica: sistemas digitais a interagir entre si, a produzir conteúdos, a organizar comunidades e a simular dinâmicas sociais sem intervenção humana direta em cada ação. Este tipo de ambientes mostra como o ecossistema digital pode evoluir para contextos onde a atividade relevante já não resulta apenas de decisões humanas mediadas por software, mas de cadeias de decisões tomadas por sistemas automatizados que operam em conjunto.

Neste cenário, a dificuldade ultrapassa a complexidade técnica do sistema e passa a residir na própria natureza da decisão. Quando um agente seleciona autonomamente uma estratégia, prioriza ações ou produz resultados ou efeitos que não foram explicitamente antecipados ou ordenados pelos seus criadores, torna-se francamente mais difícil identificar o ponto exato gerador de responsabilidade. O direito continua a procurar um sujeito (o fornecedor, o operador, o utilizador), mas a cadeia causal torna-se mais difusa quanto maior for a autonomia operacional do sistema.

Mais do que um problema de densidade regulatória, esta mudança sugere que o desafio que se coloca poderá não residir apenas em criar novos diplomas ou acrescentar novas obrigações, mas em repensar a própria forma como o direito conceptualiza a ação ex machina. Se durante décadas a tecnologia foi tratada como um instrumento previsível e subordinado, a emergência de sistemas cada vez mais autónomos obriga-nos hoje a lidar com uma realidade diferente: infraestruturas digitais que não apenas executam instruções, mas que participam ativamente na tomada de decisões. Nesse cenário, a questão já não será apenas como regular a tecnologia, mas como regular um ambiente onde a fronteira entre decisão humana e decisão tecnológica se torna progressivamente mais ténue.

A própria ficção científica antecipou, de formas diferentes, esta possibilidade. Em A Floresta Negra, Liu Cixin retrata um universo regido por uma lógica implacável de sobrevivência, levando civilizações a agir segundo lógicas de adaptação e autopreservação que não dependem de qualquer forma de consciência semelhante à humana. Já em Invencível, de Stanislaw Lem, encontramos talvez uma das imagens mais perturbadoras desta ideia: enxames de sistemas automatizados que evoluem por seleção funcional, organizando-se em estruturas eficazes e aparentemente “inteligentes”, sem centro de decisão, intenção ou consciência individual.

Vista à luz destas perspetivas, a emergência contemporânea de agentes digitais capazes de planear, interagir e decidir autonomamente deixa de parecer apenas um avanço tecnológico incremental para representar uma mudança coperniciana. O desafio regulatório não reside, pois, necessariamente, em lidar com máquinas conscientes, mas em lidar com ecossistemas onde múltiplas formas de inteligência operacional, distribuída, adaptativa e muitas vezes opaca, influenciam e tomam decisões de forma tangível. Para um direito historicamente construído em torno da previsibilidade, da estabilidade, da imputação clara de responsabilidade e da centralidade da decisão humana, esta pode ser uma transformação bem mais profunda e imediata do que qualquer hipótese, ainda remota, de consciência artificial.

Enquanto a regulação procura contornos nítidos num horizonte em permanente mutação, por agora o céu sobre o porto continua a ter cor de televisão, sintonizada num canal fora do ar.