A última palavra não pode ser da máquina

O risco mais sério estará na coisificação do ser humano, com decisões definitivas afetando os Direitos Fundamentais a serem tomadas por máquinas.

Manuel David Masseno é de Beja, no Alentejo, e é de lá que fala ao mundo, depois de ter lecionado ou palestrado na Europa, nas Américas, na África e ainda nas “portas” da Ásia. Ensina Direito no Instituto Politécnico da cidade desde 1999 e, desde 2019, é também o Encarregado de Proteção de Dados da instituição — aplica em casa as regras que estuda. Como convidado ou visitante, leciona, há anos, nas Faculdades de Direito de Lisboa, de Coimbra e do Porto (Católica), ou na Escola de Direito do Minho, em Braga; lecionou quatro anos em um doutorado da Universidade de Salerno, na Itália, e outros quatro na Escola de Verão da Universidade da Lapônia, em Rovaniemi; participa de projetos europeus desde os anos 1990, incluindo a docência em cursos de formação avançada interuniversitária em Istambul. Por outro lado ainda, começou palestrando e escrevendo sobre a Inteligência Artificial no Direito, incluindo a responsabilização dos agentes, em 2005. Publica quase tudo em acesso aberto — perto de quatrocentos textos sobre proteção de dados, inteligência artificial e cibersegurança.

No Brasil, sua presença remonta ao início do século, a princípio incidindo sobre o Direito do Turismo e o Direito Agrário. Depois, durante anos, foi lecionando, palestrando e participando em iniciativas no domínio do Direito Digital, também como Membro Consultor de Comissões estaduais da OAB e até exercendo funções como Diretor para as Relações Internacionais do Instituto Brasileiro de Direito da Informática. Um livro de referência do GEDAI/UFPR o colocou entre os nomes da doutrina portuguesa sobre LGPD e RGPD. Aqui na Toca, quase tudo vive de dados — e ele é o jurista que pergunta “com que direito?” É disso que tratamos.

Antes dos dados, veio a terra — e ela não ficou para trás. Você se formou em Lisboa, foi discípulo de Antonio Carrozza em Pisa e segue no Direito Agrário e Alimentar até hoje, agora no conselho científico da União Mundial dos Agraristas. Dos dados agrícolas à soberania sobre a informação: o que o Direito da terra enxerga sobre inteligência artificial que o direito digital, sozinho, não vê?

Permita-me começar com uma precisão, relativamente à sua pergunta. É que, salvo nalguns discursos políticos ou na etimologia, a agricultura não tem como referência a terra em si mesma, mas sim a criação de plantas e animais para a produção de alimentos, de fibras ou de energia. Efetivamente, embora com precedentes como o Jurista argentino Antonino Carlos Vivanco, o grande contributo do meu Mestre de Pisa consistiu na consideração da especificidade do Direito Agrário como a disciplina de uma atividade empresarial intrinsecamente condicionada pelos limites e os riscos biológicos. Aliás, voltando à sua questão, a terra, enquanto suporte produtivo e consequentemente os direitos que a têm por objeto, é até prescindível para a agricultura e a pecuária, essencial é a água. Por outro lado, a circunstância de eu ser Professor concursado em Direito Empresarial, ainda que tendo por referência uma matéria comum, a dos sinais distintivos, reforçou o foco que já tinha na dimensão real, em linha com os “critérios técnicos” cuja importância fora evidenciada nos anos 30 do século passado por Giangastone Bolla e Tullio Ascarelli. No fundo, estas vivências levaram-me a entender o Direito como uma construção permanente na qual todos participamos, dia a dia, embora sem ultrapassarmos as limitações inerentes à própria “natureza das coisas”. O que me afasta dos modos de olhar dos constitucionalistas, dos penalistas ou até dos civilistas, que tendem a considerar o Direito, sobretudo, como uma projeção de Grandes Narrativas, sejam estas Emancipatórias ou Reaccionárias, como infelizmente tem ocorrido nos últimos anos.

Sempre tentando não perder o fio à meada, o que para mim nunca foi fácil, essa consideração do Direito Agrário, incluindo os ensinamentos do Professor Carrozza a propósito do “Diritto agrario industriale”, conduziram a que os meus estudos na matéria tivessem incidido sobretudo nas disciplinas jurídicas relativas à informação. Num primeiro momento nos sinais distintivos, em especial nas indicações geográficas, tendo depois passado para os direitos tendo por objeto dados não pessoais e, como resultado da procura de regimes que pudessem servir de referência, os direitos relativos às sementes e às biotecnologias. Acrescento ainda que o ter estado mais de uma década dedicado ao estudo do Direito Digital e da Propriedade Industrial, particularmente quanto às criações tecnológicas, levou a uma fertilização cruzada que me transformou num “híbrido”.

E dei-me conta de não lhe ter ainda respondido em termos, pelo que lhe apresento as devidas desculpas pela impertinência, quiçá decorrente da minha idade. Mas, para não ficar sem resposta, os dados e a Inteligência Artificial possibilitam um enorme avanço no que respeita à otimização dos fatores produtivos, designadamente da água e dos fertilizantes, além de minimizarem o recurso a agrotóxicos, inclusive pela identificação quase imediata de fitopatologias ou de zoonoses. Espero que estas minhas digressões não tenham prejudicado o interesse pela sua entrevista, pelo menos ao ponto de os leitores já terem desistido de continuarem a leitura.

Em setembro de 2016, num congresso da FIESP em São Paulo, você apontou que o Brasil não tinha lei de proteção de dados. A LGPD chegou dois anos depois; vieram a ANPD e as Comissões de Direito Digital onde você hoje tem assento. Dez anos depois daquele palco, a lei que veio respondeu ao que você cobrava?

Meses antes, após anos de debates e negociações, a União Europeia dera mais um passo no que se refere à Proteção de Dados Pessoais com a adoção do Regulamento Geral, superando uma fragmentação regulatória que a Convenção do Conselho da Europa, de 1981, e a Diretiva da própria União Europeia de 1995 não tinham conseguido resolver. Daí uma imensa curiosidade por parte dos Colegas brasileiros, porque leis como o Código de Defesa do Consumidor e o “Marco Civil da Internet”, sobretudo, apenas haviam dado respostas muito limitadas a uma preocupação da cidadania brasileira. O que se compreende pela circunstância de o Brasil carecer de respostas legislativas, o que ocorrera na Europa, assim como na Argentina ou no Uruguai, a partir de meados dos anos 70.

No que me diz respeito, além de integrar, sempre como Membro Consultor, Comissões da OAB de São Paulo e de Minas Gerais, desde o início de 2011, na década anterior lecionara e palestrara múltiplas vezes sobre tais matérias. Sendo igualmente esse um dos focos principais de minha ação enquanto Diretor para as Relações Internacionais do Instituto Brasileiro de Direito da Informática, entre 2013 e 2019. Em especial, nesse período, recordo a pesquisa, destinada a um seminário no Doutorado da Universidade de Salerno, desenvolvida com o apoio da Universidade Federal do Espírito Santo, sobre o impacto direto da Sentença Google Spain, proferida em maio de 2014 pelo Tribunal de Justiça da União Europeia, reconhecendo um “direito ao esquecimento”, ou à “desindexação”, na Jurisprudência brasileira.

E lá me voltei a “perder” em memórias laterais, o que serão “coisas da idade”, na ausência de “reparos” por parte da entrevistadora. Voltando a prometer uma resposta mais concisa, com intenção sincera de cumprir, considero que a LGPD foi a lei possível no momento. O que mantenho, e até reforço, depois de publicar vários artigos comparando a Lei brasileira com o Regulamento europeu, também em coautoria com Colegas brasileiros. E foi a possível, repito, por ser um primeiro passo com impacto transversal, descontando os mencionados antecedentes parcelares do CDC e do Marco Civil, enquanto outros Ordenamentos, como o português, já iam na “terceira geração” de leis sobre Proteção de Dados. Em qualquer caso, e isso é uma particularidade brasileira relativamente ao “modelo europeu”, as competências regulamentares da ANPD, ainda que de legitimidade constitucional discutível, têm permitido ir ajustando o marco regulatório aos novos desafios. Aliás, desde uma perspectiva contrafactual, se a LGPD tivesse exigido um nível de proteção análogo ao do Regulamento da União Europeia, provavelmente, nem teria pegado, ficando apenas “para inglês ver”, para usar uma expressão antiga.

Você é o crítico que fica do lado de dentro. Desde março de 2019 é o Encarregado de Proteção de Dados do próprio Instituto Politécnico de Beja, onde leciona desde 1999 e fiscaliza como a casa trata os dados de alunos e colegas. Sentar à mesa de quem vigia, e de quem você fiscaliza, é desconfortável. O que se muda de dentro que não se mudaria de fora?

Sendo sincero, nunca tive uma particular apetência pelo Direito aplicado na prática. Aliás, recordando uma metáfora jocosa de Rudolf von Ihering, numa das suas últimas obras, tenho me dedicado a, humilde e artesanalmente, “afiar navalhas de barba”, das antigas e perigosas, e não propriamente a “barbear”. Pelo que só aceitei o convite, aliás reiterado, da Presidência do Politécnico para assumir essas funções depois de ter lecionado, precisamente, a matéria relativa ao EPD/DPO num Curso de Pós-Graduação sobre Proteção de Dados da Faculdade de Direito da Universidade de Lisboa. Por outro lado, se se tratasse de uma organização de outra natureza, nem teria considerado a possibilidade, porque o meu interesse maior tem a ver com efetividade das garantias dos direitos das pessoas titulares dos dados nos tratamentos para fins de investigação científica, em especial no que se refere a dados sensíveis. No entanto, tenho de reconhecer que a necessidade de responder a pedidos de parecer ou de aconselhamento, assim como propor retificações de procedimentos na sequência de verificações de conformidade, tem me obrigado a aprofundar o estudo. Ao mesmo tempo, a circunstância de lecionar a matéria desde há 30 anos, permite-me enquadrar os problemas de uma maneira mais estruturada sistemicamente. Isto, sem esquecer que a “libertas docendi” autoriza-me a exercer estas funções sem constrangimentos, o que é fundamental, pois, embora deva lealdade à Instituição e procure sempre vias para minimizar as responsabilidades que sobre esta podem recair, o meu dever primário é para com os titulares dos dados, isto é, para com os demais Professores, os outros funcionários, os alunos e todas as pessoas que com ela se relacionam. Concluindo, numa situação como a minha, estaremos perante um círculo virtuoso entre o ensino, incluindo a pesquisa, e o exercício destas funções.

Em 2024 você escreveu que “o risco mais sério estará na coisificação do ser humano, com decisões definitivas afetando os Direitos Fundamentais a serem tomadas por máquinas, pondo em causa a Dignidade Humana”. A garantia que a lei europeia oferece contra isso é a revisão humana, tema do seu texto de 2025 sobre o acórdão Ligue des droits humains. Só que, na prática, o revisor quase sempre confirma o que a máquina já decidiu, diante de um score de crédito ou de um filtro de currículos. O que precisa existir para essa revisão ser de verdade, e não um carimbo que devolve à máquina a palavra final?

A necessidade de uma revisão humana efetiva dos tratamentos automatizados de dados pessoais está presente no Direito da União Europeia desde a Diretiva de 1995, tendo sido reiterado em 2016 pelo RGPD e pelas duas Diretivas sobre tratamentos de dados pessoais para fins de segurança pública e combate ao crime. O que faltará à LGPD brasileira, embora eu já tenha defendido que uma interpretação conforme à Constituição redunde em uma solução análoga à europeia. Quanto ao Acórdão que menciona, o qual é de 2022 e tem por referência a Diretiva PNR, que disciplina a matéria correspondente aos registros dos nomes dos passageiros de transportes aéreos e, segundo o Tribunal de Justiça da União Europeia, afasta a licitude de tratamento de dados através de “caixas pretas”, ao tempo resultantes de algoritmos articulados com o “aprendizado de máquina”. E, ainda a este propósito, desde há anos, tenho acompanhado as questões jurídicas resultantes do tratamento de dados PNR, também pelas companhias de transportes aéreos, por estas estarem na confluência com uma outra matéria que em especial me interessou, o Direito do Turismo.

Mas, como será evidente para quem ler esta entrevista, estive tentando ganhar tempo enquanto pensava em como lhe responder, pois não é fácil fazê-lo, sobretudo em termos sintéticos. Mas, vamos lá! A meu ver, na realidade, tal como as correntes hermenêuticas têm revelado, as decisões judiciais, tal como as administrativas, não resultam de procedimentos lógicos simples e lineares. Antes, partem de pré-entendimentos. Aliás, desde há uns 20 anos, tenho afirmado a utilidade potencial de usar “caixas pretas” computacionais para resolver “hard cases”, aqueles que apenas estariam ao alcance do “Juiz Hércules” de Ronald Dworkin. Depois, aceitando a solução enunciada como boa, o decisor humano construiria uma fundamentação consistente com as Fontes aplicáveis. Como já ocorre, porque nossos cérebros também são “caixas pretas”, até muito mais complexas que as maquínicas, pelo menos de momento. Neste sentido, sempre a meu ver, o essencial, embora sendo muito mais fácil de enunciar que de concretizar, passa por garantir a aquisição e a preservação de conhecimentos jurídicos críticos, além da integridade, por parte dos decisores, facultando ainda um nível exigente de literacia quanto às potencialidades e limitações dos sistemas de IA. De modo a que os decisores estejam habilitados a avaliar tanto a decisão proposta quanto a congruência das fundamentações. Por outras palavras, não é diferente das situações em que o responsável pela decisão contou com um assessor que a estudou e preparou, incluindo as reservas inerentes ao nível de confiança técnica.

Você já comentou que, ao resto do mundo, nem sequer chega a versão mais limitada dos grandes modelos — a propósito do episódio da suspensão do Fable 5 pela Anthropic. E, numa palestra em Angola, foi além da queixa: descreveu um mundo em que só os Estados Unidos e a China têm escala, com a Europa a caminho de virar continente de serviço e turismo e a África reduzida a fornecedora de matéria-prima. Propôs então uma saída que não é de cada país por si, uma estratégia conjunta de Europa, África e América do Sul, para esses povos não deixarem de ser atores da própria história. Para o Brasil, o que muda entrar numa aliança dessas em vez de negociar sozinho com quem detém a tecnologia?

De novo a meu ver, é uma questão de escala tecnológica e financeira. A União Europeia, sobretudo se tivesse Políticas Públicas claras e consistentes, assim como um mercado único financeiro, que não tem 70 anos depois do Tratado de Roma, até poderia atingir esse patamar. Mas, continuamos com os interesses dos Estados-Membros constituindo obstáculos a essa integração, além de o Orçamento da União não atingir 1% do Produto Interno Bruto agregado dos 27. Por maioria de razão assim será para o Brasil e, mais ainda, para os países do Sul com menores dimensões. Adicionalmente, bem sei que a minha sugestão é difícil e tem obstáculos, sobretudo ligados ao passado colonial, incluindo a exploração neocolonial dos recursos naturais e das pessoas por empresas europeias. Ainda assim, poderão ser encontradas vias de cooperação impostas pela necessidade de prevenir males maiores, como a dependência dos EUA ou, mais ainda, da China. E poderão mesmo ser vias limitadas geográfica e culturalmente, inclusive pontuais. Por exemplo, tenho dificuldade em entender as razões de o Brasil e Portugal estarem desenvolvendo separadamente grandes modelos de linguagem em língua portuguesa, quando o poderiam fazer conjuntamente e com abertura aos demais países e territórios da lusofonia, assumindo uma diversidade enriquecedora.

Nessa mesma palestra, você comentou um estudo do MIT em que a turma que resolveu o problema com inteligência artificial chegou rápido à resposta e, uma semana depois, não lembrava de nada, enquanto a que penou sem a máquina aprendeu de verdade. Você ligou isso ao Gênesis, à ideia de que criar conhecimento, como dar à luz, dói, e que fugir dessa dor não leva a lugar nenhum. A IA serve à eficiência, e você lembrou que nem tudo na vida é para ser eficiente. Você forma juristas. Há real temor de que uma geração criada com a resposta sempre pronta nunca chegue a aprender?

Antes de mais, creio que devemos ler o Génesis como um Mito de acesso ao Conhecimento, com todos os custos inerentes à perda da inocência. Pelo que, quando Eva é “condenada” a gestar e parir na dor, estaremos perante uma metáfora tendo por referência a criação de novos conhecimentos, o momento em que os criados procuram emular o Criador. Mas, descendo à realidade atual, neste momento, eu contribuo basicamente para a formação sobretudo de Juristas e de Informáticos, o que me permite uma visão mais ampla. Entrando na sua questão, desde essa intervenção já me esforcei por comprovar empiricamente esses estudos, que até se têm multiplicado. Sintetizando mesmo muito, ao longo das minhas mais de três décadas de docência no Ensino Superior, fui confirmando que grande parte dos alunos, inclusivamente de mestrado ou de doutoramento, acima de tudo, procuram a certificação resultante num diploma, com a aprendizagem a ser uma penosidade a ser o mais possível aliviada. Ora, se assim já era desde sempre, a Inteligência Artificial Generativa veio permitir a produção de conteúdos, com uma consistência cada vez mais próxima dos que antes faria um bom aluno, sem outros custos para além dos resultantes da consciência da desonestidade intelectual, pelo menos enquanto a cobrança de tokens caros não é universalizada. E, ademais, com os riscos morais a serem banalizados por força da generalização, isto é, se todos fazem não haverá censura por parte dos colegas.

Ora, progressivamente, com especial incidência nos dois últimos semestres letivos, introduzi métodos de avaliação que assumiam a resolução de problemas com recurso explícito a sistemas de IA, tendo por referência as “Recomendações sobre a Utilização de Ferramentas de Inteligência Artificial no Instituto Politécnico de Beja” e também a formação pedagógica facultada aos Professores. Assim, articulei essas avaliações com testes escritos em papel ou com debates orais sobre o produzido com sistemas de IA. Porém os resultados mostraram que a possibilidade aberta não conduziu a um aprofundamento da aprendizagem, através da interação com os sistemas, tendendo os “prompts” a serem genéricos e sem uma continuidade demonstrativa de um conhecimento crítico prévio.

Em suma, o risco maior pode nem estar na formação de pessoas que dependam de respostas prontas a perguntas suas, não estando aptos a duvidarem delas, mas sim em nem perguntarem, tomando o que lhes é dado por quem controla esses sistemas, sobretudo as grandes empresas de tecnologia, como “a realidade”.

E que ninguém pense que tenho alguma tecnofobia. Além de ter a minha docência centrada em recursos digitais desde antes da virada do século, o que me levou a ser convidado para entrar para a Rede Temática Europeia LEFIS – Legal Framework for the Information Society, incluindo o Projeto de construção de um “Campus virtual compartilhado”, e, na decorrência deste, uma das coisas que mais me orgulham na minha vida profissional é o ter estado na base da proposta, assim como assumido a Coordenação inicial, da que terá sido a primeira Graduação jurídica a distância em língua portuguesa, a qual, ultrapassadas muitas vicissitudes, persiste e prospera desde 2010.

Você avalia gente e ideias o tempo todo: conselhos editoriais, pareceres, bancas. Em 2024 presidiu, na Scuola Superiore Sant’Anna, em Pisa, a seleção de um pesquisador; e, fora da universidade, há quase trinta anos preside o Conselho de Justiça de uma associação de patinagem no Alentejo. Da banca em Pisa ao Conselho no Alentejo, é sempre uma decisão feita por gente e recorrível por gente — quase uma miniatura do mundo que você defende nos artigos. Quando o julgamento é seu, o que há nele que a máquina não alcança?

Porventura poderei escandalizar alguns leitores, mas me esforço muito por alcançar a Justiça, perdendo noites de sono por isso. Para mim, as regras escritas têm sido critérios de decisão a serem objeto de fundamentações argumentativas o mais sólidas que consigo, com o duplo objetivo de os destinatários entenderem as razões e de resistirem ao escrutínio de terceiros. Em suma, de máquina haverá muito pouco, salvo se por “máquina” entendermos o Direito enquanto tecnologia de prevenção e resolução dos conflitos entre as pessoas e as suas organizações. Mais ainda, considero abominável a avaliação de alunos por máquinas, salvo se em termos automatizados totalmente causais, com os professores a serem sempre responsáveis pelas perguntas.

Sobretudo para afastar mal-entendidos, acrescento que as minhas funções na Associação de Patinagem, que inclui algumas dezenas de clubes do Sul de Portugal, em quase 30 anos, têm consistido sobretudo no apoio jurídico, em matérias tecnicamente mais complexas, às sucessivas Direções / Diretorias. Provavelmente por não se tratar de um desporto que movimente grandes interesses económicos, os recursos que chegam ao Conselho de Justiça relativamente a decisões do Conselho de Disciplina ou da Direção têm sido muito poucos. E todos estamos felizes que assim seja.

No seu perfil do Facebook há um lema em latim: quod non est in tela non est in mundo — o que não está na rede não está no mundo. Dito por quem passou a vida protegendo as pessoas do que a rede faz com elas, soa irônico. Ou nem tanto. Esta conversa, afinal, acontece do outro lado da tela. Onde termina o estar no mundo pela rede e começa o ser reduzido ao que a rede diz sobre nós?

É sobretudo uma afirmação destinada a provocar quem vai até ao meu perfil do Facebook, declarando a fusão entre a realidade física e a digital. Quanto aos subtextos, antes de mais, como será evidente, pelo menos para todos os que têm formação jurídica, parafraseei o brocardo “quod non est in actis non est in mundo” ou, mais próximo dos meus interesses, “quod non est in titulo non est in mundo”. Mas, adicionalmente, é também uma confissão, a de eu não pretender ter uma “persona” digital diferente do que sou fora da Rede, mal tolerando que os outros assim não o sejam.

O outro lado do jurista

Fora dos pareceres e das bancas, Masseno aponta a câmara ao que floresce no Alentejo e publica no Instagram. É o contraponto sereno de quem passou a vida a discutir o que as máquinas fazem conosco.