Ela não é tão inteligente assim

José Renato Nalini é desembargador aposentado do TJSP, formado na PUC-Campinas, com passagem pelo Ministério Público. Presidiu a Academia Paulista de Letras e assina, há décadas, uma obra sobre ética. Troca de cadeira e de assunto sem perder o gosto por tecnologia que poucos da sua geração acompanharam.

Falou de uma ética que, na imagem dele, já foi a óbito; dos limites da inteligência artificial; e das duas vezes em que a máquina lhe mentiu, antes de concluir, aliviado: “Ela não é tão inteligente assim…”

Em 2015, na sua gestão como presidente do TJSP, regulamentou-se o teletrabalho dos servidores, uma ideia que parte da magistratura via como utopia, e que só virou consenso quando a pandemia obrigou, cinco anos depois. O que o leva a apostar em mudanças antes que a própria instituição as peça?

Sempre fui inquieto. Nunca me satisfiz com o “agora”. Assim que me vi envolvido com a virtualidade, com a digitalização, a eletrônica e a internet, procurei antever o que isso significaria para a Justiça. Pela qualidade de seus integrantes, ela poderia fazer muito mais e melhor para a harmonização social. Também já estava muito preocupado com as mudanças climáticas. O ambiente agradeceria o homework. Depois, fui assessor do Desembargador Dínio de Santis Garcia, o primeiro jurista a se preocupar com a informática. Tudo isso conduziu, muito naturalmente, à aposta.

Ainda no TJSP, a digitalização levada adiante na sua gestão transformou tudo o que a corte produz, décadas de decisões e acórdãos, num acervo imenso e pesquisável. Hoje é a IA que percorre esse acervo por nós: ela escolhe qual precedente aparece na busca e qual fica de fora. Para quem sempre pôs a ética antes da técnica no Direito, que cuidado uma corte precisa ter ao entregar à máquina a tarefa de lembrar, e de esquecer, a própria jurisprudência?

É um desafio controlar a IA, que é vista sob um enfoque distópico. Há os ufanistas e os catastrofistas. Eu tenho um discreto otimismo. Penso que precisamos de prudência e ela já está surgindo, depois de um uso abusivo da IA, já detectado no STJ e no TJSP. Afinal, ela é ferramenta a serviço da humanidade. Pode fazer melhor muita atividade que ainda fazemos. Com isso, ganhamos tempo, o insumo insuscetível de ser ampliado, estendido, comprado, emprestado ou de qualquer forma, ser objeto de transigência. A ética, a ciência do comportamento moral do ser humano em sociedade, já deixou a fase do declínio. Ela se tornou enferma, encaminhada para a UTI, agonizou e foi a óbito. Por isso a cautela no uso da IA, cujo princípio único é a eficiência. Se ela perceber que os humanos podem gerar ineficiência, ela optará por suprimi-los, sem qualquer hesitação.

Como secretário da Educação, esteve à frente da maior rede pública de ensino do país e nunca deixou de dar aula. Agora que se cobra da escola que “capacite os alunos para a IA”, o que significa para um educador capacitar uma geração para esta tecnologia que tanto pode formar a mente, quanto poupá-la do esforço de pensar?

É algo instigante. Desconfiei, desde cedo, que a nossa educação claudicava. Ela priorizou sempre a memorização, sem perceber que a informação, os dados, de repente se tornaram acessíveis e disponíveis a quem disponha de qualquer equipamento eletrônico. A informação obtida no mundo web é atualíssima, colorida, musical e muito mais sedutora do que as aulas prelecionais do ensino convencional. Sempre admirei Michel de Montaigne, que em seus “Essais”, já comentava estranhar a surpresa pela decepção dos educadores com o êxito de pouquíssimos alunos. Submetendo dezenas deles a ouvir a mesma preleção, quando cada educando é irrepetível, singular, heterogêneo, o natural é que a maioria não “dê certo”. Isso acontece até hoje. O ensino fundamental e o Médio negligenciam as competências socioemocionais. É muito mais importante ser sensível, ter capacidade de comunicação, condoer-se com a sorte do semelhante, adaptar-se ao inesperado, do que decorar informações nem sempre utilizáveis na vida rotineira. Hoje, com a IA, o professor deve ser um indutor da curiosidade de seus alunos, fazê-los ousar no uso das tecnologias, incentivá-los a criar startups que resolvam a infinidade de problemas ainda considerados insolúveis. Quem não amar a profissão não conseguirá enfrentar o repto. Mas os vocacionados formarão gerações aptas a superar a obsolescência programada, o cataclismo ambiental e as neuroses e ansiedades de nossos dias.

Passando para a Secretaria de Mudanças Climáticas, São Paulo está pronta para os eventos extremos que os ciclos de El Niño já anunciam? Onde a tecnologia ajudaria de fato a preparar a cidade para as prováveis ondas de calor, chuvas concentradas, enchentes, e onde a promessa de eficiência encontra o seu limite?

A SECLIMA é uma experiência instigante. Sua atribuição é inserir a variante climática em todas as decisões da maior cidade do Brasil e uma das maiores do planeta. Ela foi criada em 2021, antecedida pela elaboração do Plano de Ação Climática – PlanClima, que está em plena execução. O monitoramento contínuo mostra que 86% dele se encontra em curso. A irracionalidade na ocupação do solo paulistano levou a megalópole a ser uma fonte inesgotável de questões graves. Hoje, a prioridade é a água para beber, cozinhar e se higienizar, que está prestes a sofrer um colapso. A única represa abastecida com nascentes locais, a Guarapiranga, é alvo de ocupação irregular, clandestina e criminosa, que despeja esgoto in natura no reservatório que já perdeu cinco metros de profundidade e cujo líquido está contaminado. Além disso, temos as ondas de calor, pois a cada ano é mais quente do que o anterior. Uma cidade construída para o automóvel, toda pavimentada, é vítima de enchentes, inundações, deslizamentos, desmoronamentos e, infelizmente, mortes. Todas as Secretarias Municipais estão envolvidas no cumprimento do PlanClima, que hoje também conta com um Orçamento Climático e o monitoramento do Tribunal de Contas do Município. Mas a melhor contribuição deveria provir da população, da sociedade civil, que pode fazer muito para adaptar a cidade e permitir que os fenômenos extremos, que virão e cada vez com intensidade maior, não causem mais mortes.

No seu artigo “IA: o que pode, o que não pode” são listados usos inaceitáveis para a ferramenta, como a classificação biométrica por raça ou religião e o reconhecimento de emoções no trabalho. Num país tão desigual quanto o Brasil, quais riscos serão agravados e quais os mais preocupantes?

A esperteza e a crueldade humana são ilimitadas. Além da classificação biométrica por raça ou religião, o reconhecimento de emoções no trabalho, há muitos outros usos nocivos da IA. Ela pode impedir que alguém contrate um seguro, por avaliar a potencialidade de contrair comorbidades, a partir dos remédios que toma, dos exames laboratoriais que faz, das consultas a médicos. Ela já suscita emoções ambíguas nos seres isolados que se apaixonam pela máquina e chegam a praticar suicídio, como já ocorreu nos Estados Unidos. Ela facilita a prática de crimes cibernéticos. Ela semeia a ilusão, ela dissemina meias verdades, que são até piores do que as mentiras inteiras. Por isso é que a juventude precisa ser alertada para buscar a certeza possível, para criticar, discutir, opinar, não responder sempre “com certeza”, porque nossa era é a era das incertezas. Quanto mais capacitada a população, menos será manipulada pelos que ganham com a IA, monetizando todos os seus passos.

Há quem veja na IA “a última invenção humana”. E, no entanto, legislamos sobre ela com instrumentos obsoletos, pensados para conflitos de outros tempos. Foi sua a observação de que é engano crer que basta redigir a regra para domar o que ela descreve. Entre o medo que paralisa e o otimismo ingênuo, há um caminho viável?

Sim. Somos tardinheiros na regulação e, com isso, perdemos todas as oportunidades abertas pela competição selvagem que é o capitalismo global. Demoramos para legislar sobre crédito de carbono, quando, décadas atrás, já se falava dele e das oportunidades que reservava para o Brasil. Também estamos pensando muito lentamente em IA, com projeto de 2023, e as modificações surgirem a cada instante, ininterruptamente. A chave para a solução de todos os problemas brasileiros é a educação. Não necessariamente a escola formal, porém uma educação continuada, permanente, exercida em casa, no trabalho, na Igreja, no clube, na rua. Outros países superaram problemas muito mais graves mediante educação de qualidade. O caminho viável é a educação como projeto humanitário, mais do que de Estado ou de Governo. E com a participação de todos. Ninguém é igual a outrem, nem gêmeo univitelino. Então, é observar os traços distintivos e oferecer rotas produzidas para cada educando, sem a inútil homogeneização, que se tem mostrado estéril e dispendiosa.

Juiz, presidente de tribunal, secretário de educação e agora de clima; em cada cadeira, a sua marca foi a mesma: adotar a tecnologia antes da maioria. Depois de uma carreira tão profícua, o que aprendeu sobre se manter atualizado sem ser engolido pela primeira novidade que aparece?

Sua indagação é muito generosa. Eu sou um aprendiz. A cada dia aprendo uma coisa nova. Em todos os espaços que me foram dados ocupar, fui um atento observador e procurei extrair lições. É o que me anima a continuar, a despeito da idade provecta: tenho 80 anos. Erro muito, mas não tenho o monopólio da verdade. Sei voltar atrás e reconhecer o erro. E procurar acertar em seguida.

Pra fechar, como a IA entra na sua rotina? O que mais o surpreende nesse uso, para o bem ou para o mal?

Sou um jejuno e uso a IA para completar informações quando escrevo e me esqueço de uma data, de um dado singular. Tenho muito interesse em me servir dela para outras tarefas. Mas não me iludo. Já comprovei que ela “mente” ou tem “alucinações”. Ao escrever um artigo em homenagem ao meu confrade e amigo Miguel Reale, perguntei à IA se havia algo na vida dele que eu desconhecesse. E ela disse que ele havia criado a teoria tridimensional do direito. Não foi ele, foi seu pai, o também notável jurisconsulto Miguel Reale. Outro dia, ao preparar a arguição de uma tese de Doutorado, vi que o doutorando gostava muito de algumas expressões de que se servia à vontade. Duas delas: “toada” e “diapasão”. Perguntei à IA quantas vezes ele havia usado tais verbetes e ela respondeu: “Ele não usou toada ou diapasão na sua tese”. Mentira! Usou sim. Isso me deixa mais tranquilo. Ela não é tão inteligente assim…