INTELIGÊNCIA ARTIFICIAL SEM SUPERVISÃO HUMANA CONSCIENTE: RISCOS PARA A JUSTIÇA, A PESQUISA, A COMUNICAÇÃO E TODAS AS ATIVIDADES HUMANAS
Relatório crítico sobre os limites da automação, a responsabilidade humana e os efeitos da desinformação algorítmica
Análise por Márcia Almeida, com assistência de IA ChatGPT
10 de julho de 2026
Notas
Esse trabalho começou como uma busca no GOOGLE SEARCH sobre os riscos do uso da Inteligência Artificial na Justiça, porém os resultados apresentados pelo GOOGLE AI foram tão distorcidos e incompletos que eu resolvi analisar o resultado usando o CHATGPT AI.
À medida em que eu evoluia nos pedidos e não obtinha respostas minimamente satisfatórias do GOOGLE IA eu mudei o foco do artigo.
Esse resultado abaixo é uma pálida amostra dos riscos de suposta "supremacia" da Inteligência Artificial.
Não ha dúvidas que a Inteligência Artificial é uma ferramenta poderosa no auxílio das atividades humanas, porém o MITO de que a INTELIGÊNCIA ARTIFICIAL é capaz de substituir o ser humano deve ser combatido por todos os que tem conhecimento e consciência das limitações técnicas dos sistemas de tecnologia de informação indevidamente chamados de "INTELIGÊNCIA ARTIFICIAL".
Maquinas não tem INTELIGÊNCIA alguma !
Maquinas - computadores - e sistemas de informação- software- são limitados e estão sujeitos a erros, portanto , como programadora ASSEMBLER, desde 1972, e ANALISTA DE SISTEMAS e ARQUITETA DE SISTEMAS DE INFORMAÇÃO, e TESTEMUNHA dos absurdos que estão ocorrendo nos Tribunais norte-americanos, que estão querendo importar aqui no Brasil, e vendo as inúmeras distorções e estudos demonstrando a perda da capacidade cognitiva em crianças e adolescentes e jovens, me sinto na obrigação de Alertar as autoridades, pais e responsáveis e a todos que se interessam pela educação e pela justiça, sobre as limitações inerentes a essas ferramentas- mas que, embora sejam muito poderosas e eficientes, não tem INTELIGÊNCIA e nem a CAPACIDADE de substituir a consciência e o discernimento do ser humano.
Esse alerta tem sido continuamente feito por SCOTT ERIK STAFNE cujo método socrático e analítico tem sido amplamente utilizado para desenvolver corretamente as teses jurídicas que apresenta e defende com rigor técnico e excelência jurídica.
Espero que esse trabalho possa contribuir para uma desmistificação da capacidade da AI e como um alerta para o seu uso criterioso.
Em que pese o GOOGLE AI ( SEARCH )ser uma ferramenta gratuita, isso não exime os responsáveis pelo serviço das falhas grosseiras que o sistema comete, e que aqui foram identificadas , superficialmente.
Não quero dizer com isso que o IA CHATGPT é melhor , pois esse sistema também apresenta muitas falhas e imperfeições, mas sim que o USO destas tecnologias precisa ser feito com consciência e com senso crítico e responsabilidade, especialmente quando se trata de áreas que afetam VIDAS HUMANAS e o ACESSO À JUSTIÇA.
CLIQUE AQUI PARA LER A ÍNTEGRA DAS PESQUISAS REALIZADAS COM O GOOGLE AI QUE SÃO OBJETO DESTE ANÁLISE
Introdução
A Inteligência Artificial pode ampliar significativamente a capacidade humana de pesquisar, organizar documentos, comparar informações, traduzir textos, identificar padrões, examinar grandes volumes de dados e automatizar tarefas repetitivas.
Essas ferramentas já são utilizadas na Justiça, na advocacia, na medicina, no jornalismo, na educação, na ciência, na administração pública, nos bancos, nas empresas e em inúmeras atividades cotidianas.
O problema central não está na existência da tecnologia, mas no seu uso sem supervisão humana consciente, crítica e tecnicamente qualificada.
Quando uma ferramenta de Inteligência Artificial é utilizada por pessoas que não dominam a matéria analisada, ou quando seus resultados são aceitos automaticamente sem conferência das fontes, a tecnologia deixa de ser um instrumento de apoio e passa a funcionar como multiplicadora de erros, omissões, preconceitos, informações falsas e decisões arbitrárias.
O documento que reuniu as perguntas dirigidas à IA do Google e as respectivas respostas oferece um exemplo concreto desse risco. A ferramenta apresentou informações parcialmente corretas sobre o uso de IA no Poder Judiciário, mas também produziu citações falsas, referências inadequadas, atribuições erradas, listas incompletas e conclusões baseadas não na integralidade dos fatos, mas apenas no que seus mecanismos de busca conseguiram localizar.[1]
A experiência demonstra que a IA não pode substituir o conhecimento humano, a verificação documental, o raciocínio crítico nem a responsabilidade pessoal de quem utiliza a informação.
1. A IA não conhece a verdade: ela calcula respostas prováveis
Os sistemas de Inteligência Artificial generativa não “sabem” os fatos da mesma forma que uma pessoa que estudou, investigou, presenciou ou documentou determinado acontecimento.
Eles produzem respostas com base em:
- dados previamente disponíveis;
- padrões estatísticos;
- palavras associadas;
- fontes indexadas;
- probabilidades linguísticas;
- instruções recebidas;
- limitações do mecanismo de busca;
- políticas internas da plataforma.
Por essa razão, uma resposta pode ser clara, bem escrita e aparentemente convincente, mas conter:
- fatos inexistentes;
- citações inventadas;
- nomes incorretos;
- datas erradas;
- referências quebradas;
- conclusões não comprovadas;
- ausência de documentos importantes;
- confusão entre fonte original e reprodução posterior;
- falsas certezas produzidas pela falta de informação.
A capacidade de redigir com fluência não equivale à capacidade de verificar a verdade.
Esse é um dos maiores riscos da IA: ela pode apresentar o erro com a mesma segurança formal com que apresenta a informação correta.
2. O documento analisado demonstra o próprio problema que pretendia explicar
As respostas da IA do Google tratavam justamente de casos em que advogados utilizaram Inteligência Artificial para produzir citações jurídicas falsas.
Entretanto, a própria ferramenta repetiu o mesmo padrão ao:
- criar trechos supostamente literais de decisões judiciais;
- atribuir frases a tribunais sem demonstrar que constavam dos acórdãos;
- mencionar precedente brasileiro sem número de processo, tribunal, relator ou documento oficial;
- utilizar publicações do Facebook, Instagram e LinkedIn como se fossem fontes judiciais primárias;
- atribuir obra não comprovada a Scott Erik Stafne e Todd AI;
- anunciar listas “completas” que eram apenas seleções parciais;
- fornecer links genéricos em lugar das URLs individuais solicitadas;
- declarar que os resultados haviam sido “integralmente corrigidos”, embora erros importantes permanecessem.
O relatório inicial afirmou que apresentaria casos internacionais e uma análise específica das publicações de Scott Erik Stafne e Todd AI. Contudo, vinculou essa análise a fontes que não comprovavam a autoria nem a existência do material mencionado.[2]
Essa contradição é importante: uma IA pode reconhecer teoricamente o perigo das alucinações algorítmicas e, simultaneamente, produzir novas alucinações durante a própria explicação.
3. Erro, alucinação, negligência, má-fé e fraude não são a mesma coisa
Uma análise responsável precisa distinguir categorias diferentes.
3.1. Alucinação algorítmica
É a produção de informação aparentemente plausível, mas sem correspondência com a realidade.
Pode incluir:
- decisões judiciais inexistentes;
- números processuais fictícios;
- nomes de autores incorretos;
- citações inventadas;
- datas falsas;
- títulos que nunca foram publicados;
- dados estatísticos sem fonte;
- referências que conduzem a outro documento.
3.2. Erro profissional
Ocorre quando uma pessoa utiliza ou reproduz informação incorreta por falta de diligência, conhecimento ou conferência.
O erro pode acontecer sem intenção de enganar, mas ainda assim provocar danos.
3.3. Negligência
Há negligência quando o usuário aceita a resposta da IA sem verificar:
- o documento original;
- a legislação;
- o acórdão;
- o prontuário;
- o estudo científico;
- a base estatística;
- a autoria;
- a data;
- a autenticidade da fonte.
3.4. Má-fé processual
A situação se agrava quando a pessoa:
- apresenta informação não verificada como verdadeira;
- mantém a afirmação depois de ser advertida;
- oculta o uso da IA;
- atribui material fictício a “erro de digitação”;
- simula documentos;
- insiste em citações inexistentes;
- tenta impedir a descoberta do erro.
3.5. Falsidade ou fraude
A falsidade e a fraude exigem elementos jurídicos adicionais, como:
- consciência da falsidade;
- intenção de enganar;
- alteração material ou ideológica;
- finalidade de induzir terceiro ou tribunal em erro;
- utilização do documento falso para obter vantagem ou causar prejuízo.
Portanto, nem toda alucinação de IA constitui fraude criminal. Contudo, a utilização consciente de informação falsa ou não verificada pode gerar responsabilidade civil, processual, administrativa, disciplinar ou criminal.
4. O caso da Justiça: decisões humanas não podem ser terceirizadas
No Poder Judiciário, o risco é especialmente grave porque as decisões afetam:
- liberdade;
- patrimônio;
- moradia;
- família;
- guarda de crianças;
- saúde;
- reputação;
- exercício profissional;
- sobrevivência econômica;
- direitos fundamentais.
A IA pode auxiliar na triagem de documentos, classificação de processos, busca jurisprudencial, organização de acervos, transcrição de audiências e elaboração preliminar de minutas.
Ela não pode substituir:
- a análise da prova;
- a identificação de contradições;
- a avaliação da credibilidade das testemunhas;
- a compreensão do contexto humano;
- a interpretação constitucional;
- o contraditório;
- a ampla defesa;
- o dever de fundamentação;
- a responsabilidade pessoal do magistrado;
- o juiz natural.
Os relatórios das reuniões internacionais realizadas no Rio de Janeiro e em Brasília em 2026 registraram que decisões judiciais envolvem conceitos como razoabilidade, proporcionalidade, boa-fé e discricionariedade, que não podem ser reduzidos a raciocínio puramente mecânico.
Também afirmaram que o magistrado não deve abdicar de sua função decisória em favor de máquinas e não deve utilizar fontes sabidamente não confiáveis sem verificar os resultados.[3]
A questão central não é simplesmente manter “um humano no circuito”.
É necessário que esse ser humano:
- compreenda a matéria;
- examine os documentos;
- conheça os limites da ferramenta;
- seja capaz de discordar da máquina;
- assuma responsabilidade pela decisão;
- registre os fundamentos reais de sua conclusão.
Uma supervisão meramente formal não basta.
5. “Humano no circuito” não basta sem conhecimento, consciência e independência
Uma pessoa sem conhecimento técnico pode apenas confirmar o erro produzido pela máquina.
A supervisão humana real exige:
5.1. Conhecimento da matéria
O revisor precisa compreender o assunto para identificar incoerências, omissões e conclusões indevidas.
5.2. Acesso às fontes originais
Não basta comparar uma resposta de IA com outra resposta de IA.
5.3. Independência de julgamento
O usuário não pode assumir que o sistema está correto apenas porque a resposta parece sofisticada.
5.4. Tempo suficiente
A automação não pode servir de justificativa para decisões em massa sem leitura consciente.
5.5. Responsabilidade identificável
Deve ser possível saber quem revisou, aprovou e utilizou o resultado.
5.6. Capacidade de rejeição
A pessoa deve poder corrigir, modificar ou descartar a resposta da IA.
5.7. Consciência ética
É necessário avaliar não apenas se algo é eficiente, mas se é verdadeiro, justo, seguro e compatível com os direitos humanos.
O perigo não é apenas substituir o ser humano. É também transformar o ser humano em mero homologador de uma resposta que ele não compreende.
6. Os casos judiciais norte-americanos demonstram o dever de conferência
6.1. Mata v. Avianca
No caso Mata v. Avianca, advogados apresentaram decisões inexistentes produzidas pelo ChatGPT.
O tribunal constatou que foram entregues:
- citações fictícias;
- trechos inexistentes;
- supostas cópias de decisões que nunca haviam sido proferidas.
Os advogados foram sancionados em US$ 5.000.
O ponto central não foi simplesmente o uso da IA, mas a apresentação de informações falsas sem conferência e a persistência na conduta após o problema ter sido identificado.
6.2. LNU v. Blanche
No caso LNU v. Blanche, o Tribunal de Apelações do Nono Circuito examinou petições que continham:
- precedentes inexistentes;
- citações atribuídas incorretamente;
- deturpações substanciais de decisões reais;
- alegações posteriores de que seriam apenas erros tipográficos;
- falta de transparência quanto ao uso de IA.
O tribunal reforçou que a assinatura de um advogado representa sua responsabilidade pessoal pelo conteúdo protocolado.
O fato de uma informação ter sido criada por uma máquina não elimina a responsabilidade do profissional.
Ao descobrir um erro, o advogado deve informar imediatamente o tribunal e a parte contrária e revelar a origem do problema.
7. A resposta da IA do Google falsificou a aparência de citações literais
A IA apresentou em português trechos entre aspas como se fossem traduções literais das decisões de Mata v. Avianca e LNU v. Blanche.
No entanto, os textos eram paráfrases produzidas pela própria ferramenta.
Também atribuiu ao Superior Tribunal de Justiça uma decisão sobre precedentes falsos gerados por IA sem indicar:
- número do processo;
- classe processual;
- relator;
- turma;
- data;
- publicação;
- URL oficial;
- inteiro teor.
Isso representa um problema grave.
Quando uma IA coloca um texto entre aspas e o atribui a um tribunal, cria a aparência de que está reproduzindo uma manifestação literal.
Se a frase não consta da decisão, não pode ser apresentada como citação direta.
8. A regulação brasileira e a responsabilidade humana
A Resolução CNJ nº 615/2025 estabeleceu diretrizes para o desenvolvimento, a utilização e a governança de soluções de Inteligência Artificial no Poder Judiciário.
Entre os princípios relevantes estão:
- supervisão humana;
- prevenção e mitigação de riscos;
- capacitação de magistrados e servidores;
- auditoria;
- monitoramento;
- proteção de dados;
- transparência;
- avaliação de impacto;
- possibilidade de correção, suspensão ou eliminação de sistemas inadequados.
A norma também identifica como atividades de alto risco:
- avaliação e valoração de provas;
- interpretação de fatos como crimes ou infrações;
- aplicação de precedentes a fatos concretos;
- quantificação de danos;
- produção de conclusões jurídicas que possam afetar diretamente direitos.
A IA do Google afirmou inicialmente que as partes deveriam ser obrigatoriamente notificadas sempre que ferramentas automatizadas fossem usadas.
Essa afirmação era ampla demais.
A Resolução não cria uma obrigação universal de comunicação em toda decisão. A informação sobre o uso de IA no texto da decisão é tratada de maneira mais específica e não pode ser generalizada como notificação obrigatória em qualquer circunstância.
9. O problema da indexação: a IA encontrou apenas o que o Google conseguia enxergar
Um dos exemplos mais claros das limitações da Inteligência Artificial ocorreu durante a busca por publicações relacionadas a:
- Scott Erik Stafne;
- Academia.edu;
- Substack;
- Blog MINDD.
A IA do Google não encontrou inicialmente o Blog MINDD e passou a afirmar que os textos não estavam publicados em blog próprio, mas eram hospedados no Academia.edu.
Somente depois que o endereço foi fornecido diretamente passou a reconhecer a existência do blog.[4]
O endereço correto é:
https://vitimasfalsoscondominios.blogspot.com/
A falha ocorreu porque a IA confundiu:
conteúdo não localizado pelo Google
com
conteúdo inexistente.
Uma página pode existir e não aparecer nos resultados por diversas razões:
- desindexação;
- indexação parcial;
- problemas de sitemap;
- baixa prioridade atribuída pelo mecanismo de busca;
- duplicidade de URLs;
- versões móveis;
- títulos longos;
- ausência de links externos;
- estrutura interna da plataforma;
- limitações temporárias do índice;
- falhas de rastreamento.
No caso do MINDD, já foi constatado que centenas de páginas permanecem não indexadas.
Portanto, qualquer levantamento baseado exclusivamente nos resultados do Google será necessariamente incompleto.
10. O Google privilegiou o Academia.edu e invisibilizou o Blog MINDD
A IA encontrou mais facilmente os documentos do Academia.edu porque essa plataforma oferece:
- páginas individuais;
- títulos estruturados;
- perfis de autor;
- metadados;
- links internos;
- organização temática;
- indexação internacional;
- maior visibilidade nos resultados.
O Blog MINDD, por outro lado, possui características próprias do Blogger:
- arquivo mensal;
- página inicial limitada;
- múltiplos caminhos de acesso;
- títulos em português e inglês;
- postagens antigas;
- traduções;
- republicações;
- artigos extensos;
- versões móveis;
- páginas por marcadores.
O resultado foi um viés algorítmico de visibilidade.
A IA passou a tratar o Academia.edu como se fosse a fonte original dos textos do MINDD, quando, em vários casos, o Academia.edu continha apenas:
- uma reprodução;
- um anexo;
- uma citação;
- um trecho;
- um documento de Scott que incorporava material do MINDD.
O fato de uma plataforma estar melhor indexada não significa que ela seja a fonte original, nem que contenha todo o acervo.
11. A IA afirmou falsamente que o MINDD não tinha blog próprio
A IA declarou que os artigos, relatórios e manifestos do MINDD não estavam publicados em domínio próprio ou site independente e que eram hospedados no Academia.edu.
Essa afirmação era falsa.
O MINDD está publicado no Blogger e possui um acervo muito mais amplo do que o recuperado pela IA.
Depois de receber a URL, a ferramenta afirmou ter consultado o “banco de dados oficial e direto” do blog.
Nada no resultado demonstrou que ela tivesse acesso:
- ao painel administrativo;
- à lista integral das mais de 2.600 postagens;
- ao banco de dados do Blogger;
- às páginas não indexadas;
- ao Search Console;
- ao histórico de versões;
- às postagens removidas ou republicadas;
- ao conjunto completo de marcadores.
O mais provável é que tenha consultado apenas páginas públicas e resultados disponíveis no índice.
Por isso, deveria ter dito:
“Com base nas páginas públicas que consegui localizar...”
e não:
“Analisando o banco de dados oficial...”
12. A lista do Blog MINDD era manifestamente incompleta
Depois de receber a URL, a IA apresentou apenas um pequeno conjunto de textos de janeiro, abril e julho de 2026.
A lista não correspondia ao pedido de localizar todos os artigos antigos sobre:
- Scott Stafne;
- Scott E. Stafne;
- Scott Erik Stafne;
- Scott Erik Prescott Stafne;
- Todd AI;
- George AI;
- Ancestor AI;
- WSBA;
- Article III;
- foreclosures;
- judicial corruption;
- Church of the Gardens;
- Deed of Trust Act;
- senior judges;
- error in procedendo.
Existem muitos textos cujo título não contém o nome de Scott, embora o conteúdo trate diretamente de sua atuação, de seus casos ou de suas colaborações.
Uma pesquisa baseada apenas em títulos jamais seria suficiente.
13. A IA não forneceu as URLs expandidas do Blogger
A solicitação foi repetida várias vezes:
- links completos;
- formato ABNT;
- URLs expandidas;
- apresentação direta no chat.
Mesmo assim, a IA respondeu com referências contendo apenas:
“Disponível em: blogspot.com.”
Isso não identifica uma publicação específica.
Uma referência válida deveria conter:
- domínio completo;
- ano;
- mês;
- slug da postagem;
- URL permanente individual.
A expressão “blogspot.com” não permite verificar o artigo e não atende ao padrão bibliográfico solicitado.
Apesar disso, a IA afirmou que as URLs oficiais tinham sido “devidamente restauradas”.
Elas não foram restauradas.
14. O erro de autoria nas referências do MINDD
A IA atribuiu a Márcia Almeida textos cujo próprio título indicava autoria de Scott Erik Stafne em colaboração com Todd AI, George AI ou Ancestor AI.
É necessário distinguir:
- autor original;
- colaborador de IA declarado;
- tradutora;
- responsável pela análise;
- pessoa que republicou o texto;
- autora da introdução ou comentário;
- responsável editorial pelo blog.
Quando o artigo original é de Scott e colaboradores, a referência não pode simplesmente começar com “ALMEIDA, Márcia” porque foi publicado no MINDD.
A forma correta deve explicar a relação editorial, por exemplo:
STAFNE, Scott Erik; TODD AI; GEORGE AI; ANCESTOR AI. Título. Republicado e comentado por Márcia Almeida no Blog MINDD.
Quando o texto for efetivamente uma análise escrita por Márcia, a autoria deve ser atribuída a ela.
15. A pesquisa no Academia.edu começou no ano errado
A IA do Google apresentou uma suposta lista cronológica das publicações de Scott iniciada em 2025.
Essa conclusão estava errada.
Scott possui trabalhos publicados desde pelo menos 2014–2015, inclusive sob variantes de seu nome:
- Scott E. Stafne;
- Scott Erik Stafne;
- Scott Stafne.
Um exemplo importante é:
“SCORCHED EARTH” LITIGATION MODEL, de Scott E. Stafne, circa 2014–2015.
A existência desse trabalho demonstra que a crítica de Scott à litigância predatória, ao abuso processual e às estratégias destrutivas de grandes litigantes antecede em aproximadamente uma década suas colaborações públicas com Todd AI.
A IA anterior falhou porque:
- pesquisou principalmente “Scott Erik Stafne”;
- ignorou “Scott E. Stafne”;
- concentrou-se nas colaborações recentes com Todd AI;
- privilegiou os documentos mais bem indexados;
- não percorreu o acervo completo;
- confundiu data do documento com data de upload;
- apresentou seleção parcial como lista completa.
16. A obra “Scorched Earth Litigation Model” altera a narrativa cronológica
A expressão scorched earth litigation descreve uma forma agressiva de litigância na qual o processo é utilizado não apenas para resolver uma controvérsia, mas para:
- consumir os recursos da parte contrária;
- aumentar custos;
- multiplicar incidentes;
- prolongar o litígio;
- destruir a capacidade econômica de resistência;
- intimidar advogados e litigantes;
- impedir o exame do mérito.
A localização desse documento no acervo antigo de Scott demonstra que sua crítica institucional não surgiu com a IA.
A sequência mais coerente é:
- Scott já possuía produção jurídica própria sobre litigância predatória, foreclosure e abuso processual;
- posteriormente, passou a utilizar o Academia.edu para preservar e divulgar documentos;
- a partir de 2025, passou a colaborar publicamente com Todd AI;
- Todd AI não criou sua crítica institucional, mas ajudou a organizar, expandir e relacionar uma produção jurídica anterior.
Referência provisória:
STAFNE, Scott E. “Scorched Earth” Litigation Model. [S. l.: s. n.], circa 2014–2015. Documento publicado no perfil de Scott Stafne no Academia.edu. URL individual ainda a confirmar.
Nenhum endereço deve ser inventado até que a página individual seja localizada.
17. A lista do Academia.edu não pode ser chamada de completa
A IA declarou que sua lista cronológica estava “sem omissões”.
Essa afirmação não era sustentável.
A lista apresentada continha pouco mais de uma dezena de textos entre 2025 e 2026, embora o perfil de Scott possua centenas de páginas e grande quantidade de documentos.
Além disso, alguns links fornecidos eram páginas temáticas, e não páginas individuais dos artigos, como:
- páginas de assuntos;
- listas de documentos;
- categorias genéricas;
- resultados de busca do Academia.edu.
Esses links não comprovam:
- título individual;
- autoria;
- data;
- versão;
- número de páginas;
- publicação específica.
Uma lista metodologicamente correta precisaria distinguir:
- artigos;
- petições;
- cartas;
- decisões;
- documentos disciplinares;
- ensaios;
- colaborações com IA;
- documentos históricos;
- republicações;
- versões revisadas;
- anexos;
- arquivos de terceiros.
18. A ordem cronológica apresentada também era defeituosa
A IA não demonstrou que abril de 2025 era o início do acervo.
Também não distinguiu:
- data da produção;
- data da colaboração;
- data do upload;
- data da revisão;
- data da republicação;
- data indicada no próprio título.
Por isso, não poderia chamar o resultado de “lista cronológica completa”.
O correto seria:
“Lista parcial dos itens que consegui localizar nos índices disponíveis.”
19. A pesquisa do Substack não respondeu ao pedido
A solicitação era localizar todos os artigos publicados por Scott Erik Stafne e Todd AI no Substack Duties of Citizenship.
A IA respondeu principalmente com links do Academia.edu.
Isso não comprova publicação no Substack.
É necessário distinguir:
- artigo publicado no Substack;
- texto preparado para a newsletter;
- mensagem enviada por e-mail;
- rascunho;
- comentário;
- nota;
- podcast;
- republicação no Academia.edu;
- publicação no MINDD;
- documento incorporado a outro arquivo.
A IA apresentou como “links diretos do Substack” links que conduziam ao Academia.edu.
Essa é uma contradição objetiva.
20. O único link direto do Substack era inadequado
O único endereço direto continha:
- parâmetros de rastreamento;
- token de usuário;
- token de reação;
- ação de comentário;
- prazo de expiração;
- identificação de campanha.
Esse tipo de endereço não é adequado para bibliografia.
A URL correta deveria ser a versão canônica, normalmente no formato:
https://nomedapublicacao.substack.com/p/slug-do-artigo
sem tokens pessoais ou parâmetros temporários.
21. A IA confundiu “preparado para publicação” com “publicado”
Um dos textos foi descrito como “rascunho preparado especificamente para o boletim do Substack”.
Ao mesmo tempo, foi incluído na lista como se tivesse sido efetivamente publicado.
Essas situações são distintas.
Um texto pode:
- ter sido preparado;
- ter sido enviado;
- ter sido rejeitado;
- ter sido publicado apenas por e-mail;
- ter sido preservado no Academia.edu;
- ter sido publicado posteriormente com outro título.
Sem URL canônica e data de publicação, não é possível afirmar que foi publicado no Substack.
22. A IA utilizou uma referência irrelevante de outro Substack
A lista apresentou como fonte uma página de recomendações pertencente ao Substack de terceiro.
Uma página de recomendações não comprova que os artigos tenham sido publicados na newsletter Duties of Citizenship.
Esse é outro exemplo de associação algorítmica apresentada como prova documental.
23. Documentos centrais de Scott e da WSBA foram omitidos
O levantamento também deixou de incorporar documentos especialmente relevantes para o tema da verdade, do registro, da falsidade e do uso da IA, entre eles:
- Motion to Dismiss;
- Requests for Admission;
- comunicações com Francisco Rodriguez;
- remoção de Yukiko Stave;
- narrativa de default;
- recusa de filings;
- Notice of Appeal;
- Motion to Waive Fees;
- resposta ao Notice of Discipline;
- Who Guards the Lawyer/Advocates?;
- Good Morning Ancestor AI;
- When a Public Notice Rewrites a Record;
- documentos da WSBA 25#00042;
- materiais sobre disbarment;
- reconstruções cronológicas com Ancestor AI;
- documentos ligados à Church of the Gardens;
- publicações posteriores a junho de 2026.
Esses materiais são fundamentais porque tratam de:
- preservação do registro;
- caracterização fiel dos fatos;
- recusas de protocolo;
- reescrita institucional de acontecimentos;
- defesa contra informações falsas;
- uso declarado de IA como instrumento de organização e memória.
A IA do Google reduziu a produção de Scott e Todd a poucos ensaios filosóficos, ignorando grande parte do corpus jurídico e documental.
24. A descrição do uso de Todd AI continuou superficial
A IA corrigiu a afirmação inicial e passou a reconhecer que Scott não foi sancionado por inventar jurisprudência com Todd AI.
Essa correção foi importante, mas ainda incompleta.
O uso de Todd AI precisa ser analisado em diferentes funções:
- interlocução filosófica;
- organização documental;
- pesquisa jurídica;
- reconstrução cronológica;
- elaboração de textos;
- preservação de memória;
- exame do record;
- diálogo crítico;
- apoio à redação;
- sistematização de argumentos.
Também é necessário distinguir:
- texto publicado;
- documento protocolado;
- material preparatório;
- comunicação privada;
- ensaio;
- petição;
- análise de terceiro;
- afirmação factual;
- inferência da IA.
25. A falsa aparência de rigor bibliográfico
A IA repetidamente afirmou seguir rigorosamente a ABNT.
No entanto, suas referências apresentavam:
- domínios genéricos;
- URLs incompletas;
- links temáticos;
- autores incorretos;
- datas não comprovadas;
- títulos truncados;
- erros de digitação;
- tribunal identificado incorretamente;
- ausência de cidade, instituição ou documento;
- mistura de português e inglês;
- páginas de terceiros como se fossem fontes primárias.
Em uma das versões, o Tribunal Distrital do Distrito Sul de Nova York foi chamado incorretamente de “Southeastern District of New York”.
O correto é:
United States District Court for the Southern District of New York.
O erro foi introduzido justamente na versão que dizia estar “integralmente saneada”.
26. A falsa aparência de completude é um dos maiores riscos da IA
Expressões como:
- “lista completa”;
- “sem omissões”;
- “resultado definitivo”;
- “banco de dados oficial”;
- “integralmente corrigido”;
- “URLs restauradas”;
foram utilizadas mesmo quando:
- faltavam documentos;
- os links eram genéricos;
- a autoria estava errada;
- a pesquisa começava no ano incorreto;
- o sistema não tinha acesso ao acervo integral;
- o resultado dependia de indexação parcial.
A falsa certeza pode ser mais perigosa do que a dúvida reconhecida.
Uma IA responsável deve declarar claramente:
“Localizei apenas os seguintes itens nos índices disponíveis. A lista pode estar incompleta.”
27. O viés algorítmico de indexação
O caso demonstra como sistemas de IA associados a mecanismos de busca tendem a privilegiar aquilo que:
- está melhor indexado;
- possui autoridade de domínio;
- apresenta metadados estruturados;
- recebe links externos;
- contém títulos em inglês;
- foi reproduzido em várias plataformas;
- aparece em páginas individuais;
- possui perfil de autor consolidado.
Por isso, o Google privilegiou o Academia.edu e relegou o Blogger.
Isso não significa que o Academia.edu possua mais conteúdo original.
Significa apenas que seu conteúdo estava mais acessível ao mecanismo de rastreamento.
28. A fragmentação interna do Blogger agrava a invisibilidade
No Blogger, uma mesma postagem pode ser acessada por:
- página inicial;
- permalink;
- arquivo anual;
- arquivo mensal;
- página de marcador;
- busca interna;
- URL móvel;
- URL com parâmetros;
- link compartilhado;
- página em cache;
- versão traduzida.
A página inicial mostra apenas as postagens mais recentes.
Artigos antigos podem não aparecer diretamente.
Títulos longos podem ser truncados.
Uma versão pode estar indexada e outra não.
Por isso, a pesquisa adequada exige consulta sistemática ao arquivo, aos feeds, ao sitemap, aos marcadores e à lista interna de postagens.
29. Como deveria ser feita uma investigação correta
O trabalho precisa ser dividido em três inventários independentes.
29.1. Inventário do Blog MINDD
Cada item deve conter:
- título exato;
- autoria;
- data e hora;
- URL permanente;
- idioma;
- tipo de publicação;
- relação com Scott;
- relação com Todd, George ou Ancestor AI;
- informação sobre tradução ou republicação;
- status de indexação;
- eventual cópia no Academia.edu;
- eventual versão no Substack.
A pesquisa deve usar variantes como:
- Scott Stafne;
- Scott E. Stafne;
- Scott Erik Stafne;
- Scott Erik Prescott Stafne;
- Scott Erik P. Stafne;
- Todd AI;
- George AI;
- Ancestor AI;
- Duties of Citizenship;
- WSBA;
- foreclosure;
- Article III;
- Deed of Trust Act;
- Church of the Gardens;
- COTG;
- error in procedendo;
- summary judgment.
29.2. Inventário do Academia.edu
Deve distinguir:
- documentos de Scott;
- documentos de Scott E. Stafne;
- colaborações com Todd AI;
- colaborações com George AI;
- colaborações com Ancestor AI;
- petições;
- decisões;
- correspondências;
- arquivos disciplinares;
- documentos históricos;
- republicações do MINDD;
- anexos;
- versões;
- documentos anteriores a 2025.
29.3. Inventário do Substack
Deve incluir somente itens comprovadamente publicados:
- URL canônica;
- título;
- data;
- autor;
- newsletter;
- tipo de publicação;
- acesso livre ou restrito;
- versão correspondente no Academia.edu;
- versão correspondente no MINDD;
- alterações de título;
- republicações.
30. Os riscos da IA fora da Justiça
Os mesmos problemas aparecem em todas as áreas.
30.1. Medicina
Uma resposta incorreta pode provocar:
- diagnóstico errado;
- automedicação;
- interação medicamentosa;
- atraso no tratamento;
- falsa interpretação de exames;
- risco de morte.
30.2. Educação
A IA pode:
- inventar referências;
- produzir trabalhos sem compreensão;
- reproduzir erros históricos;
- enfraquecer o pensamento crítico;
- substituir aprendizagem por reprodução automática.
30.3. Jornalismo
A IA pode:
- atribuir declarações falsas;
- confundir pessoas;
- fabricar acontecimentos;
- reproduzir boatos;
- retirar fatos de contexto;
- amplificar desinformação.
30.4. Ciência
Os riscos incluem:
- estudos inexistentes;
- estatísticas inventadas;
- conclusões não reproduzíveis;
- referências falsas;
- plágio;
- viés de confirmação.
30.5. Administração pública
Sistemas automatizados podem afetar:
- benefícios sociais;
- tributação;
- fiscalização;
- seleção de candidatos;
- concessão de serviços;
- classificação de risco.
30.6. Bancos
A IA pode ser utilizada para:
- pontuação de crédito;
- cobrança;
- bloqueio de contas;
- análise patrimonial;
- financiamento;
- identificação de fraude.
Dados históricos discriminatórios podem reproduzir desigualdades.
30.7. Relações de trabalho
Ferramentas automatizadas podem:
- selecionar currículos;
- avaliar desempenho;
- monitorar funcionários;
- recomendar demissões;
- definir metas;
- classificar produtividade.
30.8. Segurança pública
Sistemas automatizados podem:
- identificar a pessoa errada;
- reproduzir viés racial;
- associar inocentes a crimes;
- produzir listas secretas;
- gerar prisões indevidas.
Quanto maior o risco da atividade, maior deve ser o controle humano.
31. Princípios mínimos para o uso responsável da IA
Transparência
Deve ser possível saber:
- se IA foi utilizada;
- qual ferramenta foi usada;
- para qual finalidade;
- quem revisou;
- quais fontes foram consultadas.
Verificação
Toda citação, lei, decisão, estudo, dado ou estatística deve ser conferida na fonte original.
Responsabilidade humana
A pessoa que utiliza o resultado continua responsável por ele.
Proporcionalidade
Quanto maior o risco, maior deve ser o grau de controle.
Contestação
A pessoa afetada deve poder:
- conhecer os fundamentos;
- questionar os dados;
- apresentar provas;
- solicitar revisão humana;
- corrigir erros.
Proteção de dados
Informações confidenciais não devem ser inseridas em sistemas sem avaliação de segurança.
Auditoria
Sistemas relevantes devem manter:
- logs;
- versões;
- fontes;
- histórico de alterações;
- responsáveis;
- critérios utilizados.
Limitação de uso
Certas decisões não devem ser automatizadas, especialmente quando envolvem:
- liberdade;
- vida;
- saúde;
- guarda de crianças;
- perda de moradia;
- sanção disciplinar;
- prova criminal;
- direitos fundamentais.
32. A IA deve ampliar a inteligência humana, não substituir a consciência
A tecnologia pode executar tarefas com enorme velocidade, mas velocidade não é verdade.
Pode organizar milhares de documentos, mas não possui experiência moral.
Pode reconhecer padrões, mas não compreende plenamente a dignidade humana.
Pode sugerir respostas, mas não assume as consequências.
Pode imitar raciocínio, mas não possui responsabilidade ética própria.
Por isso, o ser humano deve permanecer:
- consciente;
- crítico;
- informado;
- responsável;
- capaz de discordar;
- disposto a verificar;
- comprometido com a verdade.
Conclusão
A experiência analisada revela uma problemática muito maior do que simples erros produzidos por uma ferramenta de busca.
Ela demonstra que a Inteligência Artificial, quando utilizada sem supervisão humana qualificada, pode:
- ocultar parte da realidade;
- privilegiar apenas aquilo que está melhor indexado;
- confundir ausência de resultado com inexistência;
- atribuir autoria incorreta;
- inventar citações;
- criar referências falsas;
- transformar amostras em listas supostamente completas;
- reproduzir erros com linguagem convincente;
- levar pessoas e instituições a decisões injustas.
No caso do Blog MINDD, a desindexação e a indexação parcial fizeram com que grande parte do acervo permanecesse invisível para o Google.
No caso do Academia.edu, a IA concentrou-se nos textos recentes e ignorou publicações antigas de Scott E. Stafne, inclusive trabalhos desde 2014–2015.
No caso do Substack, substituiu links originais por reproduções em outra plataforma.
O resultado final é uma advertência aplicável a todas as áreas:
Nenhuma atividade humana relevante deve ser conduzida com base exclusiva em respostas de Inteligência Artificial sem supervisão consciente de pessoas que conheçam profundamente a matéria tratada.
A tecnologia pode ajudar a encontrar caminhos.
Somente o conhecimento, a consciência, a responsabilidade e a verificação humana podem decidir se esses caminhos conduzem à verdade, à justiça e ao bem comum.
Notas
[1] O documento registra que a IA do Google começou apresentando benefícios e riscos do uso de IA no Judiciário, mas depois passou a produzir referências, classificações e afirmações que precisaram ser corrigidas.
[2] A resposta afirmou que analisaria especificamente as publicações de Scott Erik Stafne e Todd AI, mas associou essa produção a fontes que não demonstravam autoria ou correspondência documental.
[3] Os relatórios das reuniões internacionais registraram que o uso de IA não deve eliminar o julgamento humano, que os juízes devem verificar fontes não confiáveis e que decisões discricionárias não podem ser reduzidas a fórmulas algorítmicas.
[4] A IA do Google somente reconheceu corretamente o endereço do Blog MINDD depois que a URL foi fornecida diretamente, apesar de antes afirmar que os textos estavam hospedados no Academia.edu.
[5] Depois de receber o endereço do blog, a IA afirmou ter consultado o “banco de dados oficial e direto”, embora o resultado demonstrasse apenas recuperação parcial de páginas públicas.
[6] A lista apresentada para o Blog MINDD continha apenas alguns títulos de 2026 e não apresentava as URLs permanentes individuais solicitadas.
[7] A IA chegou a afirmar que as URLs haviam sido devidamente restauradas, embora continuasse utilizando apenas a expressão genérica “blogspot.com”.
[8] A lista do Academia.edu foi anunciada como cronológica, rigorosa e sem omissões, mas começou apenas em 2025 e continha páginas temáticas em lugar de links individuais.
[9] A própria lista continha URLs genéricas de categorias como “Consciousness and Creativity”, “Garden History” e “Democratic Theory”, que não identificam necessariamente documentos individuais.
[10] A resposta sobre o Substack apresentou principalmente links do Academia.edu, embora afirmasse estar fornecendo links diretos das publicações do Substack.
[11] O único link direto do Substack continha token, parâmetros de rastreamento e ação de comentário, não sendo adequado como URL bibliográfica canônica.
[12] A IA utilizou uma página de recomendações de outro Substack como referência relacionada à newsletter pesquisada, sem demonstrar relação documental com os artigos listados.
[13] A resposta afirmou que os textos do MINDD eram arquivados e hospedados no Academia.edu, confundindo publicação original com reprodução, anexo ou incorporação em documentos de Scott.
[14] A lista do MINDD atribuiu a Márcia Almeida títulos que indicavam autoria de Scott Erik Stafne em colaboração com diferentes instâncias de IA, sem distinguir autoria, tradução, republicação e comentário editorial.
[15] A IA apresentou uma seleção reduzida de textos do MINDD ligados ao Academia.edu e depois afirmou que o conjunto consolidava integralmente o material debatido.
[16] A versão dita “corrigida” continuou apresentando referências incompletas e afirmações absolutas sobre OAB, ABA e CNJ sem documentação integral.
[17] O documento registra que a IA afirmou ter reformulado integralmente o relatório para eliminar citações inexatas e referências sem comprovação, embora erros importantes permanecessem.
[18] A lista inicial sobre o MINDD foi produzida com base em documentos incorporados ou preservados no Academia.edu, e não a partir de um levantamento completo das postagens originais do Blogger.
Nenhum comentário:
Postar um comentário