domingo, 1 de novembro de 2015

Self-driving cars e o eProcesso: operadores jurídicos no "piloto-automático"?

Resultado de imagem para autodirigível
Contribuições da indústria automobolística para o eProcesso: limites do automatismo? Transparência? (1)
Reporto-me, mais uma vez, ao assunto de meu último post: a questão de os carros autodirigíveis, em seus algoritmos (motoristas?) terem de ter solução para o dilema de escolher quem devem matar (para lembrar, reveja o post). 

As situações extremas nos permitem pensar nas situações medianas ou corriqueiras. Talvez até percebê-las, que é o que está sendo necessário com a chegada do processo eletrônico. Tem muita norma jurídica transformada em algoritmo (eNormas), hoje em dia, impactando todo mundo, mediante autoaplicação,  sem qualquer transparência e sem que a maioria dos operadores tenham tempo para se dar conta disso.

A autodirigibilidade já está presente no eProcesso, sem virar notícia.

Quer dizer: textos legislativos são interpretados,  transformados em regras de negócio que, passadas para os técnicos, ganham expressão tecnológica (numa linguagem de programação) e, na memória/processador de um computador, ganham vida e força para condicionar os demais operadores do processo. 
Há muito tempo defendo a introdução da automação no processo.
Ao defender essa adoção da automação, sempre falei em "automação máxima", sugerindo a existência de limites para isso. Costumo usar como referência o Norbert Wiener (pai da cibernética, que é a ciência da automação), porque aproximou Direito e automação, pela primeira vez (numa obra do fim da década de 1940), e apontou tais limites. "Chama um juiz", sugeria ele em sua exposição, ao chegar ao ponto em que entendia que os automatismos tinham alcançado seu limite! Apesar de ter cinco décadas, a constatação não foi refutada, ainda. Embora os avanços da inteligência artificial sejam imensos e precisem chegar ao processo.

Sempre entendi, por outro lado, que os limites não eram apenas  tecnológicos (impossibilidade de programar, de exprimir em algoritmo), mas postos também por fontes de outra natureza (éticas, morais, sociais).   

O dilema do carro autodirigível escancara os limites da automação.

De fato, ao final,  as perguntas da indústria automobilística servem para demonstrar que, no jurídico, impera uma visão peculiar, muitas vezes desfocada pelo emaranhado de interesses que se consolidam numa norma. Não se trata de reviver antigos fantasmas ideológico-políticos cujos matizes são mais ricos que as cores do arco-íris. Trata-se, apenas, de constatar o modus operandi do Direito sob as brumas encantadas do cipoal dos interesses.

Será que o  lobby automobilístico vai exigir que o Direito defina os termos do algoritmo (eNorma) que será instalado no carro? Ou de algum algoritmo?  A notícia e o frenesi em torno da busca de uma "REGRA DE NEGÓCIO" sugerem que o lobby é intenso. Até porque qualquer fabricante vai quebrar com a primeira indenização que for condenado a pagar.  Nos EUA, tenho certeza,  o dinheiro só se exporá sob estrita salvaguarda legal. 

Estatísticas são melhores que Habermas? 

Diz-se não haver forma objetiva de obter o assentimento de todos os envolvidos na questão, inviabilizando as práticas discursivas habermasianas sugeridas para o encontro da solução. E, claro, diante dessa constatação, buscam-se soluções por outros caminhos. O mais trivial e perseguido é o probabilístico.  Ele está na base dos instrumentos de orientação de todos, do mercado à política. Santas estatísticas!

Resultado de imagem para hobbes
(2) Hobbes: não é razoável que
alguém lute ou disponha
contra seus próprios interesses
Mas é interessante, pela notícia divulgada, que todos foram uníssonos ao dispor para os outros: "se eu não for o condutor, penso que a regra de utilidade (uma vida contra 20 vidas) é aceitável...".

Hobbes já sabia disso, no século XVII: não é razoável que alguém lute ou disponha contra seus próprios interesses. E é por isso que Edward Coke, um século depois, para começar a explicar o devido processo substantivo, escolhia a clássica pergunta para exprimir o devido processo procedimental: "alguém pode ser o juiz de sua própria causa"? Todos respondiam um sonoro "não"!

As pesquisas parecem demonstrar que também pela via das estatísticas não há como descascar esse imbróglio.

Como só faz sentido pensar no carro com os proprietários - quer dizer, na pesquisa só faz sentido consultar os condutores, os potenciais compradores dos aludidos automóveis -  então o algoritmo, se é que não pode ser formulado de uma maneira que prejudique as vendas ,  terá de ser no sentido de "exploda-se o mundo... eu sou o protegido!".

Ou seja, o algoritmo terá de exprimir o instinto,  que, no caso, é o programa que realmente entra em execução nessas horas com os humanos.  Do contrário, "no deal! I'll drive a car where I let it go my instinct!" (estou fora, vou dirigir um carro que deixe meu instinto funcionar!).  

prison prison fence fence
(3) Um preso tem o direito de saber qual
o algoritmo que está computando sua pena
e, pelo resultado apresentado,
o está  mantendo na cadeia por
mais ou menos tempo.
Qual algoritmo me condenou a ficar mais 3 anos na cadeia?  

No caso do automóvel, contenham ou não os algoritmos  a fatídica rotina de decisão extrema, o consumidor será muito exigente. Exigirá transparência. E os fornecedores expor-se-ão apenas nos limites em que anunciados os dirigíveis.

Pois é... Na atualidade e no eProcesso, advogados,  juízes e todos os demais operadores, aceitam ser dirigidos por algoritmos "caixas-pretas" com os quais são feitos os sistemas eletrônicos de processamento de ações judiciais. Crê-se no Poder Judiciário (ainda bem que ainda se crê ao menos neste Poder!) e ainda existe a predisposição para aceitar como legítimo o que emana de um processo pelas mãos de um juiz.

Mas a tecnologia está transformando o processo e sua incorporação, que será crescente, deverá estar cercada de transparência e luz, assim como exige a Constituição Federal de todos os atos dos operadores humanos (fundamentação, demonstração, explicação, esgotamento de teses, prequestionamentos etc).

Nosso processo dispõe, de forma indireta, sobre vida e morte, e de forma direta, sobre pagar/não pagar, prisão/liberdade, propriedade/não propriedade. Sem a dramaticidade do matar/não matar, tais questões são  caras e relevantes.

Um preso tem o direito de saber qual o algoritmo que está computando sua pena e, pelo resultado apresentado, o está  mantendo na cadeia por mais ou menos tempo.

Os algoritmos dos self-driving cars e do eProcesso precisam ser transparentes.

(Ilustrações - créditos: (1) http://oglobo.globo.com/economia); (3)  http://all-free-download.com/free-photos/ Acesso em: 31 out. 2015. Verbetes: prison)


Nenhum comentário:

Postar um comentário

Inclua aqui suas críticas e comentários. Todas as mensagens são moderadas. Palavras ofensivas levarão o moderador a barrar a publicação da mensagem.