Em 07/08/2017

Computação cognitiva: mito e realidade

O Workshop Computação Cognitiva e o Registro de Imóveis, promovido pelo IRIB no dia 2 de agosto, despertou a atenção dos registradores para as imensas possibilidades da tecnologia atuar em vários setores da sociedade

Dando continuidade ao tema, o presidente do IRIB, Sérgio Jacomino, entrevistou Valdemar W. Setzer, professor titular aposentado, ainda ativo no Departamento de Ciências da Computação da USP, que foi o fundador e diretor do Centro de Computação Eletrônica e do Centro de Ensino de Computação dessa universidade (www.ime.usp.br/~vwsetzer).

Nesta entrevista, o professor Setzer comenta o que há de real e imaginário a respeito da chamada inteligência artificial ao fazer clara distinção entre ficção científica versus ciência e realidade.

SJ – As máquinas estão paulatinamente substituindo tarefas tipicamente humanas. O que se pode esperar para os próximos anos? Seremos servidos ou serviremos às máquinas? O que será feito dos empregos?

VALDEMAR SETZER – É impossível fazer uma previsão para os próximos anos. O desenvolvimento tecnológico tem se acelerado brutalmente. 

Antevejo uma gradual substituição do ser humano no controle de máquinas, como automóveis e aviões. A maior parte dos acidentes são devidos a falhas humanas, e as máquinas tendem a cometer menos erros. Robôs com tarefas específicas (como limpeza de centrais nucleares) também serão cada vez mais empregados.

O grande perigo está em substituir decisões humanas, especialmente as sociais, pois as máquinas jamais terão sentimentos, como mostrei no meu artigo IA - Inteligência Artificial ou Imbecilidade Automática? As máquinas podem pensar e sentir? (https://www.ime.usp.br/~vwsetzer/IAtrad.html).

Por outro lado, máquinas também cometem erros, especialmente de software. É praticamente impossível provar formalmente que um programa complexo está matematicamente correto, isto é, faz o que se deseja dele para quaisquer dados de entrada. Isso pode representar um perigo muito grande se não houver um último controle por parte de seres humanos.

Imagine se máquinas forem decidir se soltam foguetes nucleares! Já houve alarmes falsos – o mais famoso foi os americanos terem detectado uma invasão que, na verdade, era um reflexo do radar na Lua. Os foguetes não foram enviados para a Rússia, pois alguém no caminho do comando considerou que a situação com aquele país não justificava uma invasão. Houve também casos do lado da Rússia.

Além disso, se computadores tomam decisões, os critérios tendem a se congelar, isto é, a sociedade deixará de ter o dinamismo necessário para se adaptar às mudanças culturais e do ser humano, ou este terá sua evolução prejudicada.

SJ – Até meados da Revolução Industrial o homem era capaz de assimilar em parte o conhecimento humano produzido nos séculos anteriores. Hoje não. O conhecimento produzido pelo ser humano a cada dia não pode ser açambarcado individualmente. Já a máquina pode processar, combinar, extrair sínteses e concluir com base em toda sorte de dados (big data). Serão mais confiáveis as respostas que possam ser dadas pelas máquinas em áreas como medicina, direito, meteorologia, estatística, jurisprudência etc.?

VALDEMAR SETZER – Novamente, aqui entra em consideração a questão do erro. Os erros médicos são enormes. Em https://goo.gl/rYoRtH, do prestigioso Johns Hopkins Medicine, lê-se que 10% das causas de morte nos EUA são devidas a erros médicos, a terceira maior causa de morte. Se as máquinas fizerem diagnóstico e prescreverem tratamentos, é possível que esses erros diminuam.  Porém, não seria sadio que os médicos confiassem exclusivamente nas sugestões do computador.

SJ – De fato, em certas áreas da medicina, o diagnóstico feito pela máquina se revela mais preciso do que o feito por especialistas. Nenhum especialista é capaz de assimilar o que se produziu nos últimos seis meses na sua especialidade...

VALDEMAR SETZER – Sim, mas ocorre que a medicina não é uma ciência exata; e se máquinas fazem diagnósticos, o ser humano é tratado como máquina, como expus acima. O problema está em que as máquinas poderão cometer menos erros do que os seres humanos, e com isso poderão substituí-los. Mas, ao mesmo tempo, perder-se-á o tratamento individual e o efeito de empatia entre médico e paciente. 

SJ – Já não é possível formar um médico em nossas universidades, já que o aluno aprende o que se produziu há décadas...

Quando houve a publicação sobre péssimos resultados de avaliação de nossos estudantes, o jornal O Estado de São Paulo publicou uma nota minha no Fórum dos Leitores: "O ensino está tão ruim, mas tão ruim, que até computadores ensinam melhor”.

Note-se que não se sabe como o ser humano aprende. Se isso fosse conhecido, o curso de Medicina 0não levaria seis anos...

Esses dois casos mostram onde estão os problemas, e que a introdução de máquinas pode até melhorar a situação, mas não resolve o problema pela raiz: os médicos e os professores deveriam ser melhor preparados e não substituídos. Pacientes e estudantes tratados e ensinados pelo computador são tratados como qualquer computador trata um ser humano: como máquina. Isso representa um perigo muito grande para a humanidade. Os nazistas trataram seres humanos como animais; os computadores farão muito pior. Tratar seres humanos como máquinas induze-os a tratarem outros seres humanos como máquinas, isto é, sem calor humano, sem compaixão. Prevejo enormes problemas psicológicos e sociais no futuro.

Além disso, devem ser considerados muitos outros fatores. Por exemplo, o desemprego causado pela automação. É uma falácia dizer que o que há é um deslocamento de funções. Ocorre que as áreas tecnológicas exigem um alto preparo técnico. Por exemplo, os caixas de supermercado precisam saber muito pouco, e se eles forem substituídos, dificilmente poderão ser treinados para atuar na alta tecnologia.

Sou totalmente a favor da substituição do trabalho humano em áreas que o degradam, desde que se ofereça um trabalho mais digno. O ser humano precisa trabalhar, precisa sentir-se útil e parte da sociedade, pois em caso contrário advêm inúmeros problemas psicológicos.

SJ – No livro "Big Data: A Revolution That Will Transform How We Live, Work, and Think", Mayer-Schonberger e Cukier (Amazon) sustentam que a tecnologia do big data representa um novo paradigma nos modelos estatísticos, dentre outros. Segundo eles, é possível obter respostas sem que uma pergunta tenha sido feita. Paradoxalmente, o Google chegou a concluir acerca da expansão da gripe aviária a partir das respostas já consolidadas. Derivar as perguntas a partir das respostas que a máquina nos fornece pode ser praticamente impossível. Teremos respostas para perguntas que já não saberemos formular? 

VALDEMAR SETZER – Há um problema enorme em tratamentos estatísticos: eles eliminam a individualidade. Cada ser humano é diferente, e deveria ser assim tratado, por exemplo, na medicina e no ensino. Isso não invalida estudos estatísticos para serem aplicados a massas, como usar big data para determinar origens e destinos de sistemas de transportes. Mas eles não deviam ser aplicados individualmente.

SJ – O que é exatamente computação cognitiva? A máquina será capaz de aprender a pensar? O que é machine learning? 

VALDEMAR SETZER – Não existe machine learning. Essa é mais uma corrupção da nossa linguagem feita pelo pessoal de computação. Tomemos, por exemplo, a memória. Não sabemos como a nossa funciona, mas sabemos como o armazenamento de dados funciona no computador; inteligência artificial – não sabemos o que é inteligência etc. Uma máquina não aprende, ela armazena dados e calcula parâmetros. 

Houve um enorme avanço do erradamente chamado "aprendizado de máquina" com a extensão das redes neurais artificiais. Novamente, não sabemos como os neurônios funcionam; as redes neurais artificiais não têm quase nada em comum com as redes de neurônios. Nessas redes artificiais, há uma camada de sinais de entrada e uma de saída. Durante muito tempo, havia uma só camada adicional entre as duas, pois o cálculo dos parâmetros transformando cada entrada de cada nó em uma saída dirigida para outros nós era extremamente complexo. Hoje, conseguem-se redes com dezenas de camadas, e isso possibilitou o avanço desse tipo de processo, auxiliado na velocidade por computação paralela. Nessas redes, dão-se, tipicamente, sinais de entrada e de saída conhecida para eles. Por exemplo, introduzem-se figuras de gatos e de outros animais, e no caso dos gatos a saída deveria codificar a resposta "sim" e nos outros casos "não". Isso possibilita à máquina calcular os parâmetros da rede, o que está sendo conseguido com muita precisão.

Máquinas jamais vão pensar como o ser humano, como mostrei no meu artigo citado acima. O meu argumento central é que qualquer pessoa pode ter a vivência de determinar seu próximo pensamento, pelo menos por alguns instantes, indicando que temos livre arbítrio no pensar. Computadores não podem ter livre arbítrio, pois são matematicamente programados e estritamente sujeitos às leis físicas; da matéria não pode advir liberdade.

SJ – O que o Sr. pode nos dizer acerca da pesquisa https://goo.gl/vrrGAR e Singularaty (http://consc.net/papers/singularity.pdf)?

VALDEMAR SETZER – Chama-se singularidade o ponto no futuro em que as máquinas vão suplantar a inteligência humana. Só que não se sabe o que é inteligência e como ela surge e se desenrola no ser humano. Há máquinas que ganham um torneio de xadrez com campeões mundiais. Veja meu artigo Reflexões sobre xadrez eletrônico – https://www.ime.usp.br/~vwsetzer/xadrez.html.

– onde eu mostro como não se compreende como um ser humano ainda pode empatar ou ganhar um jogo dessas máquinas, que testam centenas de milhões de lances à frente, como ocorreu no torneio Deep Blue vs. Kasparov. Saber jogar xadrez muito bem mostra uma inteligência nessa atividade, e não nas outras.

Até hoje, as máquinas têm comportamento "inteligente" sempre especializado em uma determinada tarefa.

Em minha concepção, hoje em dia, a inteligência mais importante é a social, denominada por Howard Gardner de "inteligência interpessoal" e por Daniel Goleman de "inteligência emocional". Em segundo lugar, coloco a inteligência artística, e só em último a inteligência intelectual, que engloba a científica.

Computadores jamais terão uma verdadeira inteligência social; como eu disse, jamais terão sentimentos e compaixão. Computadores fazem obras de arte, mas para isso seguem regras rígidas, não tendo a criatividade de um artista. Uma obra de arte feita por um computador transforma a arte em matemática, que é objetiva e não é arte, pois deve ser feita conscientemente, e qualquer atividade artística envolve algo de subconsciente e subjetivo.

Computadores jamais terão livre-arbítrio.

Não se pode dizer que nossa inteligência será suplantada algum dia. Para isso, seria necessário saber o que é inteligência. É bem característico que Chalmers, autor do segundo artigo, considera que os seres vivos são máquinas puramente físicas, o que pode ser duvidado. Curiosamente, ele mesmo escreveu há muito tempo um artigo na revista Scientific American dizendo que para se compreender a consciência seria necessário descobrir um tipo de energia ainda desconhecida. Um outro filósofo, John Searle (citado por Chalmers), em seu artigo, "Can computers think" (https://goo.gl/KxQLQ8) mostrou, com sua famosa alegoria do "quarto chinês", que os seres humanos têm capacidades semânticas, isto é, de compreensão, impossíveis de serem introduzidas em um computador, que é necessariamente uma máquina sintática, seguindo estritamente regras matemáticas de manipulação de símbolos.

SJ – Seremos imortais? Ou zumbis?

VALDEMAR SETZER – Não há nenhuma, repito, nenhuma esperança de se implantar chips em cérebros humanos para aumentar sua capacidade. Para isso, seria necessário conhecer o código usado pelo cérebro. Tudo o que se tem feito de detecção de impulsos cerebrais ou de introdução de impulsos dentro dele é empírico (começando pelas experiências do Miguel Nicolelis), e não é baseado no conhecimento de como o cérebro funciona. Tenho uma conjetura que aquele código jamais será descoberto, pois não existe. Em todas essas especulações, deve-se sempre levar em conta que não se conhece o funcionamento do cérebro, portanto não é válido fazer especulações que o envolvam. Isso é tudo ficção científica, e não ciência ou realidade.

Mas mesmo sem conhecer o funcionamento do cérebro, muita coisa poderá ser feita e já está sendo feita, como implantes eletrônicos que ajudam a diminuir ataques epilépticos. Infelizmente, praticamente não há avanços éticos e morais para que se possam colocar limites no controle do ser humano por máquinas.

Não estamos conseguindo controlar as emissões de gases estufa. Isso mostra que não estamos controlando as máquinas. A mentalidade egoísta e ambiciosa impera em quase toda a humanidade, como estamos vendo muito bem no Brasil, com desastres na natureza e na sociedade.

Um caso extremo é a Internet. O ser humano não está preparado para ter tanta liberdade, e os desastres estão se avolumando, como o caso dos “crimes cibernéticos”. Como eles estão aumentando exponencialmente, há estudiosos que estão prevendo que a internet vai acabar tornando-se inviável. Considerando o alto risco de ela produzir dependência (entre 10 e 20% dos seus usuários são dependentes), conjeturo que os seus benefícios estão sendo ultrapassados de longe pelos seus malefícios, por exemplo a terrível influência que exerce sobre crianças e jovens. Eles já estão se tornando zumbis!

Fonte: Assessoria de Comunicação do IRIB

Em 7.8.2017

---

• Tags
• Entrevista
• Valdemar Setzer
• computação cognitiva
• novas tecnologias