Embed Size (px)
Citation preview
Por que e como você tem errado
sistematicamente desde que
começou a pensar João Lourenço
Mestrando em Filosofia da
Mente/Consultor em vieses
cognitivos
Resolver satisfatoriamente tarefas cognitivas
envolve também considerar restrições como tempo
e dispêndio energético, que eram mais escassos no
nosso passado evolutivo.
Essas falhas são conhecidas como vieses cognitivos: desvios sistemáticos que
a cognição humana comete da racionalidade e podem ocasionar perdas
enormes
Por conta disso, a evolução favoreceu operações
mentais que resolvem tarefas de raciocínio através
de ‘atalhos’ que funcionam bem na maioria dos
casos, mas falham em algumas exceções.
Como os módulos cognitivos que realizam tais tarefas
são, segundo a hipótese da psicologia evolucionista,
relativamente universais na humanidade, os casos em
que nossos ‘atalhos’ nos deixam na mão também
apresentam certa regularidade.
Por exemplo, homens em geral tendem a
superestimar o interesse sexual do sexo
oposto, enquanto mulheres tendem a
subestimar o interesse afetivo do sexo
oposto.
Evolutivamente faz sentido, pois para um homem subestimar interesse afetivo de uma mulher é pior do que superestimar: no primeiro caso ele perde a possibilidade de espalhar seus genes sem muito trabalho, no segundo ele apenas pode tomar um fora. No caso da mulher subestimar o interesse afetivo é pior, pois ter um filho com um homem que não está disposto a dispender cuidado parental é pior do que dispensar um homem que está.
Qual tipo de palavra inglesa é mais frequente, a que começa com R ou a que
tem R como terceira letra?
O que é mais perigoso, andar num beco escuro a noite ou quase nunca
sair de casa e não se exercitar?
Red, Runtime, Right, Road, Room, RAM, Reboot, etc.
Dirty, Turbo, ????
Andando num beco escuro a noite você pode ser assaltado,
roubado ou sequestrado, a cada canto escuro da rua e das
construções dos arredores parece surgir uma nova ameaça.
Por outro lado ficar em casa a maior parte do tempo parece
trazer à mente poucos cenários arriscados.
R aparece na terceira posição de palavras em inglês
mais do que na primeira.
Ter uma vida sedentária é o maior fator de risco de morte
existente (fora cigarro), enquanto mortes por homicídio são
proporcionalmente baixas.
1979
Viés da disponibilidade
É muito mais fácil lembrar de palavras que se iniciam com R do que as que
têm sua terceira letra como R. Como consequência, a maioria das pessoas
considera as palavras que se iniciam com R como mais frequentes.
Esse é um caso influenciado pelo viés da disponibilidade. Uma
diminuição da ocorrência de um evento no nosso horizonte
imediatamente acessível à memória nos faz automaticamente assumir
que esses eventos ocorrem na mesma proporção em que são
acessíveis
A disponibilidade de um dado na nossa memória não é um indicativo claro de
sua freqüência.
A segunda é um fato a respeito do
mundo.
Analogamente, os riscos de um beco escuro a noite são muito
mais vívidos na nossa mente do que os advindos de uma
maior probabilidade de morte futura consequente de um certo
hábito inofensivo no curto prazo.
A primeira é uma condição epistêmica e computacional de um cérebro feito
para lidar com um mundo no qual, por exemplo, a taxa de homicídio (evitável)
era muito maior que a de infarto (inevitável).
Qual probabilidade alguém deveria atribuir que uma enchente inunde uma
hipotética cidade?
Qual probabilidade alguém deveria ter atribuído que uma enchente inunde essa
mesma cidade, depois de saber que a cidade foi de fato inundada?
A segunda probabilidade é sempre considerada como sendo maior que a
primeira, quando elas deveriam ser sempre iguais.
Sempre que um evento anteriormente inesperado ocorre nós o
consideramos provável em retrospecto. O acidente em Fukushima, a
última crise financeira, as enchentes no Rio e as milhões de mortes
ocasionadas pelos tsunamis na Ásia foram todas consideradas
tragédias que poderiam e deveriam ter sido evitadas.
Viés da retrospecção
Não conseguimos nos ater ao fato de que na época não
tínhamos informações suficientes para saber com segurança
sobre a probabilidade de qualquer um destes eventos.
Uma série de eventos foi descrita para 3 grupos distintos. Para dois
desses grupos foi dito que depois desta série de eventos um evento
específico ocorreu enquanto que para o grupo restante não. Mesmo
sendo instruídos para avaliar qual a probabilidade do evento
específico ocorrer da perspectiva de alguém posicionado antes da
ocorrência do evento, os grupos que sabiam do evento atribuíram
uma probabilidade 10 vezes maior para o mesmo.
É necessário julgar quão provável era a probabilidade de um evento
partindo das condições epistêmicas da época e não com base no
nosso conhecimento atual.
Vendo a história através das lentes desse viés, nós vastamente
subestimamos a ocorrência de eventos que agora parecem improváveis,
pois temos a tendência a acreditar que um evento que ocorre
necessariamente seria avaliado como provável na época anterior a
ocorrência. Ao fazer isso nós superestimamos o custo de nos prevenir para
uma catástrofe improvável. Isso nos leva ao próximo viés.
Apesar de perder muito, o risco é extremamente baixo e no geral o
investimento é uma fonte de lucro constante.
Isso claramente não é o caso após calcularmos as perdas e ganhos totais
(10x0.98 – 1.000.000x0.002 = -1990,2).
Nós tendemos a ignorar riscos de probabilidade pequena, mas que
tenham perdas muito altas. Isso se manifesta mesmo em casos mais
complexos analisados por grandes especialistas no assunto, um dos
inúmeros motivos da ultima crise econômica americana.
Dar mais atenção a riscos pequenos de danos muito altos. Calcular de fato
as probabilidades em vez de se guiar por intuições.
Cisnes Negros Um investimento que ganha 10 reais 98% das vezes, mas perde um milhão em 0,2%
dos casos é um investimento ruim?
A vasta maioria das distribuições estatísticas obedece à distribuição gaussiana em que existe um valor médio e a maioria das amostras se encontra próxima ao valor médio enquanto a probabilidade de encontrar uma amostra longe da média cai drasticamente.
Exemplos desse tipo de
distribuição são: número
de sapatos, altura e
idade
Existe uma outra classe de
fenômenos que tendem a se
encaixar numa distribuição
chamada de lei de potência (power
law).
Nesse tipo de distribuição também existe
um valor médio no qual a maioria das
amostras se encaixa, no entanto a
probabilidade de encontrar uma amostra
com um valor extremo não é tão pequena
quanto na distribuição gaussiana. Como
eventos extremos acabam ocorrendo em
algum momento e como em geral eles
costumam ter uma influência extrema,
nesse tipo de distribuição os eventos
improváveis acabam sendo responsáveis
pela maior parte do comportamento de
toda a amostra.
Um exemplo desse tipo de distribuição é o de numero de habitantes por cidade.
Em média, as cidades têm em torno de 4.000 habitantes. No entanto a maioria
da população urbana vive em cidades com mais de 1 milhão de habitantes.
Isso ocorre porque existem cidades que, apesar de improváveis, contêm um número
extremo de habitantes. Catástrofes naturais e crises econômicas se encaixam nesse
perfil também.
Outros exemplos: blecautes, intensidade das guerras, tamanho de asteróides, mortes
por inundações, intensidade das labaredas solares etc.
Quando tentamos entender o passado, nós implicitamente
usamos a mesma hipótese e regras que usamos para
entender o presente, numa manifestação do viés da
projeção. Se nós sistematicamente subestimamos as
surpresas que o passado tinha para nós, ficamos sempre
com as hipóteses mais usuais e achamos que temos poucas
razões para as mudar.
Nós conseguimos aprender a não deixar aviões sequestrados sobrevoar nossas cidades, no entanto nós falhamos em aprender que eventos catastróficos não antecipados ocorrem. Nenhum livro de história narra o sucesso de medidas preventivas heróicas.
As vezes, a maioria da evolução de um processo vem de
eventos excepcionalmente raros e excepcionalmente
grandes. Por conta do viés de projeção, nós não
conseguimos acessar a existência de tais eventos em geral,
somente sua ocorrência específica.
O que é mais provável: (1) que os EUA dissolvam suas relações diplomáticas com
a Coreia do Norte ou (2) que a Correia do Norte esteja reativando com força ainda
maior seu programa nuclear e os EUA dissolvam suas relações diplomáticas com a
Coreia do Norte?
O segundo caso parece muito mais provável e verossímil que o primeiro. Por
que os EUA iriam cortar relações diplomáticas com um país que acabou de
anunciar a interrupção de seu programa nuclear?
Mas, segundo a teoria da probabilidade, isso é necessariamente falso, pois
a probabilidade de um evento A e um evento B acontecerem
concomitantemente é sempre menor do que a probabilidade do evento A
acontecer isoladamente, consequentemente a probabilidade do corte de
relações diplomáticas é sempre maior que a probabilidade do corte de
relações diplomáticas E da reativação do programa nuclear.
P(A ^ B) = P(A) x P(B|A) = P(B) x P(A|B)
Como as duas probabilidades condicionais são sempre
positivas ou iguais a zero caso P(A) seja zero no primeiro
caso ou caso P(B) seja zero no segundo caso:
P(A ^ B) ≤ P(A) e P(A ^ B) ≤ P(B)
A Falácia da conjunção
De acordo com a teoria da probabilidade, adicionar detalhes em uma história
faz com que a história se torne menos provável. É menos provável que a
Coréia do Norte reative seu programa nuclear e os EUA cortem relações
diplomáticas do que os EUA cortem relações diplomáticas isoladamente.
Sempre tenha em mente que mais detalhes significam mais improbabilidade.
Detalhes num cenário, projeto ou história têm inúmeras vantagens práticas,
mas o aumento da probabilidade de que o cenário ocorra não é uma delas.
Faça sempre os cálculos quando possível.
Mesmo assim a psicologia humana parece seguir a regra de que adicionar mais detalhes a
uma história a faz mais plausível. As pessoas tendem a superestimar probabilidades
conjuntivas e subestimar probabilidades disjuntivas, pois estas parecem mais vagas e
implausíveis. Racionalmente disjunções são muito mais prováveis que conjunções.
A sequência 2-4-6 obedece a uma regra, qual é ela? Posso dizer se outras
sequências obedecem a regra, quais sequências você deve perguntar para
testar sua hipótese?
Alguém que forma a hipótese “Os números estão aumentando +2” deve testar
as triplas 8-10-12 ou 20-22-24, concluir que elas se ajustam a hipótese e
anunciar a regra.
Alguém que forme a hipótese “X-2X-3X” deve testar a tripla 3-6-9, concluir
que ela confirma a hipótese e anunciar a regra.
No entanto, nenhuma dessas regras se adequa à seqüência como um todo, que
apenas obedece à regularidade de ser crescente.
Para testar uma regra devemos buscar evidencias contrárias a ela. Se formo a
hipótese da regra +2, devo testar seqüências cuja resposta afirmativa possa
eliminar a minha hipótese por completo e não seqüências cuja afirmativa deixe
outras hipóteses mais simples em aberto. Devemos sempre buscar a
desconfirmação da nossa hipótese.
Tentamos sempre confirmar a nossa hipótese em vez de a falsificar. Mesmo
quando somos apresentados com um conjunto completo de evidências
contrárias e favoráveis, tendemos a selecionar apenas as favoráveis.
Viés da Confirmação
Dois pensadores sob a influência deste viés irão considerar a mesma
sequência de evidências, mas modificarão as suas crenças em sentidos
contrários – ambos irão aceitar seletivamente apenas a evidência favorável.
Ou seja, o viés da confirmação pode te tornar completamente cego aos dados.
Existem mais ou menos que 500 pessoas nessa sala?
500 é muito alto! Menos
Quantas pessoas existem nessa sala?
A sua resposta vai ser incorrigivelmente enviesada para 500. Um numero aleatório
que o palestrante resolveu colocar na pergunta, sem qualquer relação com o
numero de pessoas nessa sala.
????
Sujeitos a quem se perguntam inicialmente se o número de países africanos na ONU é maior ou menor que 15, geraram posteriormente estimativas bem menores do que aqueles a quem foi perguntado se esse número era menor ou maior que 65.
Esses indivíduos tomaram o número inicial como seu ponto de partida, ou âncora, e
então ajustaram o número para cima ou para baixo até alcançarem uma resposta que
lhes parecesse razoável e então pararam de ajustar. Como resultado a estimativa foi
contaminada por um número totalmente aleatório sem nenhuma relação com a
pergunta.
Os numeros 15 e 65 foram gerados
aleatoriamente por uma roleta
Ancoragem, ajuste e
contaminação
Jamais use um valor de referência não informativo para se perguntar a magnitude
de algo. A sua resposta será invariavelmente contaminada pelo valor.
As pessoas tendem a não atualizar suas crenças de maneira correta quando os dados são apresentados em termos de porcentagens ou probabilidades absolutas (10%, 0,01..). Mas quando os dados são apresentados em termos de ocorrências (1 pessoa em cada 10) a atualização se torna mais próxima da correta.
Evoluímos para aprender sobre a realidade com base em ocorrências e não
em números abstratos. Absorvemos muito melhor a informação sobre um
risco se sabemos de pessoas que sofreram esse risco, mas não se lemos uma
pesquisa. Isso é obviamente errado, pois as pesquisam científicas em geral
usam um número grande de participantes, controlam para outras variáveis e
realizam um análise estatística cuidadosa.
Viés do Formato Estatístico
Esse é um, dentre vários, dos vieses que bloqueiam a mente humana de aprender que uma nova droga pode ser mais segura que uma antiga, por exemplo quando vemos uma pesquisa mostrando uma incidência de 5% de complicações coronarianas nos usuários de café, em oposição a 0% nos usuários de modafinil.
Nosso cérebro está programado para aprender que algo
não é seguro se descobrimos sobre alguém que sofreu os
efeitos maléficos da substância, não se vemos um número
abstrato escrito em alguma pesquisa.
Participantes foram instruídos a avaliar qual era o perfil médio de membros
de um grupo no qual estavam com respeito a uma lista de habilidades. Em
seguida foram requisitados para avaliar a si próprios com relação a essa
média.
Esse viés faz com que muitas
pessoas se considerem imunes
aos vieses e falhem em corrigi-
los.
Ilusão de Superioridade
Em geral todos os participantes do grupo avaliaram a média
mais ou menos corretamente, no entanto quase todos se
avaliaram como acima da media – mesmo a média sendo
definida justamente como o perfil mais comum.
Um experimentador fingiu ter um ataque cardíaco perto de
grupos de uma, três, cinco ou dez pessoas.
Em quais dos grupos a probabilidade dele ser atendido era maior?
No de uma pessoa!
A probabilidade de o experimentador ser socorrido
decaiu conforme o número de pessoas aumentou.
Isso ocorre, porque quanto maior o grupo maior a difusão de responsabilidade
entre as pessoas e menor a probabilidade de alguém se sentir responsável o
suficiente para agir.
Viés da Apatia
A probabilidade de alguém reclamar caso entre um grupo de fumantes num
ambiente fechado é inversamente proporcional ao número de pessoas não
fumantes
E em caso de infarto, aponte
uma única pessoa da multidão
em vez de simplesmente pedir
por ajuda.
Nunca delegue tarefas publicamente que podem ser feitas individualmente por
qualquer uma das pessoas de um grupo. É mais eficaz eleger uma única pessoa
ou informar as pessoas uma a uma sobre a tarefa.
Participantes de diversos experimentos foram
apresentados a uma longa lista de palavras
relacionadas a um único tema pontual. Em seguida
foram perguntadas se uma palavra específica
relacionada ao tema, que não estava na série, estava
ou não na série.
Memória Fabricada
A grande maioria dos participantes não só afirmou que a palavra estava na
serie como inventou uma memória episódica sobre qual palavra veio depois e
antes da palavra perguntada.
Em outra classe de experimentos os participantes foram instigados
indiretamente a imaginar uma certa cena fictícia. Após alguns dias
elas foram requisitadas a se lembrar de um evento passado, em
que, sem os participantes saberem, a cena fictícia se encaixaria. A
maioria dos participantes acreditou piamente que a cena fictícia
tinha ocorrido.
Esse viés é tão forte que atualmente não
existe nenhum método experimental
conclusivo para diferenciar memórias
fabricadas de verdadeiras.
Num dos experimentos os participantes foram apresentados a um vídeo de um
carro vermelho, de fácil identificação, batendo em um táxi. Após alguns dias
foram mostrados uma cena de um carro azul, de difícil identificação, batendo em
um táxi e questionados sobre a cor do táxi. Quando questionados, a vasta
maioria dos participantes afirmou que a cor do novo táxi era vermelha.
Se perguntadas sobre suas características (e.g.: traços de
personalidade, habilidades cognitivas, habilidades motoras, etc..)
de um passado imediato as pessoas tendem imediatamente a
dizer que elas são as mesmas características que as atuais.
Quando questionadas sobre suas características do passado
remoto as pessoas tendem imediatamente a dizer que elas
mudaram em relação as atuais.
Quando infelizes as pessoas tendem a avaliar as características suas no passado
como melhores que as atuais. Quando felizes as pessoas tendem a avaliar
características suas no passado como piores que as atuais.
O que se observa é que características pessoais mudam muito
pouco ao longo do tempo.
Ilusões de Mudança
As pessoas tendem a achar mais agradáveis imagens que já tenham visto anteriormente, até um certo limite de exposição depois do qual elas enjoam da imagem. O número limite de exposição é diretamente proporcional à complexidade da imagem. Esse efeito é válido mesmo quando não ocorre o reconhecimento consciente da imagem.
Um efeito semelhante é valido para sentenças. Em um experimento os participantes
foram apresentados a um grupo de sentenças e informados que todas elas tinham
50% de chance de serem verdadeiras e 50% de serem falsas. Após algumas horas
eles foram apresentados a outro grupo de sentenças, algumas das quais presentes no
grupo anterior, e questionados acerca da validade de cada uma delas.
As sentenças recorrentes foram qualificadas em geral como mais válidas que as que
apareciam pela primeira vez. Isso significa que quanto mais você sabe a respeito de um
tema mais enviesado para verdadeiro será o seu julgamento a respeito de qualquer
sentença sobre aquele tema.
Efeitos de Exposição
Riscos
Existenciais
A maioria dos especialistas no assunto calcula que temos uma chance maior de
20% de sermos extintos até o fim desse século.
Possíveis causas:
Meteoros
Acidentes Nucleares
Supervulcanismo
Biotecnologia
Inteligência Artificial
Etc.
A morte de 7 bilhões de seres humanos nem
de longe se iguala à real perda de uma
extinção
Extinção significa a perda de todo o potencial
futuro de vida humana, todas as nossas
potencialidades seriam completamente
eliminadas.
Conservativamente, calcula-se que a extinção da humanidade acarretaria
numa perda de 1054 vidas humanas
(1.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0
00.000)
Infelizmente, a maior parte das pessoas, quando entra em contato com esse
tipo de dado, prefere ignorar suas consequências como algo de ficção
cientifica, de um futuro distante e longínquo que nada tem a ver com a sua
vida.
Isso ocorre pois existe uma gama exacerbada de vieses agindo na análise
desse tipo de risco. Alguns dos já citados nessa apresentação seriam o dos
cisnes negros, da retrospecção e da apatia.
A perda seria tão grande que, utilitariamente, não existe nenhuma outra tarefa
moralmente melhor para a humanidade do que a de se dedicar – direta ou
indiretamente – a diminuição dos riscos existenciais.
Viés de Seleção Observacional Dado o passado da vida inteligente na Terra, como você avalia a probabilidade
de uma extinção futura?
Seja lá qual foi seu raciocínio, se ele usou o passado da vida inteligente na
terra como fonte de informação ele está errado.
A probabilidade de extinção no passado dada a nossa existência
atual é necessariamente 0. Ela não tem qualquer relação com a
real probabilidade de extinção que enfrentamos.
Em contraste com quase todos os outros campos do
conhecimento, no campo da análise do risco de extinção, o
nosso passado tem poder preditivo nulo sobre o futuro.
Essa dificuldade e maneiras de solucioná-las foram mais
substancialmente elaboradas recentemente pelo filósofo
sueco, fundador do transhumanismo, Nick Bostrom. Mas
ainda existem inúmeros problemas altamente complexos
em aberto.
Dentre os vários riscos, o resultado mais comum é um inverno nuclear e a
fome generalizada subseqüente. Tente imaginar vividamente todos os
que você ama e se importa morrendo lentamente de fome num mundo
onde o completo caos social foi instalado e repleto de cadáveres
humanos em putrefação.
Esse cenário atroz pode ajudar nosso cérebro primitivo a dar a
devida atenção para um campo ao qual, mesmo evitando-se todos os
vieses, é extremamente difícil dar a atenção emocional proporcional
ao que o resultado do cálculo racional sugeriria.
Existem ainda muitos outros vieses e tendências irracionais agindo nesse
campo:
•Desconto do Futuro Hiperbólico
•Baixa compaixão com quem não pertence ao seu grupo
•Insensibilidade ao Escopo (i.e.: preferimos salvar 7 passarinhos do que
700)
•Viés da Intencionalidade dos Riscos
•Crenças ‘Milenaristas’
IERFH O Instituto de Ética, Racionalidade e Futuro da Humanidade (IERFH) é uma ONG
em processo de formação que tem como missão: “Reunir mentes e conhecimentos
para geração de alto impacto positivo a longo prazo.”
Estamos construindo um portal do Instituto, com textos, noticiais e discussões
que visem cumprir essa missão. Qualquer ajuda que você puder oferecer é
bem vinda. (Atualmente precisamos fazer o sistema de cadastro do site,
dentre outras coisas)
Contato:
Atividades:
Fundamentação Ética,
Pesquisas de Alto Impacto,
Divulgação, Riscos
Existenciais e Catastróficos,
Correção de Vieses Cognitivos
Consultoria
Consultoria em forma de palestras e análises para empresas ou outras
instituições
Isabella Bertelli: Graduada em Psicologia(USP). Mestranda em
Psicologia Experimental(USP), no estudo do Desconto do Futuro.
11 7241-9237
João Lourenço: Graduado em Filosofia(USP). Mestrando em
Filosofia da Mente (USP), no estudo do Futuro da Mente Humana e
na correção de vieses cognitivos
11 6388-2680
Bibliografia Recomendada:
• ‘Cognitive Biases Potentially Affecting Judgment of Global Risks’ – Elizer
Yudkowsky
• Cognitive Illusions: A Handbook on Fallacies and viéses in Thinking,
Judgement and Memory – Pohl (ed)
• The Handbook of Evolutionary Psychology - David Buss(ed)
• http://wiki.lesswrong.com/wiki/How_To_Actually_Change_Your_Mind
