Ao vivo
Hackeando o Panóptico: Vigilância Distribuída e os Limites do Modelo de Bentham
Prof.AMRAlexandre Morais da Rosa
Wiki-GPCE

Dilema de Collingridge - Tecnologia

Verbete Dilema de Collingridge

7 min de leitura·Atualizado em 11 de novembro de 2026

[1] Dilema de Collingridge

[1.1] Definição em uma Frase

O Dilema de Collingridge descreve a troca entre conhecer os efeitos de uma tecnologia e conseguir mudá-la: no começo, a mudança custa pouco e os efeitos permanecem desconhecidos; depois os efeitos aparecem e a mudança custa muito.

[1.2] Quadro Técnico: Posição Convencional

David Collingridge, vinculado à Technology Policy Unit da University of Aston, formulou o dilema em The Social Control of Technology [1980]. Collingridge fixa duas condições para evitar as consequências indesejadas de uma tecnologia: "It must be known that a technology has, or will have, harmful effects, and it must be possible to change the technology in some way to avoid the effects" [Collingridge, 1980, p. 16, conforme Croy, 1996].

A literatura distingue dois problemas. O problema de informação ocorre no começo da tecnologia: os efeitos sociais permanecem imprevisíveis até a tecnologia alcançar ampla difusão. O problema de poder ocorre depois: a tecnologia, entrelaçada à economia e à sociedade, resiste ao controle. Collingridge denomina "prediction horn" [ponta da predição] a situação inicial e "control horn" [ponta do controle] a situação posterior [Croy, 1996].

"When change is easy, the need for it cannot be foreseen; when the need for change is apparent, change has become expensive, difficult and time consuming."

A formulação consta em [Collingridge, conforme Thierer, 2018]. Em tradução livre: quando a mudança é fácil, a necessidade dela não pode ser prevista; quando a necessidade é evidente, a mudança torna-se cara, difícil e demorada.

Collingridge rejeita o aperfeiçoamento da previsão como saída, porque a decisão sobre tecnologia no início ocorre sob ignorância. A saída proposta é a corrigibilidade [Croy, 1996]:

"A decision is easy to correct, or highly corrigible, when, if it is mistaken, the mistake can be discovered quickly and cheaply and when the mistake imposes only small costs which can be eliminated quickly and at little expense."

A citação consta em [Collingridge, 1980, p. 32, conforme Croy, 1996].

Diagrama de fluxo em três etapas: 1 decidir em passo pequeno; 2 monitorar; 3 corrigir; retorno ao passo 1 com a informação obtida

Ciclo da corrigibilidade.

O quadro a seguir reúne as posições em disputa sobre a saída do dilema.

Quadro com cinco posições sobre o Dilema de Collingridge: corrigibilidade; precaução no texto da Declaração do Rio; precaução na formulação de crítico; proação; crítica interna, cada uma com tese e fonte

Posições sobre o Dilema de Collingridge.

Dispositivo citado no quadro [Declaração do Rio, Princípio 15]:

"Com a finalidade de proteger o meio ambiente, os Estados deverão aplicar amplamente o critério de precaução conforme suas capacidades. Quando houver perigo de dano grave ou irreversível, a falta de certeza científica absoluta não deverá ser utilizada como razão para que seja adiada a adoção de medidas eficazes em função dos custos para impedir a degradação ambiental."

[1.3] Explicação Feynman

Uma tecnologia que acabou de surgir se parece com uma ideia que nasceu hoje. No começo, poucas pessoas dependem da ideia, então qualquer pessoa consegue mudá-la sem gastar muito. No começo, ninguém sabe quais problemas a ideia vai causar, porque os problemas só aparecem depois que muita gente passa a usá-la. Quando os problemas aparecem, milhões de pessoas, empresas e leis já dependem da ideia. Mudar a ideia passa a custar dinheiro, tempo e briga. O dilema nomeia a armadilha: quando mudar sai barato, falta saber o que mudar; quando se sabe o que mudar, mudar sai caro.

[1.4] Analogia do Cotidiano

Uma casa em construção reproduz a estrutura do instituto. Antes de a laje endurecer, mover uma parede custa uma tarde de trabalho, mas ninguém mora na casa, então ninguém descobre que o corredor fica escuro. Depois que a família se muda, o corredor escuro incomoda todos os dias, mas a parede agora está presa à laje, e a correção exige obra.

Exceção: a construtora que levanta paredes de gesso mantém a mudança barata mesmo com a família dentro. A parede de gesso corresponde à decisão corrigível proposta por Collingridge.

Exceção: a família que pergunta ao morador, desde o primeiro mês, sobre o corredor encontra o defeito antes de a casa envelhecer. A pergunta corresponde ao monitoramento.

[1.5] Síntese

[a] O que é, no contexto do termo. O Dilema de Collingridge integra a avaliação de tecnologia [technology assessment] e nomeia o descompasso entre o momento de conhecer os efeitos de uma tecnologia e o momento de poder alterá-la.

[b] Para que serve. O dilema localiza o problema da regulação no tempo e direciona a atenção do decisor para o desenho de decisões corrigíveis.

[c] Como funciona. O dilema opera em duas pontas. Na ponta da predição, o decisor escolhe sem conhecer os efeitos; a previsão falha. Na ponta do controle, o decisor conhece os efeitos; a rigidez desenvolvida da tecnologia encarece a correção.

[d] Como se aplica. A literatura aplica o dilema à regulação de inteligência artificial, onde o uso contínuo em setores de alto risco pode fixar defeitos antes do reconhecimento [position paper, arXiv 2511.00027]. O decisor aplica o dilema ao escolher regras e arquiteturas que permitam uma revisão rápida.

[1.6] Lacunas e Ruídos

O instituto vizinho é o Problema do Ritmo [pacing problem]. Frase de corte: o Dilema de Collingridge mede o tempo entre conhecer e poder mudar; o Problema do Ritmo mede a velocidade da tecnologia contra a velocidade do direito. Thierer descreve o dilema como uma reformulação do Problema do Ritmo, com ênfase nos fatores sociais e com a solução implícita do controle preventivo [Thierer, 2018].

Pegadinha típica: apresentar o dilema como argumento a favor da proibição prévia. Collingridge propõe a corrigibilidade; a literatura registra que a proposta difere do princípio da precaução [Genus, 2018; Croy, 1996].

Quadro comparativo entre o Dilema de Collingridge e o Problema do Ritmo, em quatro critérios: origem, variável central, formulação e resposta associada

Dilema de Collingridge e Problema do Ritmo.

[1.7] FAQ

[a] Quem formulou o dilema? David Collingridge, na University of Aston, no livro de 1980.

[b] O dilema tem solução? Collingridge propõe decisões corrigíveis; Croy propõe resolver o dilema entre as duas pontas, porque a previsão avança por graus [Croy, 1996].

[c] Qual exemplo Collingridge usa? O automóvel: em 1908, a mudança de projeto era fácil e os efeitos sociais eram imprevisíveis; hoje, os efeitos são conhecidos e a mudança é difícil [Croy, 1996].

[d] A corrigibilidade tem custo? Tem. Croy aponta que o custo de monitorar, o custo do erro e o tempo de correção resistem à medição nos primeiros dias de uma tecnologia [Croy, 1996].

[e] A citação do dilema é rigorosa? Genus aponta um descompasso entre a frequência das citações a Collingridge e a profundidade da leitura da obra [Genus, 2018].

[1.8] Glossário de Termos

Corrigibilidade: propriedade da decisão cujo erro se descobre rápido e barato e cujo custo se elimina rápido e a pouca despesa.

Entrincheiramento: estado da tecnologia incorporada à economia e à sociedade a ponto de resistir à alteração.

Incrementalismo: método de adoção da tecnologia em passos pequenos, com aprendizado por tentativa e erro.

Monitoramento: exame contínuo das consequências reais de uma decisão com o fim de encontrar o erro.

Problema de informação: condição em que os efeitos de uma tecnologia permanecem imprevisíveis até a difusão ampla.

Problema de poder: condição em que o controle de uma tecnologia entrincheirada exige uma alteração cara, difícil e demorada.

Tentativa e Erro Inteligente [Intelligent Trial and Error]: método de gestão da inovação com decisão descentralizada, mudanças administráveis, tecnologias flexíveis e aprendizado rápido.

[1.9] Referências Bibliográficas