Defensores da mitigação de riscos existenciais argumentam que a falta de engajamento público impede avanços regulatórios e apoiam a criação de uma base eleitoral mobilizada.
A comunidade dedicada à segurança existencial em inteligência artificial precisa priorizar a construção de movimentos sociais e cívicos como uma intervenção central para mitigar riscos catastróficos. Segundo um texto publicado no LessWrong por pesquisadores e ativistas da área, a mobilização pública é uma abordagem de alto valor e historicamente negligenciada, pois aumentaria as chances de sucesso de esforços de governança voltados para a proteção da humanidade.
A tese central dos autores é que a simples comunicação de argumentos sobre os perigos da IA por grupos de defesa, ou a elaboração de propostas técnicas por especialistas, não é suficiente para mudar o cenário regulatório. A lacuna identificada é de natureza política: o que os formuladores de políticas ouvem não se alinha com o que seus incentivos eleitorais exigem. Sem uma base de eleitores pressionando por medidas de segurança, os parlamentares não têm estímulo para agir.
Essa dinâmica foi observada de forma prática durante uma conferência no Parlamento Europeu. Segundo o relato, um membro do parlamento europeu afirmou concordar com os alertas sobre os riscos da tecnologia, mas explicou que não poderia tomar medidas concretas sem o respaldo e o apoio do público. A construção dessa base de apoio eleitoral é vista como o elo perdido para o avanço de controles mais rigorosos sobre a IA.
Para suprir essa carência, o texto aponta a organização PauseAI como a única entidade atualmente dedicada a construir essa infraestrutura de mobilização em diferentes continentes. Os autores defendem que o financiamento desse tipo de trabalho cívico representa uma das formas mais eficientes de contribuir para a redução dos riscos associados ao desenvolvimento de sistemas de IA avançados.
O artigo faz questão de estabelecer uma distinção organizacional. Segundo os autores, o texto se refere especificamente à atuação da PauseAI, diferenciando-a da PauseAI US. Esta última é descrita como uma entidade separada, com uma equipe de liderança distinta e uma abordagem diferente daquela defendida no documento original.
Pesquisadores argumentam que apenas argumentos técnicos de especialistas não mudam o cenário regulatório. É necessária uma base eleitoral mobilizada para criar incentivos políticos e pressionar os parlamentares a aprovarem medidas de segurança.
Durante uma conferência, um parlamentar europeu afirmou concordar com os alertas sobre os riscos da tecnologia, mas explicou que não poderia tomar medidas concretas sem o respaldo e o apoio do público.
O texto cita a organização PauseAI como a única entidade atualmente dedicada a construir essa infraestrutura de mobilização cívica em diferentes continentes, diferenciando-a da PauseAI US.