Especialistas tentam medir riscos menores para compreender cenários extremos, mas reconhecem limites nas previsões.
Calcular a probabilidade de que a inteligência artificial provoque a extinção humana é uma tarefa cercada de incertezas, segundo análise publicada pelo Financial Times. O debate ganhou força após Evan Hubinger, pesquisador sênior de segurança de IA da Anthropic, afirmar que considera superior a 10% a chance de a tecnologia matar todos os humanos na próxima década.
O chamado P(doom), sigla em inglês para a probabilidade de destruição, tenta condensar esse risco em um número. Geoffrey Hinton, pioneiro das redes neurais e vencedor do Nobel, também disse à BBC que uma estimativa de 10% não seria irracional, mas ponderou que ninguém sabe fazer um cálculo sensato sobre o tema.
Limites de uma previsão extrema
O cientista político Philip Tetlock defende que previsões sejam vinculadas a parâmetros objetivos e a prazos definidos, para que possam ser verificadas depois. Esse método se torna problemático quando o evento previsto é a morte de toda a população humana, pois esperar pelo resultado não é uma forma útil de testar a projeção.
Tetlock participa do projeto AIRO, sigla para Perspectiva Automatizada de Riscos de IA. A iniciativa reúne especialistas para estimar a possibilidade de desastres em escalas diferentes, desde perdas financeiras e mortes até cenários que envolveriam 10% da população mundial.
A ideia é que eventos menores e mensuráveis possam oferecer indícios sobre perigos mais amplos. Entre os exemplos avaliados pelo projeto estão uma perda de 1 bilhão de libras, equivalente a R$ 6,86 bilhões no texto de origem, ou 1.000 mortes atribuídas à tecnologia.
O que mostram as estimativas
Os especialistas consultados pelo AIRO não projetam um desastre imediato. Segundo as estimativas citadas, a chance de a IA matar cerca de 1 bilhão de pessoas é inferior a 0,5% até 2030 e a 5% até 2050.
Dados citados por especialistas do projeto AIRO.
- 1 bilhão de librasPerda avaliadaR$ 6,86 bilhões no texto
- 1.000Mortes avaliadasCenário analisado pelo projeto
- menos de 0,5%Risco até 20301 bilhão de mortes por IA
- 5%Risco até 20501 bilhão de mortes por IA
- 8,5% até 2050Catástrofe por qualquer causaInclui outros riscos globais
Para comparação, a probabilidade apontada de uma catástrofe por qualquer causa, incluindo armas nucleares, vírus ou colisões de asteroides, é de 8,5% até 2050. A análise ressalta, porém, que números isolados não resolvem o problema de orientar decisões sobre regulação e segurança da IA.
Previsões não bastam para decisões
O texto também argumenta que previsões podem cumprir funções além de antecipar acontecimentos, como atrair atenção ou alimentar debates. Ao concentrar o foco em um único risco, porém, elas podem deixar em segundo plano ameaças como guerra nuclear, mudança climática, pandemias e colapso financeiro.
Como exemplo, a análise cita planejadores de uma grande empresa de computadores que estimaram a demanda global por capacidade de processamento, mas não discutiram de que forma essa capacidade seria usada. A previsão poderia estar correta, mas não responderia se o mercado seria dominado por computadores de grande porte, laptops ou consoles de videogame.
Com informações de redir.folha.com.br.
Foto de capa: מקף־עברי/Wikimedia Commons (CC BY-SA 4.0)
