
Digital Minds
Pode AI perder o controle
Tradução gerada automaticamente, pode conter erros.
Somos notavelmente bons em notar quando outras pessoas estão fazendo coisas estúpidas.
O cara dirigindo a 140 km/h reclama do “lunático” que passou por ele aos 160. Alguém pede sobremesa depois do almoço e anuncia que precisa começar a fazer dieta na segunda. Passamos quatro horas por dia olhando nossos telefones e então explicamos, com absoluta convicção, que os jovens são viciados em tecnologia.
Ser humano é uma experiência fascinante. Especialmente quando observado de fora.
Talvez seja por isso que toda essa discussão sobre inteligência artificial é tão interessante.
Nas últimas semanas, alguns dos maiores nomes da indústria começaram a dizer que talvez estejamos indo muito rápido. Dario Amodei, CEO da Anthropic, argumentou para retardar o desenvolvimento dos modelos mais avançados. Elon Musk concordou. Outros executivos também expressaram preocupação. Jacob Coxon, um pesquisador que trabalhava na OpenAI e Anthropic, deixou a empresa com críticas ainda mais fortes à corrida para sistemas cada vez mais poderosos.
A preocupação central é fácil de explicar e um pouco aterrorizante de pensar, a IA está se tornando cada vez mais capaz de ajudar os humanos a desenvolver a próxima geração de IA. A indústria chama a possibilidade mais extrema deste processo de auto-melhoria recursiva. Em algum momento, essa assistência poderia acelerar o desenvolvimento de formas que se tornam difíceis de acompanhar.
Tudo bem. Então vamos devagar.
Certo?
Bem…
Não exatamente.
Todos parecem concordar que travar seria prudente. Ninguém quer ser o primeiro a fazer isso.
E talvez essa seja a parte mais humana de toda essa história.
Deveria dormir mais, mas há uma série que quer terminar. Sabe que deveria gastar menos, mas há uma venda. Você deveria parar de responder mensagens depois de horas, mas só mais uma chegou. Você sabe que deveria ir devagar, mas seu concorrente não vai.
Pronto. Bem-vindo ao problema.
Em inteligência artificial, basta substituir a série, o cartão de crédito, e WhatsApp por alguns bilhões de dólares, data centers, fichas avançadas, e uma corrida geopolítica entre os Estados Unidos e a China.
A lógica permanece surpreendentemente semelhante.
Antrópico pode acreditar que seria prudente abrandar. Mas e se OpenAI não? OpenAI pode pensar a mesma coisa. Mas e se o Google continuar? Os Estados Unidos podem decidir que um certo avanço requer mais cautela. Mas e a China?
Todos querem salvar o futuro da humanidade.
Desde que ninguém tenha que perder a corrida.
É engraçado. E um pouco assustador.
Porque tendemos a imaginar que decisões dessa magnitude são tomadas por pessoas muito mais racionais do que nós. Executivos brilhantes. Cientistas. Governos. Conselhos de diretores. Pessoas que provavelmente têm uma planilha para decidir se precisam de outra planilha.
Então você olha um pouco mais de perto e descobre que, no final, todos eles estão lidando com versões mais sofisticadas dos mesmos dilemas que enfrentamos:
“Sei que seria melhor parar.”
“Mas e se o outro cara não?”
É basicamente isso.
Só com supercomputadores.
Talvez a IA se torne muito poderosa. Talvez não possa. Talvez algumas das previsões de hoje pareçam ridículas daqui a dez anos. Talvez olhemos para trás e perguntemos: “Como ninguém viu o que estava acontecendo?”
A verdade menos excitante é que ninguém realmente sabe.
E só isso deve ser motivo suficiente para alguma cautela.
Mas há algo ainda mais interessante: hoje, inteligência artificial não está tomando essas decisões. Não decidiu que precisava vencer a competição. Não decidiu aumentar sua avaliação. Não decidiu capturar parte de mercado. Não decidiu lançar o próximo modelo antes de todos. Não decidiu que ficar em segundo é inaceitável.
Nós fizemos.
As máquinas ainda nem tomaram o controle. Relaxe. Ainda somos perfeitamente capazes de estragar tudo sem a ajuda deles.
Talvez essa seja a parte desta história que mais me interessa, porque temos uma tendência extraordinária de projetar nossas próprias falhas na tecnologia.
“AI vai manipular as pessoas.”
Já fazemos isso.
“AI perseguirá o poder.”
Nós fazemos isso também.
“AI pode tomar decisões baseadas apenas em alcançar seus próprios objetivos.”
Talvez não devêssemos abrir essa porta.
O problema nunca foi apenas o que uma máquina poderia se tornar. É o que já somos: competitivo, ambicioso, vaidoso, com medo, e profundamente desconfortável com a ideia de que alguém poderia chegar lá primeiro.
E isso não se aplica apenas a empresas de tecnologia ou governos.
Se aplica a você.
Quantas vezes continuamos indo em uma direção só porque parar é pior? Uma carreira que não faz mais sentido. Um projeto que claramente não está funcionando. Um relacionamento que morreu meses atrás. Um mau investimento. Uma estratégia de negócios que ninguém mais acredita, mas que já consumiu muito dinheiro para alguém admitir que talvez tenha sido uma péssima ideia.
Há até um termo técnico legal para isso: a falácia dos custos afundados.
Na prática, geralmente significa algo muito mais simples:
Fomos longe demais para voltar atrás agora.
Muito racional.
Muito humano.
Talvez seja por isso que suspeito sempre que a inteligência artificial é tratada puramente como um problema tecnológico. A tecnologia não se envergonha de admitir que foi errado. Não precisa explicar a um conselho por que gastou bilhões em uma estratégia que agora precisa ser abandonada. Ele não tem uma carreira para proteger ou um ego para trazer para a sala.

Temos.
E talvez seja aí que essa história se torna realmente interessante.
Não na possibilidade cinematográfica de uma máquina acordar amanhã e decidir dominar o mundo, mas na possibilidade muito menos glamorosa de um grupo de pessoas extremamente inteligentes perceber que desacelerar provavelmente seria sábio – e continuar a acelerar porque ninguém quer ser o idiota que bateu os freios primeiro.
E isso me leva à questão que me interessa muito mais do que qualquer previsão apocalíptica sobre inteligência artificial:
Se soubesse que deveria frear, mas também sabia que seu concorrente provavelmente não faria, ainda faria isso?

Esta matéria foi produzida pela equipe editorial da Westhon Media para o One Energy News.