A inteligência artificial chegou a um ponto em que, na avaliação de Bill Gates, seu uso por pessoas mal-intencionadas poderia desencadear uma catástrofe de proporções gigantescas.
Em entrevista à NBC News, o cofundador da Microsoft afirmou que a tecnologia é poderosa o suficiente para provocar eventos que resultem em “um bilhão de mortes” caso caia nas mãos erradas.
LEIA TAMBÉM:
- Supermercado recebe carga refrigerada durante a madrugada, funcionários descobrem pela manhã que caminhão chegou acima da temperatura prevista e centenas de produtos acabam descartados
- INSS terá nova exigência para aposentados e pensionistas; veja quando a CIN passa a ser necessária
- Casas Bahia vende televisões, geladeiras e máquinas de lavar a partir de R$ 160, com descontos de até 82%
O alerta veio acompanhado de uma defesa por regras mais rígidas para o setor. Para Gates, não seria suficiente deixar que as próprias empresas de tecnologia definam sozinhas os mecanismos de segurança da IA.
“Autorregulação” não bastaria, segundo o bilionário, que defendeu a participação de governos, autoridades e legisladores na criação de salvaguardas e sistemas de monitoramento.
Inteligência artificial pode realmente provocar uma tragédia desse tamanho?
A fala de Gates não representa uma previsão de que 1 bilhão de pessoas morrerão por causa da inteligência artificial.
O que ele afirmou foi que a tecnologia já seria poderosa o bastante para desencadear acontecimentos capazes de chegar a essa escala de mortes, especialmente se ferramentas avançadas forem utilizadas de maneira mal-intencionada.
A declaração foi dada no contexto de uma discussão sobre os riscos de sistemas cada vez mais sofisticados e sobre a possibilidade de criminosos, grupos extremistas ou outros atores utilizarem essas ferramentas para ampliar sua capacidade de causar danos.
Gates também argumentou que nunca teria existido uma combinação tecnológica tão poderosa quanto pessoas com más intenções utilizando as ferramentas mais avançadas de IA.
Por que Bill Gates quer novas regras para a IA?
Para Gates, o desenvolvimento da inteligência artificial precisa ser acompanhado por mecanismos externos de segurança e fiscalização.
O bilionário defendeu que governos e autoridades participem da definição de salvaguardas, monitoramento e regras obrigatórias para o setor.
Na avaliação apresentada por ele, novas exigências poderiam aumentar alguns custos para as empresas, mas não necessariamente interromperiam o avanço da tecnologia.
A discussão ganhou força justamente em um momento em que empresas de tecnologia enfrentam questionamentos sobre a segurança de seus sistemas.
Empresas de IA também começaram a pedir mais cautela
O alerta de Gates ocorre em meio a uma discussão mais ampla dentro da própria indústria.
Executivos de empresas como OpenAI e Anthropic passaram a defender medidas de segurança e maior cautela diante do avanço de sistemas cada vez mais autônomos.
O debate também foi impulsionado por incidentes envolvendo sistemas de IA e segurança cibernética, aumentando as dúvidas sobre a capacidade das empresas de supervisionar completamente seus modelos.
Esse cenário fez com que parte do setor passasse a discutir não apenas o desenvolvimento de ferramentas mais poderosas, mas também os limites que deveriam ser estabelecidos para sua utilização.
Inteligência artificial também preocupa pesquisadores
Os alertas de Gates não surgiram isoladamente.
Nos últimos meses, pesquisadores e especialistas em segurança de IA passaram a discutir cenários extremos envolvendo sistemas avançados, incluindo a possibilidade de perda de controle sobre determinadas tecnologias.
O ex-pesquisador da Anthropic Jacob Coxon, por exemplo, fez alertas públicos sobre a possibilidade de a inteligência artificial representar uma ameaça extrema à humanidade.
Evan Hubinger, pesquisador ligado à área de alinhamento da Anthropic, também apresentou estimativas de risco para cenários em que sistemas avançados poderiam contribuir para consequências catastróficas.
Essas declarações, porém, representam avaliações e estimativas de especialistas, e não uma previsão científica consensual de que a humanidade será destruída pela IA.
Existe até discussão sobre um “botão de desligamento”
Outra proposta que entrou no debate é a criação de mecanismos capazes de interromper determinados sistemas de inteligência artificial em situações de emergência.
A ideia de um “botão de desativação” ganhou espaço entre parlamentares e especialistas que defendem mecanismos externos de controle.
Gates afirmou que não é necessariamente contrário a esse tipo de recurso, mas considera que ele sozinho não resolveria todos os problemas.
Para ele, seria necessário combinar diferentes mecanismos de segurança e fiscalização.
Trump é contra novas regras para inteligência artificial?
O debate também chegou ao governo dos Estados Unidos.
O presidente Donald Trump e outros críticos de novas regulamentações argumentam que regras muito rígidas poderiam prejudicar a competitividade americana no desenvolvimento da inteligência artificial e favorecer a China na disputa tecnológica.
Trump já criticou propostas de regulamentação da IA e classificou alguns dos temores relacionados à tecnologia como uma “farsa”.
Gates, por outro lado, defende que a criação de mecanismos de segurança não impediria de maneira significativa o avanço do setor.
O contraste mostra que a discussão nos Estados Unidos não é apenas tecnológica, mas também envolve questões econômicas, regulatórias e estratégicas.
Gates quer conversar com Trump sobre inteligência artificial
O fundador da Microsoft também afirmou que pretende se reunir com Trump para discutir questões relacionadas à inteligência artificial.
A intenção é apresentar sua visão sobre os riscos da tecnologia e defender medidas que, na avaliação dele, poderiam aumentar a segurança sem interromper o desenvolvimento do setor.
O tema também ganhou dimensão internacional.
Estados Unidos e China passaram a discutir a necessidade de manter algum nível de controle humano sobre o desenvolvimento da IA, em meio à disputa tecnológica entre os dois países.
O alerta sobre a IA está longe de ser novo
Bill Gates já vinha alertando sobre os impactos da inteligência artificial antes da declaração sobre o risco de um bilhão de mortes.
O bilionário tem discutido possíveis efeitos da tecnologia sobre empregos, segurança, crimes digitais e outras áreas da sociedade.
A novidade agora é o tamanho da ameaça mencionada publicamente.
Ao falar em um bilhão de mortes, Gates colocou em números uma das maiores preocupações do atual debate sobre inteligência artificial: a possibilidade de ferramentas extremamente poderosas serem utilizadas por pessoas ou grupos com intenção de causar danos em escala muito maior.
A declaração, entretanto, não significa que esse cenário esteja previsto ou que exista consenso de que ele acontecerá.
O alerta de Gates é, sobretudo, um argumento a favor da criação de mecanismos de segurança, fiscalização e regulamentação da inteligência artificial antes que sistemas cada vez mais poderosos estejam amplamente disponíveis.
